Twitter’ın algoritması, genç ve açık derilileri tercih ediyor Twitter, fotoğraf kırpma sistemindeki algoritmik önyargıları tespit etmek için bir yarış başlatmıştı. Şirket müsabakanın sonuçlarını deklare etti.
Twitter geçtiğimiz sene kullanıcılar tarafınca yapılan araştırmalar kararında uygulamanın siyah yüzler yerine beyaz yüzleri tercih ettiğini öne sürdükten daha sonra Mart ayında otomatik fotoğraf kırpma özelliğini devre dışı bırakmıştı. Akabinde da sorunu daha yakından incelemek için algoritmik yanılgı mükafatı başlattı.
Twitter açık derilileri tercih ediyor
Müsabakada elde edilen bulgular tezleri doğruladı. Kazanan yarışmacı algoritmanın ince, genç, açık ciltli ya da sıcak ciltli bireylerin yüzlerini tercih ettiğini tespit etti. İkinci ve üçüncü sıradaki yarışmacılar ise sistemin beyaz yahut gri saçlı şahıslara karşı önyargılı olduğunu, yaş ayrımcılığının tespit edildiğini ve manzaralarda Arapça yazılar yerine İngilizcenin tercih edildiğini belirtti.
DEF CON 29 konferansında açıklanan sonuçların sunumu sırasında Twitter’ın META takımının yöneticisi Rumman Chowdhury, iştirakçileri algoritmik önyargının gerçek hayattaki tesirlerini tespit edip açığa çıkardıkları için övdü.
Chowdhury, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, bu yalnızca akademik ya da deher neysel tabirini kullanıyorum. Bu filtreyi oluşturuyoruz zira hoş olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve cazip olmanın ne manaya geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor” dedi.
Twitter’ın müsabakasının sonuçları algoritmik sistemlerde toplumsal önyargıların nasıl çalıştığını gözler önüne seriyor. hem de teknoloji şirketlerinin bu sıkıntılarla nasıl uğraş edebileceğini de gösteriyor.
Şirketin müsabakasında heyet olarak nazaranv yapan Patrick Hall ise, tüm sistemlerde bu çeşit önyargıların bulunduğunu ve şirketlerin bunları bulmak için proaktif olarak çalışması gerektiğini vurguladı.
Twitter geçtiğimiz sene kullanıcılar tarafınca yapılan araştırmalar kararında uygulamanın siyah yüzler yerine beyaz yüzleri tercih ettiğini öne sürdükten daha sonra Mart ayında otomatik fotoğraf kırpma özelliğini devre dışı bırakmıştı. Akabinde da sorunu daha yakından incelemek için algoritmik yanılgı mükafatı başlattı.
Twitter açık derilileri tercih ediyor
Müsabakada elde edilen bulgular tezleri doğruladı. Kazanan yarışmacı algoritmanın ince, genç, açık ciltli ya da sıcak ciltli bireylerin yüzlerini tercih ettiğini tespit etti. İkinci ve üçüncü sıradaki yarışmacılar ise sistemin beyaz yahut gri saçlı şahıslara karşı önyargılı olduğunu, yaş ayrımcılığının tespit edildiğini ve manzaralarda Arapça yazılar yerine İngilizcenin tercih edildiğini belirtti.
DEF CON 29 konferansında açıklanan sonuçların sunumu sırasında Twitter’ın META takımının yöneticisi Rumman Chowdhury, iştirakçileri algoritmik önyargının gerçek hayattaki tesirlerini tespit edip açığa çıkardıkları için övdü.
Chowdhury, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, bu yalnızca akademik ya da deher neysel tabirini kullanıyorum. Bu filtreyi oluşturuyoruz zira hoş olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve cazip olmanın ne manaya geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor” dedi.
Twitter’ın müsabakasının sonuçları algoritmik sistemlerde toplumsal önyargıların nasıl çalıştığını gözler önüne seriyor. hem de teknoloji şirketlerinin bu sıkıntılarla nasıl uğraş edebileceğini de gösteriyor.
Şirketin müsabakasında heyet olarak nazaranv yapan Patrick Hall ise, tüm sistemlerde bu çeşit önyargıların bulunduğunu ve şirketlerin bunları bulmak için proaktif olarak çalışması gerektiğini vurguladı.