Irkçı yapay zeka!

Joy Buolamwini MIT’de bilgisayarlara insan yüzünü algılamayı öğretirken garip bir durumla karşılaştı. Tüm iş arkadaşlarının yüzünü başarıyla algılayan sistem Boulamwini’nin yüzünü algılamakta güçlük çekiyordu. Araştırmacı sistemin daha açık tenli iş arkadaşlarında işe yaradığını görünce yüzüne beyaz bir maske takarak yeniden kameranın karşısına geçti ve sistem bu kez Boulamwini’nin yüzünü de algılamaya başladı.

Bunun daha geniş çaplı bir sorun olabileceğini düşünen araştırmacı, Microsoft, IBM ve Face++ gibi yapay zeka tabanlı yüz algılama sistemlerinde de çalışmalar düzenledi. Sistemlere gösterilen bin adet yüz fotoğrafının cinsiyetinin belirlenmesi için yürütülen çalışmada, tüm yazılımların beyaz tenli erkekleri algılama konusunda oldukça başarılı olduğu ancak koyu tenli kadınlar söz konusu olduğunda hata oranının yüzde 34 arttığı görüldü. Çalışma sonuçları, 24 Şubat’ta New York’ta düzenlenen Adalet, Sorumluluk ve Şeffaflık Konferansı’nda Boulamwini tarafından açıklandı.

Kadınlarda ten rengi koyulaştıkça algoritmaların cinsiyeti doğru tahmin etme oranının azaldığını belirten Boulamwini, “En koyu tenli kadınlar söz konusu olduğunda yüz tanıma sistemlerinin cinsiyet algılama tahminleri yazı-tura atmaktan farksız hale geliyor, hata oranı yüzde 50’ye yaklaşıyor.” ifadelerini kullandı.