Twitter, yapay zekasının Siyah insanları, erkekleri fotoğraflardan ayırma eğiliminde olduğunu fark etti

by Bi'Burs

27 Eylül 2013’te çekilen bu resimde cep telefonu tutan insanlar, Twitter logosu ile yansıtılan bir fonda kontrast oluşturuyorlar. REUTERS / Kacper Pempel / İllüstrasyon / Dosya Fotoğrafı / Dosya Fotoğrafı

Twitter Inc’in (TWTR.N) görüntü kırpma algoritmasının Siyah insanları ve erkekleri dışlamaya yönelik sorunlu bir önyargıya sahip olduğunu belirten şirket, Çarşamba günü yaptığı yeni araştırmada, “Bir görüntünün nasıl kırpılacağı en iyi insanlar tarafından verilen bir karardır” dedi.

Üç makine öğrenimi araştırmacısı tarafından yapılan çalışma, geçen yıl Siyah insanların yüzleri dışındaki gönderilerdeki görüntü önizlemeleri hakkındaki kullanıcı eleştirisinin ardından gerçekleştirildi.

Demografik eşitlikten kadınlar lehine% 8’lik bir fark ve beyaz bireylere% 4’lük bir iyilik buldu.

Gazete, görüntü arka planı ve göz rengiyle ilgili sorunlar da dahil olmak üzere çeşitli olası nedenlere değindi, ancak hiçbirinin mazeret olmadığını söyledi.

Araştırmacılar, “Makine öğrenimine dayalı kırpma, temelde kusurludur çünkü kullanıcı aracılığını ortadan kaldırır ve kullanıcının kendi kimliğini ve değerlerini ifade etmesini kısıtlar, bunun yerine görüntünün hangi kısmının en ilginç olarak kabul edildiğine dair normatif bir bakış empoze eder.”

Sorunu çözmek için Twitter, kısa süre önce standart en boy oranlı fotoğrafları mobil uygulamalarında tam olarak – herhangi bir kırpmadan – göstermeye başladı ve bu çabayı genişletmeye çalışıyor.

Araştırmacılar ayrıca, “erkek bakışı” olarak bilinen şeyi yansıtarak, mahsullerin kadın bedenlerini baştan çok tercih edip etmediğini değerlendirdiler, ancak durumun böyle olmadığını keşfettiler.

Gazete, bulguların yüz tanıma ve metin analizinde tanımlanan demografik önyargılar da dahil olmak üzere yapay zeka sistemlerinden kaynaklanan farklı etkinin bir başka örneği olduğunu söyledi.

Microsoft Corp ve Massachusetts Institute of Technology’deki araştırmacılar tarafından 2018’de yapılan çalışmalar ve daha sonra ABD hükümeti tarafından yapılan bir çalışma, yüz analiz sistemlerinin beyaz olmayan insanları beyazlardan daha sık yanlış tanımladığını buldu.

Amazon Inc (AMZN.O), 2018’de kadınlara karşı önyargı gösteren bir yapay zeka işe alma aracını kaldırdı.

Standartlarımız: Thomson Reuters Güven İlkeleri.

You may also like

Leave a Comment