Meta AI’nin ırk temsilleri üzerindeki yanıltıcı etkisi

Meta AI, Asyalı adam ve Kafkas arkadaşı veya Asyalı adam ve beyaz eşi gibi basit gibi görünen konular için doğru görseller oluşturamıyor.

Şirketin görüntü oluşturucusunun, insanları aynı ırktan olan görseller oluşturma eğiliminde olduğu gözlemleniyor. Meta AI’da başka “daha ince” önyargı belirtileri de var, örneğin, Asyalı erkekleri yaşlı gösterme eğilimi ve Asyalı kadınları genç gösterme eğilimi. Görüntü oluşturucu bazen, talimatın bir parçası olmadığı halde kültürel olarak özgü kıyafetler ekliyor. Meta AI’nin neden bu tür talimatlarla başa çıkamadığı net değil, ancak ırk temsillerinde sorgulanan ilk generatif AI platformu değil.

Google’ın Gemini görüntü oluşturucusu, tarihi figürlerle ilgili isteklere çeşitlilikle aşırı düzeltme yaptıktan sonra insan görüntüleri oluşturma yeteneğini durdurdu. Google, iç kontrollerinin çeşitli sonuçların uygun olmadığı durumları hesaba katamadığını belirtti. Meta, yorum talebine hemen cevap vermedi. Şirket daha önce Meta AI’ı “beta” aşamasında olması ve bu nedenle hatalar yapması olarak tanımlamıştı. Meta AI, güncel olaylar ve kamuoyu figürleri hakkında doğru yanıt vermekte de zorlanıyor.