Facebook ve Instagram sahte yapay zeka görsellerini etiketleyecek

Facebook ve Instagram yanlış bilginin yayılmasını önlemek için sahte yapay zeka görsellerini etiketleyecek
Meta, çevrimiçi şeffaflığı korumak amacıyla Facebook, Instagram ve Threads’te yapay zeka tarafından üretilen görüntüleri işaretlemeye başlayacak.

Teknoloji devi, Imagine AI motoru tarafından üretilen içerikleri zaten görünür bir filigranla etiketliyor. İleride, OpenAI, Google ve Midjourney gibi üçüncü taraf kaynaklardan gelen resimler için de benzer bir şey yapacak. Bu etiketlerin tam olarak neye benzeyeceği bilinmiyor, ancak duyuru gönderisine bakıldığında, oluşturulan içeriğin yanında “AI Info” kelimelerinden oluşabilir. Meta, bu tasarımın nihai olmadığını belirtiyor ve güncelleme resmi olarak başlatıldığında değişebileceğini ima ediyor.
Görünür etiketlere ek olarak şirket, üçüncü taraf üreticilerden gelen görüntülerdeki “görünmez işaretleri tanımlamak” için araçlar üzerinde de çalıştığını söylüyor. Imagine AI bunu da içeriğinin meta verilerine filigranlar yerleştirerek yapıyor. Bunun amacı, düzenleme araçları tarafından manipüle edilemeyen benzersiz bir etiket eklemektir. Meta, diğer platformların da aynı şeyi yapmayı planladıklarını ve etiketli meta verileri tespit etmek için bir sistem istediklerini belirtiyor.

Ses ve video etiketleme
Şimdiye kadar her şey görüntülerin markalaştırılmasına odaklanmıştı, peki ya yapay zeka tarafından üretilen ses ve video? Google’ın Lumiere’i inanılmaz derecede gerçekçi klipler oluşturabiliyor ve OpenAI, ChatGPT’ye video oluşturma özelliği kazandırmak için çalışıyor. YZ içeriğinin daha karmaşık biçimlerini tespit etmek için bir şeyler var mı? Evet, sayılır.
Meta, şu anda YZ tarafından oluşturulan ses ve videoları görüntülerle aynı düzeyde tespit etmenin bir yolu olmadığını kabul ediyor. Teknoloji henüz o noktada değil. Ancak endüstri “bu yeteneğe doğru” çalışıyor. O zamana kadar şirket onur sistemine güvenecek. Kullanıcıların yüklemek istedikleri video klip ya da ses dosyasının yapay zeka tarafından üretilip üretilmediğini ya da düzenlenip düzenlenmediğini açıklamaları gerekecek. Bunu yapmamak bir “ceza” ile sonuçlanacak. Dahası, eğer bir medya parçası halkı kandırma riski taşıyacak kadar gerçekçiyse, Meta önemli ayrıntılar sunan “daha belirgin bir etiket” ekleyecek.

Gelecek güncellemeler
Kendi platformlarına gelince, Meta birinci taraf araçlarını da geliştirmek için çalışıyor.

Şirketin Yapay Zeka Araştırma laboratuvarı FAIR, Stable Signature adı verilen yeni bir tür filigran teknolojisi geliştiriyor. Görünüşe göre, yapay zeka tarafından oluşturulan içeriğin meta verilerinden görünmez işaretleri kaldırmak mümkün. Stable Signature’ın filigranları “görüntü oluşturma sürecinin” ayrılmaz bir parçası haline getirerek bunu durdurması bekleniyor. Tüm bunların ötesinde Meta, Topluluk Standartları konusunda birkaç LLM’yi (Büyük Dil Modelleri) eğitmeye başladı, böylece yapay zekalar belirli içerik parçalarının politikayı ihlal edip etmediğini belirleyebilecek.