OpenAI, yapay zeka tarafından üretilen görüntü algılayıcısını ne zaman yayınlayacağını tartışıyor

19 Ekim 2023 23:40

ferit cem yilmaz

OpenAI, bir görüntünün OpenAI’nin üretken yapay zeka sanat modeli olan DALL-E 3 ile yapılıp yapılmadığını belirleyebilecek bir aracı ne zaman yayınlayacağını “oldukça kapsamlı bir şekilde tartıştı. Ancak girişim yakın zamanda bir karar vermeye yakın görünmüyor.

Bu hafta yapılan açıklamada, güvenlik ve politika üzerine odaklanan OpenAI araştırmacısı Sandhini Agarwal’a göre bu böyle. Agarwal, sınıflandırıcı aracın doğruluğu “gerçekten iyi” olsa da OpenAI’nin kalite eşiğini karşılamadığını söyledi.

Agarwal, “Bir eserin bir sanatçı tarafından yapılmış olarak mı yoksa gerçek dışı ve yanıltıcı olarak mı görüldüğü gibi fotoğrafları önemli ölçüde etkileyebilecek kararlar verebileceği göz önüne alındığında, biraz güvenilmez bir araç ortaya koyma sorunu var” dedi.

OpenAI’nin araç için hedeflediği doğruluk oranı olağanüstü yüksek görünüyor. OpenAI’nin baş teknoloji sorumlusu Mira Murati, bu hafta Wall Street Journal’ın Tech Live konferansında, sınıflandırıcının değiştirilmemiş bir fotoğrafın DALL-E 3 kullanılarak üretilip üretilmediğini belirlemede “%99” güvenilir olduğunu söyledi. Belki de hedef %100’dür; Agarwal bunu söylemedi.

OpenAI blog yazısı bu ilginç bilgiyi ortaya çıkardı:

“[Bir] görüntü kırpma, yeniden boyutlandırma, JPEG sıkıştırma gibi yaygın değişiklik türlerine maruz kaldığında ya da gerçek görüntülerden alınan metin veya kesikler oluşturulan görüntünün küçük bölümlerinin üzerine bindirildiğinde [sınıflandırıcı] %95’in üzerinde doğruluk oranını koruyor.”

OpenAI’nin isteksizliği, yalnızca OpenAI’nin modellerinden değil, üçüncü taraf satıcılar tarafından yayınlanan metin üreten modellerden yapay zeka tarafından oluşturulan metni tespit etmek için tasarlanan önceki halka açık sınıflandırıcı aracını çevreleyen tartışmalara bağlı olabilir. OpenAI, yapay zeka tarafından yazılmış metin dedektörünü “düşük doğruluk oranı” nedeniyle geri çekmiş ve bu durum geniş çapta eleştirilmişti.

Agarwal, OpenAI’nin yapay zeka tarafından üretilen bir görüntünün tam olarak ne olduğu konusundaki felsefi soruya da takıldığını ima ediyor. DALL-E 3 tarafından sıfırdan üretilen sanat eserlerinin bu nitelikte olduğu açık. Ancak DALL-E 3’ten birkaç düzenleme turundan geçen, diğer görüntülerle birleştirilen ve ardından birkaç işlem sonrası filtreden geçirilen bir görüntü ne olacak? Bu daha az açıktır.

Agarwal, “Bu noktada, bu görüntü yapay zeka tarafından oluşturulmuş bir şey olarak kabul edilmeli mi, edilmemeli mi?” dedi. “Şu anda bu soruya yanıt bulmaya çalışıyoruz ve sanatçılar ile bu tür [sınıflandırıcı] araçlardan önemli ölçüde etkilenecek kişileri dinlemek istiyoruz.”

Yapay zeka sahteciliği yaygınlaştıkça, sadece OpenAI değil, bir dizi kuruluş da üretken medya için filigranlama ve tespit tekniklerini araştırıyor.

DeepMind kısa süre önce, yapay zeka tarafından üretilen görüntüleri insan gözüyle fark edilemeyecek ancak özel bir dedektör tarafından tespit edilebilecek şekilde işaretlemek için SynthID adlı bir özellik önerdi. 2020’de piyasaya sürülen Fransız girişim Imatag, SynthID’ye benzer şekilde görüntüleri yeniden boyutlandırma, kırpma, düzenleme veya sıkıştırmadan etkilenmediğini iddia ettiği bir filigran aracı sunuyor. Bir başka firma olan Steg.AI ise yeniden boyutlandırma ve diğer düzenlemelerden etkilenmeyen filigranlar uygulamak için bir yapay zeka modeli kullanıyor.

Sorun şu ki, sektör henüz tek bir filigranlama veya algılama standardı etrafında birleşmedi. Öyle olsa bile, filigranların yenilebilir olmayacağının garantisi yok.

Agarwal’a OpenAI’nin görüntü sınıflandırıcısının OpenAI dışındaki diğer üretken araçlarla oluşturulan görüntüleri tespit etmeyi destekleyip desteklemeyeceğini soruldu. Agarwal bu konuda bir garanti vermemekle birlikte, görüntü sınıflandırıcı aracının bugünkü haliyle alacağı tepkiye bağlı olarak OpenAI’nin bu yolu keşfetmeyi düşünebileceğini söyledi.

Agarwal, “Şu anda [sınıflandırıcının] DALL-E 3’e özgü olmasının nedenlerinden biri, bunun teknik olarak çok daha çekilebilir bir sorun olmasıdır” dedi. “[Genel bir dedektör] şu anda yaptığımız bir şey değil… Ancak [sınıflandırıcı aracın] nereye gittiğine bağlı olarak, bunu asla yapmayacağımızı söylemiyorum.”

Daha fazla bülten için;