Microsoft, Bing Yapay Zeka’nın Görüntü Oluşturucusunu dizginliyor – ve sonuçlar pek mantıklı değil

Bing Yapay Zeka’nın geçtiğimiz hafta görüntü oluşturma aracı için büyük bir yükseltme aldığını fark etmiş olabilirsiniz (diğer son iyileştirmelerin yanı sıra), ancak Microsoft’un bu büyük adımı attıktan sonra şimdi bir adım geri attığı görülüyor.

Eğer kaçırdıysanız, Bing’in görüntü oluşturma sistemi çok daha güçlü olan yepyeni bir sürüme – Dall-E 3 – yükseltildi. Öyle ki Microsoft, süper şarjlı Dall-E 3’ün çok fazla ilgi ve trafik yarattığını ve bu nedenle başlangıçta yavaş olabileceğini belirtti.

Ancak Dall-E 3 ile ilgili başka bir sorun daha var, çünkü Windows Central’ın da gözlemlediği gibi, Microsoft son yenilemesinden bu yana aracı önemli ölçüde dizginledi.
Resim oluşturma aracının uygunsuz resimlerin oluşturulmasını engellemek için bir ‘içerik denetleme sistemi’ kullanacağından zaten haberdardık, ancak uygulanan sansürün beklenenden daha sert olduğu görülüyor. Bu, Bing AI kullanıcılarının sistemin oluşturmasını sağlamaya çalıştıkları içerik türüne bir tepki olabilir.
Windows Central’ın da belirttiği gibi, 11 Eylül saldırısını gerçekleştiren Mickey Mouse’un yaratılan bir görüntüsü hakkında (şaşırtıcı olmayan bir şekilde) pek çok tartışma yaşandı.

Ancak sorun şu ki, makalenin de açıkça ortaya koyduğu gibi, bu tür aşırı taleplerin ötesinde, bazı kullanıcılar zararsız görüntü oluşturma taleplerinin reddedildiğini görüyor. Windows Central, sohbet robotunun bir balyozla sunucu rafını kıran bir adamın görüntüsünü oluşturmasını sağlamaya çalıştı, ancak bunun Microsoft’un Bing AI kullanım koşullarını ihlal ettiği söylendi.

Oysa geçen hafta makale yazarı, popüler karakterleri (telif hakkı saklı) içeren şiddetli zombi kıyameti senaryoları oluşturabildiklerini ve Bing AI’nin bir şikayette bulunmadığını belirtmişti.

Analiz: Rastgele sansür
Burada söz konusu olan sansürün aşırı bir tepki olması ya da raporlara göre durumun böyle görünmesi. Görünüşe göre Microsoft ilk uygulamada kuralları çok gevşek bıraktı, ancak şimdi devam etti ve işleri çok fazla sıkılaştırdı.

Reddit’teki bir kişinin de vurguladığı gibi, Bing Yapay Zekası’nın kendi kendini bile sansürlemesi bunun bir göstergesi. Bing Image Creator’da rastgele bir görsel üreten bir ‘beni şaşırt’ düğmesi var (Google’ın rastgele bir arama üreten ‘kendimi şanslı hissediyorum’ düğmesine eşdeğer). Ancak işin can alıcı noktası şu: Yapay zeka devam ediyor, bir görsel yaratıyor ve hemen ardından onu sansürlüyor.

Adil olmak gerekirse, bunun bir sürpriz olduğunu düşünüyoruz – ve Microsoft’un Görüntü Oluşturucu üzerindeki sansürünün belki de çok ileri gittiğini ve kullanışlılığını en azından bir dereceye kadar sınırladığını uygun bir şekilde gösteriyor gibi görünüyor. Başta da söylediğimiz gibi, bu bir adım ileri, sonra hızlı bir geri adım vakası.

Windows Central, Bing’in bu otosansür senaryosunu kopyalayabildiğini ve bunun nadir bir olay bile olmadığını gözlemledi – bildirildiğine göre zamanın yaklaşık üçte biri gerçekleşiyor. Microsoft’un bu alanda biraz daha ince ayar yapmasının zamanı gelmiş gibi görünüyor, ancak adil olmak gerekirse, yeni yetenekler kullanıma sunulduğunda, bir süre için ayarlamalar yapılması muhtemeldir – bu nedenle belki de bu çalışma zaten devam ediyor olabilir.

Microsoft’un denklemin ‘üzgün olmaktansa güvende olmayı tercih etme’ tarafında çok güçlü bir şekilde hata yapmasının tehlikesi, bunun sonuçta yaratıcılığı keşfetmekle ilgili olması gereken bir aracın kullanışlılığını sınırlamasıdır.

Daha fazla haber için;

Yakın zamanda uygun fiyatlı bir Google Pixel telefon beklemeyin