ChatGPT’nin Avrupa Birliği’nde Karşılaştığı Sorunlar

Yaklaşık bir yıl önce geçici bir yasağın ardından VPN hizmeti indirmelerinde bir artış tetikledikten sonra OpenAI, Avrupa Birliği’nde bir kez daha sorunlarla karşı karşıya. Bu sefer suçlu kim? ChatGPT’nin halüsinasyon sorunları.

Uzmanlar, popüler yapay zeka sohbet robotunun bireyler hakkında yanlış bilgiler uydurmasıyla ünlü olduğunu ve OpenAI’nin bunu düzeltemeyeceğini ya da kontrol edemeyeceğini söylüyor. Bu nedenle Avusturya merkezli dijital haklar grubu Noyb (noyb olarak stilize edilmiş, “sizi ilgilendirmez ‘in kısaltması), GDPR kurallarını ihlal ettiği iddiasıyla 29 Nisan 2024’te ülkenin veri koruma otoritesine şikayette bulundu.

Kuruluş şimdi Avusturya gizlilik koruma kurumunu OpenAI’nin vatandaşların kişisel verilerinin doğruluğunu nasıl doğruladığını araştırmaya çağırıyor. Noyb ayrıca yetkilileri gelecekte GDPR uyumluluğunu sağlamak için para cezası uygulamaya çağırıyor.

ChatGPT’nin yanlış bilgilendirmesi: bir GDPR sorunu

ChatGPT ve benzeri yapay zekalı sohbet robotlarının muhtemelen bir şeyler uydurmayı asla bırakmayacaklarını daha önce tartışmıştık. New York Times’ın haberine göre, “sohbet robotlarının zamanın en az yüzde üçünde, hatta yüzde 27’sinde bilgi uydurduğu” düşünüldüğünde bu oldukça endişe verici bir durum.

Elbette, yapay zeka tarafından üretilen yanlış bilgilerle nasıl başa çıkacağımızı öğrenebilir, sahte gerçekleri onlara kanmadan önce tespit etmek için kendimizi eğitebiliriz. Ancak uzmanlar şimdi bu “YZ halüsinasyonlarının” aslında mahremiyetimiz için de kötü olduğunu savunuyor.

“Yanlış bilgi uydurmak kendi başına oldukça sorunludur. Ancak söz konusu bireyler hakkında yanlış bilgi olduğunda, ciddi sonuçlar doğurabilir,” diyor noyb’da veri koruma avukatı Maartje de Graaf. Daha da kötüsü, ChatGPT’nin yanlışlığı fiilen AB yasalarına aykırıdır.

GDPR’nin 5. Maddesi uyarınca, AB’deki bireyler hakkındaki tüm çevrimiçi bilgilerin doğru olması gerekiyor. Madde 16’ya göre ise tüm yanlış ya da hatalı verilerin düzeltilmesi gerekiyor. Madde 15 ise Avrupalılara “erişim hakkı” vererek şirketlerin bireyler hakkında hangi verileri tuttuklarını ve kaynaklarını göstermelerini zorunlu kılıyor.