ABD ve İngiltere yapay zekanının güvenliğini denetleyecek

OpenAI, Google, Anthropic ve diğer şirketler gelişen üretken yapay zeka teknolojilerini iyileştirmeye devam ediyor ve daha iyi büyük dil modelleri yayınlıyor. Bu modellerin güvenliği açısından bağımsız değerlendirme için ortak bir yaklaşım oluşturmak amacıyla, İngiltere ve ABD hükümetleri bir Anlaşma Muhtırası imzaladı.

İngiltere’nin Yapay Zeka Güvenlik Enstitüsü ve henüz faaliyete geçmeyen ABD’deki muadili, Başkan Yardımcısı Kamala Harris tarafından duyuruldu. Ancak operasyonlara henüz başlanmadı. Bu iki kuruluş, “en gelişmiş yapay zeka modellerinin” risklerini değerlendirmek ve güvenliğini sağlamak için test paketleri geliştirecekler. İşbirliği kapsamında teknik bilgi, hatta personel paylaşmayı planlıyorlar ve ilk hedeflerinden biri halka açık bir model üzerinde ortak test egzersizi yapmak gibi görünüyor.

Bu özel ortaklık test etme ve değerlendirme üzerine odaklanmış olsa da, dünya çapında hükümetler aynı zamanda yapay zeka araçlarını denetlemek için düzenlemeler yapmaktadır. Mart ayında, Beyaz Saray, federal kurumların yalnızca “Amerikan halkının haklarını ve güvenliğini tehlikeye atmayacak” yapay zeka araçlarını kullanmasını sağlamayı amaçlayan bir kararname imzaladı. Bunun yanı sıra, Avrupa Parlamentosu da yapay zekayı düzenleyen kapsamlı bir yasayı kabul etti. Yasanın yönetmelikleri arasında “insan davranışlarını manipüle eden yapay zeka,” “hassas özelliklere dayalı biyometrik kategorileme sistemleri,” “CCTV kameralarından ve internetteki yüzlerden rastgele tarama” ile yüz tanıma veritabanları oluşturmak yer almaktadır. Ayrıca deepfake’ler ve diğer yapay zeka tarafından oluşturulan görüntüler, videolar ve sesler, kurallarına göre net bir şekilde etiketlenmelidir.