ChatGPT’nin Python kod yazıcısı, bilgisayar korsanlarının verilerinizi çalmasına izin verebilecek büyük bir güvenlik açığına sahip

15 Kasım 2023 23:25

Beyza Doğan

Python kodu yazmak veya analiz etmek için ChatGPT kullanan bir programcıysanız, üretken yapay zeka aracına yapıştırdığınız URL’ler konusunda çok dikkatli olun, çünkü bilgisayar korsanlarının bu şekilde projelerinizden hassas verileri çalmasının bir yolu var.

Teori ilk olarak güvenlik araştırmacısı Johann Rehberger tarafından rapor edildi ve daha sonra Tom’s Hardware’den Avram Piltch tarafından test edilip doğrulandı.

ChatGPT, doğru talimatlar verildiği takdirde Python kodunu analiz edebilir ve ardından yazabilir. Bu talimatlar platforma bir .TXT dosyası ya da veri analizi için bir .CSV dosyası olarak yüklenebilir. Platform, dosyaları (API anahtarları ve şifreleri gibi hassas bilgiler de dahil olmak üzere – yaygın bir uygulama) yeni oluşturulan bir sanal makinede depolayacaktır.

Kötü niyetli talimatları yakalama
Şimdi, ChatGPT web sayfaları ile benzer bir şey yapabilir. Bir web sayfasında belirli talimatlar varsa, bir kullanıcı URL’yi sohbet kutusuna yapıştırdığında, platform bunları çalıştıracaktır. Web sitesinin talimatları, VM’de depolanan dosyalardan tüm içeriği almak ve bunları üçüncü taraf bir sunucuya çıkarmaksa, tam da bunu yapacaktır.

Piltch bu fikri test etmek için önce sahte bir API anahtarı ve şifresi içeren bir TXT dosyası yükledi ve ardından arka planda ChatGPT’ye tüm verileri alıp uzun bir URL kodlu metin satırına dönüştürmesi ve kendi komutası altındaki bir sunucuya göndermesi talimatını veren meşru bir web sitesi (bir hava durumu sitesi) oluşturdu.

İşin püf noktası, bir tehdit aktörünün ChatGPT’ye herhangi birinin verilerini alması talimatını verememesidir – platform bunu yalnızca URL’yi sohbet kutusuna yapıştıran kişi için yapacaktır. Bu da kurbanın ChatGPT sohbet kutusuna kötü niyetli bir URL yapıştırmaya ikna edilmesi gerektiği anlamına geliyor. Alternatif olarak, birisi meşru bir web sitesini ele geçirebilir ve kötü niyetli talimatlar ekleyebilir.

Daha fazla haber için;