LLM ve Bulut Hizmetlerindeki Güvenlik Sorunları

Bulutta barındırılan büyük dil modellerini (LLM) kullanmak oldukça pahalı olabilir, bu nedenle bilgisayar korsanları bu araçlara giriş bilgilerini çalmaya ve satmaya başladılar.

Siber güvenlik araştırmacıları Sysdig Tehdit Araştırma Ekibi kısa süre önce böyle bir kampanyayı tespit etti ve buna LLMjacking adını verdi.

Sysdig raporunda, bir tehdit aktörünün Laravel Framework’te CVE-2021-3129 olarak izlenen bir güvenlik açığını kötüye kullandığını gözlemlediğini söyledi. Bu açık, ağa erişmelerine ve LLM hizmetleri için Amazon Web Hizmetleri (AWS) kimlik bilgilerini taramalarına izin verdi.

Yeni kötüye kullanım yöntemleri
Araştırmacılar raporda, “İlk erişim sağlandıktan sonra, bulut kimlik bilgilerini sızdırdılar ve bulut sağlayıcıları tarafından barındırılan yerel LLM modellerine erişmeye çalıştıkları bulut ortamına erişim sağladılar” dedi. “Bu örnekte, Anthropic’ten yerel bir Claude (v2/v3) LLM modeli hedef alındı.”

Araştırmacılar, saldırganların modelleri çağıran istekleri oluşturmak için kullandıkları araçları keşfetmeyi başardılar. Bunlar arasında, on yapay zeka hizmeti için kimlik bilgilerini kontrol eden ve hangisinin yararlı olduğunu analiz eden bir Python betiği vardı. Bu hizmetler arasında AI21 Labs, Anthropic, AWS Bedrock, Azure, ElevenLabs, MakerSuite, Mistral, OpenAI, OpenRouter ve GCP Vertex AI yer alıyor.

Ayrıca, saldırganların doğrulama aşamasında herhangi bir meşru LLM sorgusu çalıştırmadıklarını, bunun yerine kimlik bilgilerinin neler yapabileceğini ve herhangi bir kotayı öğrenmek için “sadece yeterince” yaptıklarını keşfettiler.

The Hacker News haberinde, bulguların, bilgisayar korsanlarının LLM’leri silah olarak kullanmanın yeni yollarını bulduğunun kanıtı olduğunu, olağan istem enjeksiyonları ve model zehirlemenin yanı sıra, fatura kurbana postalanırken LLM’lere erişimden para kazanıldığını söylüyor.