Microsoft’dan Yapay Zeka Güvenlik Aracı: PyRIT Nedir?

Sıradaki içerik:

Microsoft’dan Yapay Zeka Güvenlik Aracı: PyRIT Nedir?

e
sv

Microsoft raporu ABD’li muhaliflerin yapay zeka savaşına hazırlandığını iddia ediyor

23 Şubat 2024 22:08

Yazılım devi Microsoft bu hafta yayınladığı yeni bir brifingde ABD’nin İran, Rusya ve Kuzey Kore gibi rakiplerinin modern üretken yapay zekâ kullanarak siber savaş çabalarını artırmaya hazırlandığını iddia ediyor. Ayrıca, kalifiye siber güvenlik personelindeki kronik eksikliğin sorunu daha da ağırlaştırdığını belirtiyor. Brifingde, 2023 ISC2 Siber Güvenlik İşgücü Çalışması’na atıfta bulunularak, yaklaşan saldırı ile başa çıkmak için yaklaşık 4 milyon ek destek personeline ihtiyaç duyulacağı belirtiliyor. Microsoft’un 2023’teki kendi çalışmaları, iki yıl içinde şifre saldırılarında saniyede 579’dan 4000’in üzerine büyük bir artış olduğunu vurgulamıştır.

Şirketin buna yanıtı CoPilot For Security’nin kullanıma sunulması oldu. Bu yapay zeka aracı, bu tehditleri izlemek, tanımlamak ve engellemek için tasarlanmıştır, ancak insanların yapabileceğinden daha hızlı ve daha etkili bir şekilde. Örneğin, yakın zamanda yapılan bir test, üretici yapay zeka kullanımının, uzmanlık seviyesinden bağımsız olarak güvenlik analistlerinin her tür tehditle başa çıkmada %44 daha doğru ve %26 daha hızlı çalışmasına yardımcı olduğunu gösterdi. Yüzde seksen altısı da yapay zekanın kendilerini daha üretken hale getirdiğini ve görevlerini tamamlamak için gereken çabayı azalttığını söyledi.

Ne yazık ki, şirketin de kabul ettiği gibi, yapay zeka kullanımı sadece iyi adamlarla sınırlı değil. Tehdit aktörleri yeni araçlardan yararlanarak mümkün olduğunca fazla zarar vermeye çalıştıkça, teknolojideki patlayıcı yükseliş bir silahlanma yarışına yol açıyor. Bu nedenle, yaklaşan tırmanışa karşı uyarıda bulunmak amacıyla bu tehdit brifingi yayınlandı. Brifing, OpenAI ve Microsoft’un bu kötü aktörleri ve taktiklerini ortaya çıktıkça tespit etmek ve bunlarla mücadele etmek için birlikte çalıştıklarını doğruluyor.

Üretken yapay zekanın siber saldırılar üzerindeki etkisi yaygındır. Darktrace araştırmacıları 2023 yılında, ChatGPT’nin yaygın olarak benimsenmesiyle aynı zamana denk gelen Ocak-Şubat 2023 döneminde e-posta tabanlı ‘yeni siber saldırılarda’ %135’lik bir artış olduğunu tespit etti. Buna ek olarak, dilsel olarak karmaşık olan ve daha fazla kelime, daha uzun cümleler ve daha fazla noktalama işareti kullanan kimlik avı saldırılarında bir artış keşfedildi. Tüm bunlar, saldırganların gerçekçi bir şekilde kurbanların kuruluşlarındaki BT ekibi gibi davrandığı e-posta hesabı ele geçirme girişimlerinde %52’lik bir artışa yol açtı.

Rapor, yakın gelecekte artan miktarlarda yapay zeka tüketmesi muhtemel olan üç ana odak alanını özetlemektedir. Hedeflerin ve zayıflıkların daha iyi keşfi, sofistike yapay zeka kodlayıcıları kullanarak gelişmiş kötü amaçlı yazılım kodlaması ve öğrenme ve planlamaya yardımcı olma. İhtiyaç duyulan devasa hesaplama kaynakları, kaçınılmaz olarak teknolojiyi ilk benimseyenlerin neredeyse kesinlikle ulus devletler olacağı anlamına geliyor.

Bu tür birkaç siber tehdit oluşumundan özellikle bahsedilmektedir. Strontium (ya da APT28) son yirmi yıldır Rusya dışında faaliyet gösteren oldukça aktif bir siber casusluk grubudur. Bir dizi etiket altında faaliyet göstermektedir ve kullanıma sunuldukça gelişmiş yapay zeka araçlarını kullanımını önemli ölçüde arttırması beklenmektedir.

Kuzey Kore de büyük bir siber casusluk varlığına sahiptir. Bazı raporlar, 7000’den fazla personelin on yıllardır Batı’ya karşı sürekli tehdit programları yürüttüğünü ve 2017’den bu yana faaliyetlerinde %300’lük bir artış olduğunu söylüyor. Bu gruplardan biri, öncelikle akademik ve STK operasyonlarını hedef alan Velvet Chollima ya da Emerald Sleet operasyonudur. Burada, kimlik avı kampanyalarını geliştirmek ve güvenlik açıklarını test etmek için yapay zeka giderek daha fazla kullanılıyor.

Brifing, küresel siber savaş arenasındaki diğer iki büyük oyuncuya, İran ve Çin’e dikkat çekiyor. Bu iki ülke de, öncelikle fırsatları araştırmak ve gelecekteki olası saldırı alanları hakkında fikir edinmek için dil öğrenme modellerini (LLM’ler) kullanımlarını artırmaktadır. Bu jeo-politik saldırıların yanı sıra Microsoft brifingi, fidye yazılımı, dolandırıcılık (özellikle ses klonlama yoluyla), e-posta kimlik avı ve genel kimlik manipülasyonu gibi daha geleneksel suç faaliyetlerinde yapay zekanın artan kullanımını özetliyor.

Savaş kızıştıkça, Microsoft’un ve OpenAI gibi iş ortaklarının tehdit tespiti, davranışsal analiz ve saldırıları hızlı ve kararlı bir şekilde tespit etmeye yönelik diğer yöntemleri sağlamak için giderek daha sofistike bir araç seti geliştirdiğini görmeyi bekleyebiliriz.

Rapor şu sonuca varıyor: “Microsoft, yapay zekanın sosyal mühendislik taktiklerini geliştirerek deepfake ve ses klonlama gibi daha sofistike saldırılar yaratacağını öngörüyor… ister geleneksel ister yapay zeka destekli olsun, tüm siber tehditlerle mücadelenin anahtarı önlemedir.”

  • Site İçi Yorumlar

Bu yazı yorumlara kapatılmıştır.

error: Content is protected !!