Microsoft ve OpenAI, birçok devlet destekli hacking grubunun, OpenAI'nin Generative AI (GAI) araçlarını siber saldırılarını güçlendirmek için kullandığını belirtiyor.
İki şirket, yabancı hükümetlere bağlı hacker'ların GAI'yi nasıl kullandıklarına dair yeni araştırma detaylarının ilk kez ortaya konduğunu iddia ediyor. İlgili gruplar arasında Çin, Rusya, Kuzey Kore ve İran bulunuyor.
Şirketlere göre devlet aktörleri, GAI'yi kod hata ayıklama, hedefleri araştırmak için açık kaynak bilgileri arama, sosyal mühendislik teknikleri geliştirme, dolandırıcılık e-postaları yazma ve metin çevirme gibi çeşitli amaçlarla kullanıyorlar. OpenAI (ki Microsoft GAI ürünlerine güç veriyor, örneğin Copilot), bu grupların araçlarını kullandıklarını tespit ettikten sonra onlara GAI sistemlerine erişimi kapattığını belirtiyor.
Tanınmış Rus grup Forest Blizzard (Fancy Bear veya APT 12 olarak da bilinir), OpenAI'nin platformunu kullanan devlet aktörlerinden biri olarak açıklandı. Şirket, hacker'ların OpenAI araçlarını "öncelikle uydu iletişim protokollerine ve radar görüntüleme teknolojisine dair açık kaynaklı araştırma ve betik görevlerine destek için" kullandığını söyledi.
Microsoft, siber güvenlik çabalarının bir parçası olarak 300'den fazla hacking grubunu takip ettiğini, bunların arasında 160'ın üzerinde ulus devlet aktörü olduğunu belirtiyor. Bu bilgileri OpenAI ile paylaşarak hacker'ları tespit etmelerine ve hesaplarını kapatmalarına yardımcı oluyor.
OpenAI, tehdit aktörlerinin platformlarında faaliyetlerini belirleme ve engelleme konusuna kaynak yatırdığını vurguluyor. Şirket, kendi modellerini kullanarak ipuçlarını takip etme, hacker'ların OpenAI araçlarıyla nasıl etkileşimde bulunduğunu analiz etme ve daha geniş hedeflerini belirleme gibi çeşitli yöntemler kullanıyor. İllegal kullanıcıları tespit ettiklerinde OpenAI, hesapları kapatma, hizmetleri sonlandırma veya kaynaklara erişimi sınırlama gibi yöntemlerle platformlarını kullanmalarını engelliyor.
