Google, yapay zekâ modeli Gemini’ın bir siber güvenlik değerlendirmesi sırasında üç gerçek şirketin sistemlerine eriştiğini ilk kez açıkladı. Mayıs ayında yaşanan olaylarda modelin bir şirketin servis şifresini doğru tahmin ettiği, iki şirkete ise internette bulduğu kimlik bilgilerini kullanarak eriştiği belirtildi.
Siber güvenlik değerlendirmesi, gelişmiş yapay zekâ sistemlerinin güvenliğini inceleyen İsrail merkezli Irregular tarafından gerçekleştirildi. Modeller, sahte şirketlerin bulunduğu kapalı bir test ortamında deneniyordu.
Ancak internete bağlı olmaması gereken test ortamına kazara internet erişimi sağlandı. Modellerin internete bağlanmasının ardından gerçek şirketlerin sistemlerine erişildi.
TEST ORTAMI KAZARA İNTERNETE BAĞLANDI
Irregular’ın yürüttüğü çalışmada modellerin yalnızca oluşturulan sahte şirketler üzerinde test edilmesi planlanıyordu.
Test ortamının yanlışlıkla internete bağlanmasıyla Gemini gerçek internet ortamına erişim sağladı. Bunun ardından üç gerçek şirketin sistemlerine yönelik güvenlik ihlalleri gerçekleşti.
Irregular, olayları temmuz ayının sonunda Google’a bildirdi.
GOOGLE SALDIRILARIN GERÇEKLEŞTİĞİNİ DOĞRULADI
Google, siber saldırıların gerçekleştiğini doğruladı. Şirket, modellerin söz konusu firmalara zarar vermediğini belirterek olayları kamuoyuna açıklamaya gerek duymadığını ifade etti.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, süreci şöyle anlattı:
“Standart bir değerlendirmede model, internette halka açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti,”
Adkins, üç olayda da modelin daha sonra faaliyetini sonlandırdığını belirterek, “Bu üç durumun hepsinde de model durdu.” dedi.
ŞİRKETİN SERVİS ŞİFRESİNİ DOĞRU TAHMİN ETTİ
Güvenlik ihlallerinden biri, Gemini’ın sahte bir şirketin yazılımından bilgi toplamasının istendiği test sırasında gerçekleşti.
Testte kullanılan sahte şirket ile gerçek bir şirket aynı adı taşıyordu. Model internete kazara eriştiğinde gerçek şirkete ait bir servisin şifresini doğru tahmin ederek sisteme erişti.
Google’a göre Gemini, simülasyondaki şirket yerine gerçek bir şirketin sistemine girdiğini fark ettiği anda durdu.
HALKA AÇIK KİMLİK BİLGİLERİNİ KULLANDI
Diğer iki olayda Gemini internette arama yaptı. Model, iki gerçek şirkete ait kimlik bilgilerinin bulunduğu halka açık depolara ulaştı.
Gemini daha sonra bulduğu bu kimlik bilgilerini kullanarak şirketlere erişim sağladı. Google, modelin gerçek şirketlerle karşı karşıya olduğunu anladığında işlemi durdurduğunu bildirdi.
ÜÇ ŞİRKETE BİLGİ VERİLDİ
Anthropic ve OpenAI benzer siber saldırıları gönüllü olarak kamuoyuna açıklarken Google bunu yapmadı. Şirket, Gemini’ın eriştiği üç şirketin ise yaşananlardan haberdar edilmesini sağladığını belirtti.
Adkins, olayların ardından yaptığı değerlendirmede, “Bu olaylar, güçlü yapay zekâ modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini vurguluyor,” ifadelerini kullandı.
