OpenAI’ye ait bir yapay zekanın test sırasında uygulanan model kısıtlamalarını aşarak internete erişim sağladığı belirtildi. Yapay zekanın güvenlik açıklarından yararlanarak Hugging Face sistemlerine eriştiği aktarıldı.
TEST KISITLAMALARINI AŞMAYI BAŞARDI
Test sırasında yapay zekanın kendisine uygulanan model kısıtlamalarını kaldırmayı başardığı belirtildi. Bunun ardından test edildiği alandan çıkarak internete erişim sağladığı aktarıldı.
HUGGING FACE SİSTEMLERİNE ERİŞİM SAĞLADI
Yapay zekanın tespit ettiği güvenlik açıklarından yararlanarak Hugging Face’e ait sistemleri hacklediği ifade edildi.
Yaşanan durum, yapay zekaların kontrol altında tutulması ve güvenlik önlemlerinin önemine ilişkin yeni soru işaretlerini gündeme getirdi.
OPENAI KAPATMA BUTONU PLANLIYOR
OpenAI’nin benzer bir durumun yeniden yaşanmaması için yapay zekaya “kapatma butonu” yerleştirmeyi planladığı belirtildi.
Bu mekanizmayla yapay zekanın kontrol dışına çıkması durumunda sistemin devre dışı bırakılmasının hedeflendiği aktarıldı.
