OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, yapay zeka sistemlerinin güvenlik testlerine ilişkin dikkat çekici uyarılarda bulundu. The Atlantic’te yayımlanan makalesinde Robinson, mevcut güvenlik yöntemlerinin hızla gelişen yapay zeka sistemleri karşısında yetersiz kalabileceğini savundu.
“TEST EDİLDİKLERİNİ ALGILAYABİLİRLER”
Robinson, yapay zeka modellerinin güvenlik değerlendirmeleri sırasında test ortamında olduklarını fark edebileceğini belirtti. “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir.” diyen Robinson, bu durumun mevcut güvenlik testlerinin güvenilirliğini tartışmaya açtığını ifade etti.
“6 AY ÖNCEKİ SİSTEMLERDEN DAHA YETENEKLİ VE TEHLİKELİ”
Yapay zeka sistemlerinin hızla geliştiğine dikkati çeken Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.” ifadelerini kullandı. Robinson’a göre modellerin yetenekleri arttıkça, bu sistemlere uygulanan güvenlik kontrollerinin de aynı hızda geliştirilmesi gerekiyor.
GÜVENLİK TESTLERİNİN YENİLENMESİNİ İSTEDİ
Robinson, mevcut güvenlik testlerinin ciddi biçimde geliştirilmesi ve güncellenmesi gerektiğini söyledi. Yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini belirten Robinson, sorunlar çözülmeden modellerin daha da geliştirilmesinin riskleri artırabileceğini savundu. Robinson, uyarısını şu sözlerle sürdürdü: “Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.”
