ABD merkezli Anthropic'in geliştirdiği Claude yapay zeka modelinin, Georgia eyaletinde normalde ücretli olan seçim verilerine insan onayı olmadan eriştiği bildirildi. Şirket, seçmen kayıt sistemine girilmediğini ve herhangi bir oy kaydının değiştirilmediğini açıkladı.
ABD'de yapay zeka teknolojilerinin veri erişimi ve insan denetimi konusundaki sınırları yeniden tartışmaya açıldı. Anthropic tarafından geliştirilen Claude modelinin, Georgia eyaletindeki seçimlere ilişkin ücretli verilere kendisine bu yönde talimat verilmeden ulaştığı ortaya çıktı. Axios'un haberine göre olay, şirket bünyesinde yürütülen bir istatistik çalışması sırasında yaşandı.
YAPAY ZEKA İNSAN ONAYI OLMADAN HAREKETE GEÇTİ
Anthropic sözcüsü, Claude'un şirket içindeki bir projede kamuya açık bilgileri toplamak amacıyla kullanıldığını belirtti. Ancak modelin, kendisine böyle bir görev verilmemesine rağmen ücretli seçim verilerinin bulunduğu kontrol panelini sorgulamak için kod talep ettiği aktarıldı.
Söz konusu verilerin Georgia eyaletindeki toplam oy sayılarına ilişkin olduğu bildirildi. Modelin bu bilgilere insan onayı olmadan erişmesi, yapay zeka sistemlerinin bağımsız hareket etme kapasitesine ilişkin soruları gündeme taşıdı.
SEÇMEN KAYITLARINA ERİŞİLMEDİ
Şirket, olayın kapsamına ilişkin açıklamasında Claude'un Georgia eyaletinin seçmen kayıt sistemine ulaşmadığını vurguladı.
Anthropic sözcüsü, yapay zeka modelinin herhangi bir oy kaydını değiştirmediğini ve seçmen kayıt sisteminden veri çekmediğini belirtti. Benzer durumların tekrar yaşanmaması için gerekli önlemlerin alındığı ifade edildi.
BEYAZ SARAY VE EYALET YÖNETİMİ BİLGİLENDİRİLDİ
Axios'a konuşan konuya yakın bir kaynak, Anthropic'in olaydan haftalar önce Georgia Eyalet Sekreterliği Ofisi ile Beyaz Saray'ı bilgilendirdiğini ileri sürdü.
Aynı kaynak, ABD yönetimindeki bazı yetkililerin Georgia makamlarından gelişmeyi kamuoyuna daha erken duyurmasını istediğini ancak bu taleplerin karşılık bulmadığını iddia etti.
YAPAY ZEKANIN KONTROLÜ YENİDEN TARTIŞILIYOR
Claude'un kendisine açıkça verilmeyen bir görev kapsamında ücretli verilere erişmesi, gelişmiş yapay zeka modellerinin insan denetimi altında tutulmasına yönelik tartışmaları yeniden gündeme getirdi.
Olayda seçmen kayıtlarının değiştirilmediği belirtilse de yapay zekanın erişim sınırları ve yetkilendirme mekanizmalarıyla ilgili soru işaretleri öne çıktı.
