Yapay zeka şirketi Anthropic’te görev yapan araştırmacı Evan Hubinger, gelişmiş yapay zeka sistemlerinin geleceğine ilişkin dikkat çeken değerlendirmelerde bulundu. Hubinger, süper zekanın kontrol edilmesi konusunda henüz net bir yol haritası bulunmadığını söyledi.
“İNSANLIĞIN SONU OLASILIĞI VAR” İDDİASI
Yapay zeka alanında çalışan bazı araştırmacılar, gelişmiş sistemlerin kontrolünün zorlaşabileceği yönündeki endişelerini dile getirdi. Anthropic araştırmacısı Evan Hubinger, yapay zekanın insanlık için ciddi riskler oluşturabileceğine inandığını belirterek, bu konuda hazırlıklı olunması gerektiğini savundu. Hubinger, süper zekayla uyum sorununu çözmeye yönelik kesin bir plan bulunmadığını ifade etti.
“SÜPER ZEKAYI KONTROL EDECEK PLANIMIZ YOK”
Hubinger, şirketlerin yapay zeka güvenliği konusunda çalışmalar yürüttüğünü ancak gelecekte ortaya çıkabilecek çok gelişmiş sistemlerin kontrolüne ilişkin belirsizliklerin sürdüğünü söyledi. Yapay zekanın insan hedefleriyle uyumlu çalışmasının önemli bir sorun olduğunu belirten Hubinger, bu alanda daha fazla araştırmaya ihtiyaç olduğunu ifade etti.
YAPAY ZEKA ŞİRKETLERİ ARASINDAKİ YARIŞ TARTIŞILIYOR
Daha önce OpenAI ve Anthropic bünyesinde araştırmalar yapan Jacob Coxon da yapay zeka şirketlerinin süper zeka geliştirme konusunda yoğun bir yarış içinde olduğunu savunmuştu. Coxon, gelişmiş yapay zeka sistemlerinin büyük imkanlar sunarken aynı zamanda ciddi riskler barındırabileceğini dile getirmişti.
GÜVENLİK ÇALIŞMALARI GÜNDEMDE
Yapay zeka sektöründe bir yandan yeni teknolojiler geliştirilirken diğer yandan güvenlik, denetim ve kontrol mekanizmaları konusunda tartışmalar devam ediyor. Uzmanlar, gelişmiş yapay zeka sistemlerinin insan yararına kullanılabilmesi için güvenlik çalışmalarının teknoloji geliştirme süreciyle birlikte ilerlemesi gerektiğine dikkat çekiyor.
