Yapay zekanın öncülerinden Nobel ödüllü bilim insanı Geoffrey Hinton, gelişmiş yapay zeka sistemlerinin insan denetiminden çıkma ihtimaline dikkat çekti. Araştırmacı Paul Christiano'nun kontrolün üç yıl içinde kaybedilebileceğine yönelik değerlendirmesini kaygı verici bulan Hinton, güçlü modellerin kullanıma sunulmadan önce bağımsız güvenlik testlerinden geçirilmesi gerektiğini savundu.
YAPAY ZEKADA İNSAN DENETİMİ TARTIŞMASI
Yapay zeka teknolojilerinin hızla gelişmesi, sistemlerin gelecekte insan kontrolü altında tutulup tutulamayacağına ilişkin tartışmaları yeniden gündeme taşıdı.
2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Geoffrey Hinton, Avrupa Birliği liderlerinin İrlanda'nın başkenti Dublin'de gerçekleştirdiği toplantıya katıldı.
13 Kasım'daki gayriresmî zirvede yapay zeka, ilk kez ayrı bir stratejik gündem maddesi olarak ele alındı.
Toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümünde yer alan Hinton, insanlardan daha yetenekli sistemlerin ortaya çıkmasıyla birlikte kontrol mekanizmalarının öneminin artacağını vurguladı.
ÜÇ YIL İÇİNDE KONTROL KAYBEDİLEBİLİR
Yapay zeka güvenliği alanında çalışan Paul Christiano, 9-11 Kasım tarihlerinde Kanada'nın Toronto kentinde düzenlenen Hinton Konferansları'nda dikkat çekici değerlendirmelerde bulundu.
Alignment Research Center'ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi olan Christiano, insanların gelişmiş yapay zeka sistemleri üzerindeki denetimini üç yıl içerisinde kaybetme riskini yüksek gördüğünü belirtti.
Christiano, söz konusu tehlikenin yalnızca uzak geleceğe ilişkin olmadığını, önümüzdeki 6 ila 12 aylık dönemde de göz ardı edilemeyeceğini ifade etti.
Araştırmacının gündeme getirdiği senaryoda, yapay zeka sistemlerinin kendi hedefleri doğrultusunda hareket etmesi ve insanların bu davranışları gerektiğinde durduramaması ihtimali bulunuyor.
Ancak bu değerlendirme, kontrolün üç yıl içinde kesin olarak kaybedileceği anlamına gelmiyor.
HİNTON'DAN ERKEN GELİŞİM UYARISI
Geoffrey Hinton, daha önce yapay zekanın insan zekasını aşmasının 10 yıl içerisinde mümkün olabileceğine ilişkin görüşünü hatırlattı.
Paul Christiano'nun insan denetiminin çok daha kısa sürede kaybedilebileceği yönündeki değerlendirmesini ise endişe verici bulduğunu belirtti.
Hinton'un üzerinde durduğu temel sorun, yapay zeka sistemlerinin yetenekleri arttıkça davranışlarının insan hedefleriyle uyumlu kalmasının nasıl sağlanacağı.
Gelişmiş modellerin bağımsız kararlar verebilecek kapasiteye ulaşması ihtimali, güvenlik çalışmalarında insan denetimi ve sistemlerin yönlendirilebilirliği konularını öne çıkarıyor.
YAPAY ZEKA MODELLERİNE BAĞIMSIZ DENETİM TALEBİ
Hinton, gelişmiş yapay zeka modellerinin kamuoyunun kullanımına sunulmadan önce bağımsız kuruluşlar tarafından değerlendirilmesi gerektiğini savundu.
Bilim insanı, daha önce İspanyol El Pais gazetesine verdiği röportajda bu yaklaşımını ilaçların piyasaya çıkmadan önce düzenleyici kurumların denetiminden geçmesine benzetmişti.
Hinton'a göre yapay zeka geliştiricilerinin, oluşturdukları güçlü sistemlerin güvenliğini bağımsız bir kuruma gösterebilmesi gerekiyor.
Bu yaklaşım, güvenlik değerlendirmelerinin yalnızca teknolojiyi geliştiren şirketlerin kendi testleriyle sınırlı kalmamasını amaçlıyor.
AB LİDERLERİ YAPAY ZEKANIN GELECEĞİNİ GÖRÜŞTÜ
Dublin'deki toplantıda Avrupa Birliği liderleri, yapay zekanın istihdam üzerindeki olası etkilerini ve demokratik süreçlerde ortaya çıkarabileceği sorunları değerlendirdi.
Gelişmiş sistemlerin güvenliğinin sağlanması için uluslararası iş birliği yapılması da gündeme gelen konular arasında yer aldı.
Toplantıya katılan Mistral AI Üst Yöneticisi Arthur Mensch'in bulunduğu oturumda ise Avrupa'nın kendi yapay zeka modellerini geliştirmesi ele alındı.
Bu kapsamda Avrupa'nın yabancı teknoloji sağlayıcılarına bağımlılığının azaltılması ve kendi teknolojik kapasitesinin güçlendirilmesi üzerinde duruldu.
YAPAY ZEKA GÜNDEMİ 2027'DE DEVAM EDECEK
Avrupa Konseyi Başkanı António Costa, yapay zeka konusunun gelecek yıl yeniden liderler düzeyinde değerlendirileceğini açıkladı.
Costa'nın verdiği bilgiye göre konu, 5 Şubat 2027'de Belçika'nın Alden Biesen kentinde yapılacak toplantıda tekrar gündeme gelecek.
Böylece yapay zekanın güvenliği, ekonomik etkileri ve Avrupa'nın teknoloji alanındaki konumu, AB liderlerinin görüşme başlıkları arasında yer almaya devam edecek.
