Anthropic CEO'su Dario Amodei, yapay zekâ sektörünün modellerin yeteneklerini geliştirme hızını yavaşlatması gerektiğini savundu. Yapay zekânın insanlık için önemli fırsatlar sunduğunu belirten Amodei, kontrolsüz ilerlemenin siber saldırılardan biyoterörizme ve ekonomik aksamalara kadar ciddi riskler doğurabileceği uyarısında bulundu.
“YAPAY ZEKÂNIN GELİŞİM HIZINI YAVAŞLATMALIYIZ”
Amodei, yapay zekânın geliştirilmesinin tamamen durdurulmasını değil, güvenlik çalışmalarının teknolojik ilerlemeye yetişebilmesi için daha kontrollü hareket edilmesini önerdi.
Son aylarda risklerin daha belirgin hale geldiğini ifade eden Amodei, özellikle yeni nesil yapay zekâ sistemlerinin başka yapay zekâ sistemlerinin geliştirilmesine katkı sağlayabilme kapasitesine dikkat çekti.
Amodei, kontrolsüz bırakılması halinde bu sürecin insanların sistemleri anlama ve kontrol etme kabiliyetinin önüne geçebileceğini savundu.
6-12 AYLIK SÜRE İÇİN ÇARPICI UYARI
Anthropic CEO'sunun en dikkat çekici değerlendirmelerinden biri siber güvenlik konusunda geldi. Amodei, yapay zekâ yeteneklerinin mevcut hızla gelişmesi halinde gelişmiş yapay zekâ ajanlarından oluşan sistemlerin ciddi bir tehdit oluşturabileceğini öne sürdü.
Amodei, 6-12 ay içerisinde böyle bir sistemin kalıcı bir botnet aracılığıyla internet genelinde çok büyük çaplı saldırılar gerçekleştirebilecek seviyeye ulaşmasından endişe ettiğini belirtti. Böyle bir senaryonun yüz milyarlarca dolarlık ekonomik zarara yol açabileceğini savundu.
ÜÇ AŞAMALI YAPAY ZEKÂ PLANI
Amodei, yapay zekânın daha dengeli bir hızda geliştirilmesi amacıyla üç aşamalı bir plan da ortaya koydu. Planın model eğitimlerini veya teknik ilerlemeyi tamamen durdurmayı amaçlamadığını vurguladı.
Önerinin ilk ayağında öncü yapay zekâ şirketlerinin bağımsız üçüncü taraf denetçilere sürekli erişim sağlaması bulunuyor. Bu denetçilerin yalnızca tamamlanmış modelleri değil, eğitim süreçlerini ve güvenlik uygulamalarını da değerlendirmesi öngörülüyor.
İkinci aşamada demokratik ülkelerde faaliyet gösteren yapay zekâ şirketlerinin ortak güvenlik standartları belirlemesi, üçüncü aşamada ise ABD ve diğer demokratik hükümetlerin mümkün olduğu ölçüde diğer ülkelerle küresel koordinasyon sağlaması öneriliyor.
MUSK VE ALTMAN'DAN DESTEK
Amodei'nin çağrısına teknoloji dünyasının önde gelen isimlerinden destek geldi. Tesla ve SpaceX CEO'su Elon Musk, Amodei'nin paylaşımına “Dario haklı” yorumunu yaptı.
OpenAI CEO'su Sam Altman da sınır teknolojilerindeki çalışmaların hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını belirtti. Altman ayrıca çalışanlara benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma fikrini desteklediğini ve OpenAI'ın da benzer bir uygulamayı hayata geçireceğini ifade etti.
YAPAY ZEKÂ YARIŞINA ELEŞTİRİLER ARTIYOR
Yapay zekâ sektöründeki hızlı gelişim daha önce de şirketlerin içinden eleştirilere neden olmuştu. OpenAI ve Anthropic'te araştırmacı olarak görev yapan Jacob Coxon, şirketlerin yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.
Coxon, kendi kendini geliştirebilen yapay zekâ sistemleri konusunda kontrolsüz bir yarış yaşandığını ileri sürmüş ve gelecekte çok daha güçlü sistemlerin ortaya çıkabileceği uyarısında bulunmuştu.
