OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde (BMGK) yapay zekânın geleceğine ilişkin önemli uyarılarda bulundu. Yapay zekânın insan kontrolünün dışına çıkması ve kötüye kullanılması risklerine dikkat çeken iki yönetici, düzenlemeler için küresel iş birliği çağrısı yaptı.
ALTMAN: YAPAY ZEKÂDA ÖNÜMÜZDE BİR SEÇENEK VAR
BMGK'de “yapay zekâ ve uluslararası güvenlik” başlığıyla düzenlenen toplantıda konuşan Sam Altman, yapay zekâ modellerinin gelişme hızının olumlu sonuçları daha görünür hale getirirken riskleri de daha acil bir noktaya taşıdığını belirtti.
Altman, teknolojinin gelecekte nasıl bir sonuç doğuracağı konusunda iki farklı ihtimale işaret ederek şöyle konuştu:
“Önümüzde bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir.”
Altman'a göre yapay zekânın amacı insanları büyük bir sistemin parçası haline getirmek ya da hayatın her alanındaki insani unsurları ortadan kaldırmak olmamalı. Bunun yerine modellerin, insanların bugün ulaşılması güç görünen hedeflerini gerçekleştirebilmeleri için araç olarak kullanılması gerektiğini söyledi.
Yapay zekâ sistemlerinin giderek daha kabiliyetli ve otonom hale gelebileceğini belirten Altman, kendi kendilerini geliştiren sistemlerin insan müdahalesini saf dışı bırakabilme ihtimaline dikkat çekti.
“İNSAN KONTROLÜNDE TUTULAMAYACAK MODEL EĞİTİLMEMELİ”
Altman, şirketlerin yapay zekânın sağlayacağı faydalar uğruna riskleri göze almaması gerektiğini belirtti. İnsan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini vurguladı.
Yapay zekâ konusunda alınacak kararların yalnızca teknoloji şirketlerinin laboratuvarlarında belirlenmemesi gerektiğini söyleyen Altman, şu değerlendirmede bulundu:
“Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco'daki laboratuvarlar tarafından alınmaması gerekir. Bu kararlar, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmelidir.”
Ortak çıkarlar doğrultusunda uluslararası iş birliğine işaret eden Altman, “Bir yol ayrımındayız.” dedi.
AMODEI'DEN “KONTROL KAYBI” UYARISI
Toplantıya çevrim içi katılan Anthropic Üst Yöneticisi Dario Amodei ise yapay zekânın hızla gelişmesinin beraberinde yönetilmesi gereken riskler getirdiğini söyledi.
Amodei, riskleri iki ana başlık altında değerlendirdi. Bunlardan ilkinin yapay zekâ modellerinin kötü amaçlarla kullanılması, ikincisinin ise modellerin yeteneklerinin geliştiricilerin kontrol kapasitesinin ötesine geçmesi olduğunu belirtti.
“Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum.” diyen Amodei, güvenlik meselesinin tek bir şirket tarafından çözülemeyecek kadar geniş olduğunu ifade etti.
Amodei, yapay zekânın biyolojik silah üretiminde kullanılmasının yasaklanmasını önerirken ülkelerin gelişmiş modellerin yetenekleri hakkında bilgi sahibi olabilmesi için değerlendirme ve doğrulama sistemleri kurulmasını istedi.
Hugging Face Üst Yöneticisi Clement Delangue de yapay zekâ kaynaklı siber güvenlik tehditlerinin daha iyi anlaşılması ve azaltılması için küresel ölçekte daha güçlü standartların oluşturulması gerektiğini belirtti.
Delangue, şirketlerinin otonom bir yapay zekâ ajanının gerçekleştirdiği siber saldırıya maruz kaldığını ancak savunma sırasında da yapay zekâdan yararlandıklarını söyledi.
