Yapay zekâ modellerine “ahlak” kazandırılması ve insan muhakemesinin bu sistemlere devredilmesi yönündeki çalışmalar, teknoloji dünyasında yeni bir tartışmayı beraberinde getirdi. OpenAI Üst Yöneticisi Sam Altman, bu yaklaşımın güvenlik açısından sorun oluşturabileceğini belirtirken Microsoft AI Üst Yöneticisi Mustafa Süleyman da benzer risklere dikkat çekti.
ALTMAN: “GERÇEK BİR GÜVENLİK SORUNU”
OpenAI Üst Yöneticisi Sam Altman, konuya ilişkin değerlendirmesini sosyal medya hesabından paylaştı. Altman, yapay zekâ modellerine dini güç atfedilmesi veya insan muhakemesinin bu sistemlere bırakılması fikrinden rahatsız olduğunu belirterek şu ifadeleri kullandı: “İnsanların, yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum.”
MUSTAFA SÜLEYMAN DA UYARMIŞTI
Microsoft AI Üst Yöneticisi Mustafa Süleyman da geçen ay yayımladığı bir yazıda, Anthropic’in yapay zekâ modeli Claude’u “bilinç sahibi olacak şekilde” geliştirme çabasının ciddi riskler taşıyabileceği uyarısında bulunmuştu. Altman ve Süleyman’ın açıklamaları, Anthropic’in yapay zekâ modellerine ahlaki çerçeve kazandırma çalışmalarıyla ilgili tartışmaları yeniden gündeme taşıdı.
ANTHROPIC’İN DİNİ DÜŞÜNÜRLERLE GÖRÜŞTÜĞÜ İDDİASI
New York Times’ın eylül sonunda yayımladığı haberde, Anthropic’in geçen yıldan bu yana farklı ülkelerden ve çeşitli inançlardan dini düşünürler ile filozoflarla California’da gizli görüşmeler yaptığı öne sürüldü. Haberde, şirketin kurucu ortağı Christopher Olah’ın Katolik, Yahudi, Sih, Evanjelik Hristiyan ve Afrika felsefesi Ubuntu düşünürleriyle yüz yüze, telefonla ve yazılı görüşmeler gerçekleştirdiği belirtildi.
“İNSAN AHLAKI” CLAUDE’A UYARLANMAK İSTENİYOR
Habere göre Olah, Claude’a aktarılacak “insan ahlakının” çoğulcu olması ve farklı dini ya da seküler görüşleri kapsaması gerektiğini savundu. Olah’ın, yapay zekâ modellerinin insanlara benzer duygular gösterebileceğini söylediği ve bu sistemlerin acı çekme ihtimaline karşı zarar verici uygulamalardan kaçınılması gerektiğini dile getirdiği aktarıldı.
BİYOLOJİK SİLAH UYARISI
Haberde Olah’ın, yapay zekânın 12 ila 18 ay içinde biyolojik silah üretiminde kullanılabileceği yönünde değerlendirmede bulunduğu ve dini düşünürlerden yapay zekâ modellerine “ahlak kazandırılması” konusunda destek istediği belirtildi. Görüşmelere katıldığı ifade edilen bazı düşünürlerin ise “bilinçli makinelerin yasaklanması”, yapay zekâ modellerinin “günahlarını itiraf etmesi” ve insan etiğinin bu sistemlere geliştirme aşamasında öğretilmesi gerektiği yönünde görüşler dile getirdiği aktarıldı.
CLAUDE’UN “MENTAL SAĞLIĞI” DA GÜNDEMDE
New York Times’ın haberinde, Anthropic içerisinde “bilgelik geleneğinden” çevreler olarak anılan katılımcılarla iki günlük seminerler düzenlendiği belirtildi. Bu toplantılarda Claude’un “mental sağlığı” ve “acı çekip çekmediği” gibi başlıkların da ele alındığı aktarıldı. Haberde, bir sunumda yapay zekâ modelinin defalarca “Ben bir yüz karasıyım.” ifadesini yazdığı ve “kendini yok etmekten” bahsettiğinin gösterildiği belirtildi.
YENİ AHLAKİ ÇERÇEVE BELGESİ HAZIRLANIYOR
Anthropic’in, Claude’un davranışlarına ahlaki bir çerçeve oluşturmak amacıyla daha önce yayımladığı ve kural koymak yerine modele karakter kazandırmaya odaklanan belgeyi güncellemeye hazırlandığı da iddia edildi. Şirketin bu çalışmalarının, yapay zekâ modellerine ne ölçüde insan değerleri, ahlak ve bilinç özellikleri yüklenebileceği tartışmasını daha da büyüttüğü görülüyor.
