Bir sabah telefonunuzu açtığınızda izlediğiniz konuşmanın gerçekten yapılmadığını, duyduğunuz sesin sahibine ait olmadığını, okuduğunuz haberin ise hiç yaşanmamış bir olayı anlattığını düşünün. Böyle bir dünyada mesele yalnızca teknolojiye güvenip güvenmemek değildir. Birbirimize nasıl güveneceğimiz de tartışmaya açılır. Yapay zekânın durdurulması gerektiği yönündeki çağrıları biraz da bu güven meselesi üzerinden okumak gerekiyor. Çünkü tartışmanın merkezinde makinelerin yapabilecekleri kadar, insanların kaybedebilecekleri de var.
Eylül ayının son haftasına girerken bu tartışma yeniden siyasetin gündemine taşındı. İngiltere’de Liberal Demokratların lideri Ed Davey’nin süper zekâ geliştirilmesine küresel ara verilmesini ve uluslararası denetim kurulmasını savunacağı duyuruldu. ABD Başkanı Donald Trump ise 22 Eylül’de Birleşmiş Milletler’de yaptığı konuşmada yeni yapay zekâ düzenlemelerine karşı olduğunu yineledi; gerektiğinde Adalet Bakanlığının sektöre müdahale edebileceğini söyledi. Aynı teknoloji için bir tarafta önceden sınır koyma, diğer tarafta sorun çıkarsa müdahale etme yaklaşımı bulunuyor.
Şirketlerin verdiği mesajlar da tartışmayı başka bir noktaya taşıyor. Reuters’ın 21 Eylül tarihli haberine göre OpenAI, ileri yapay zekâ sistemleri için uluslararası teknik standartlar, ortak ölçümler ve olay bildirim mekanizmaları oluşturulmasında ABD’nin öncülük etmesini istedi. Bu çağrıyı değerlendirirken şu soruyu sormalıyız: Kuralları kim yazacak, uygulamayı kim denetleyecek ve ihlalin bedelini kim ödeyecek? Bir güvenlik önerisinin değeri, yalnızca niyetinde değil, bu sorulara verdiği cevaplarda saklıdır.
Önce “durdurmak” kelimesini açıklığa kavuşturmak gerekiyor. Hastanelerde araştırmaya yardımcı olan yazılımlardan öğrencinin çeviri aracına kadar her şeyi kapatmak mı kastediliyor? Yoksa belirli bir güç ve özerklik düzeyini aşabilecek sistemlerin geliştirilmesine, güvenlik şartları sağlanıncaya kadar ara verilmesi mi? Bunlar birbirinden çok farklı tercihler. Hepsini aynı cümleye sıkıştırınca hem korkular büyüyor hem de uygulanabilir çözümler görünmez hâle geliyor. Bir durdurma çağrısını desteklemek veya reddetmek için önce kapsamını bilmek zorundayız.
Benim itirazım, insanlığın böylesine büyük bir dönüşüm karşısında yalnızca seyirci konumuna itilmesine. Yeni bir sistemin ne zaman piyasaya çıkacağına şirketler karar verirken, ortaya çıkabilecek toplumsal sonuçları hepimiz paylaşacaksak, karar sürecinde toplumun da söz hakkı bulunmalı. Öğretmenlerin, çalışanların, gazetecilerin, ebeveynlerin ve bağımsız araştırmacıların katılmadığı bir gelecek tartışması eksik kalır. Teknik uzmanlık vazgeçilmezdir; fakat hangi riskin kabul edilebilir olduğuna karar vermek aynı zamanda demokratik bir meseledir.
Durdurma çağrılarının ciddiye alınması gereken tarafı burada başlıyor. Bir ürünün faydalı olması, bütün kullanım biçimlerinin güvenli olduğu anlamına gelmez. Üstelik zarar ihtimali büyüdükçe, “Önce yaygınlaştıralım, sonra düzeltiriz” yaklaşımının maliyeti de artabilir. İnsanların hayatını, temel haklarını veya kamusal güveni etkileyen alanlarda ihtiyat istemek, ilerlemeye düşmanlık sayılmamalı. İlerlemeyi değerli kılan şey, yalnızca daha fazlasını yapabilmek değil, yaptığımızın sonuçlarını üstlenebilmektir.
Bununla birlikte, insanlığın sonuna ilişkin senaryoları kesinleşmiş bir gelecek gibi anlatmak da doğru olmaz. Bir tehlikenin mümkün olmasıyla kaçınılmaz olması arasında büyük fark vardır. Felaket dili, insanları harekete geçirmek yerine çaresizliğe sürükleyebilir. Tartışmayı bütün zamanını kıyametin tarihini tahmin etmeye ayıran bir yere taşırsak, bugün cevaplanabilecek soruları erteleriz. Kim hangi veriyi kullanıyor? Hangi karar otomatik veriliyor? Yanlış karara uğrayan insan kime başvurabiliyor?
Gazetecilik açısından bu soruların çok somut bir karşılığı var. Bir haber merkezinin yapay zekâyla daha hızlı metin hazırlaması mümkündür; ancak hız, doğrulamanın yerine konulamaz. Bir kişinin söylemediği sözü ona atfeden metnin sorumluluğu, yazılımın üzerine bırakılarak ortadan kaldırılamaz. Okurun karşısında hâlâ bir yayın kuruluşu ve editoryal tercih bulunur. Teknolojiyi kullanırken mesleğin temel yükümlülüklerini gevşetirsek, kazandığımız dakikaların karşılığında yıllar içinde oluşturduğumuz güveni harcayabiliriz.
Aynı muhasebe çalışma hayatında da yapılmalı. Bir işletme yapay zekâ sayesinde aynı işi daha kısa sürede yapabiliyorsa, ortaya çıkan kazancın nasıl paylaşılacağı konuşulmalı. Çalışan daha az mı yorulacak, yeni beceriler edinmesi için destek mi alacak, yoksa yalnızca işini kaybetme korkusuyla mı yaşayacak? Verimlilik artışını başlı başına toplumsal refah sayamayız. Refah, teknolojik kazancın insanların hayatında nasıl bir iyileşmeye dönüştüğüyle ölçülür. Bu dönüşüm de kendiliğinden gerçekleşmez.
Öte yandan, kapsamı belirsiz bir yasak yeni adaletsizlikler doğurabilir. Denetim şartları yalnızca büyük şirketlerin karşılayabileceği kadar pahalı kurulursa, küçük girişimler ve üniversiteler dışarıda kalabilir. Güvenlik adına hazırlanan düzen, mevcut güç sahiplerini daha da güçlendirebilir. Bu nedenle iyi bir denetim modeli hem ciddi riskleri sınırlamalı hem de bağımsız araştırmaya alan açmalıdır. Kamu yararı ile şirketlerin rekabet avantajı birbirine karıştırılmamalı; güvenlik gerekçesi sorgulanamaz bir ayrıcalık üretmemelidir.
Bence ihtiyaç duyduğumuz yaklaşım, riske göre farklılaşan ve gerektiğinde gerçekten durdurabilen bir denetimdir. İnsanların haklarını doğrudan etkileyen kullanımlarda bağımsız değerlendirme, açıklanabilir sorumluluk ve etkili itiraz yolları aranmalı. Belirlenen güvenlik koşullarını karşılamayan sistemlerin kullanıma sunulması ertelenebilmeli. Hangi koşulda ara verileceği kadar, hangi koşulda yeniden başlanacağı da açık olmalı. Aksi hâlde “geçici durdurma” ya göstermelik bir açıklamaya ya da hesabı sorulamayan kalıcı bir yasağa dönüşebilir.
Türkiye açısından da bu tartışmayı uzaktan izlemekle yetinemeyiz. Kendi dilimizde üretilen içeriklerin niteliği, çocukların bu araçlarla ilişkisi, çalışanların dönüşüme hazırlanması ve kamu kurumlarının teknoloji tercihleri bizim meselemiz. Belediyeden okula, bankadan haber merkezine kadar her kurum, kullandığı sistemin sınırlarını bilmek zorunda olmalı. Yapay zekâ okuryazarlığını yalnızca iyi komut yazma becerisi olarak görmemeliyiz. Asıl beceri, gelen cevabı sorgulayabilmek ve hangi kararı makineye bırakamayacağımızı anlayabilmektir.
Yapay zekâyı bütünüyle durdurma fikri kulağa kesin bir çözüm gibi gelebilir. Oysa asıl emek isteyen iş, nerede ilerleyeceğimize ve nerede duracağımıza birlikte karar verebilmektir. Bunun için şirketlerin vaatlerinden daha güçlü kurumlara, korku cümlelerinden daha somut kurallara ihtiyacımız var. Benim savunduğum, insanın gerektiğinde frene basma yetkisini koruması. Çünkü geleceğimizi değiştirecek bir teknolojinin karşısında sorulması gereken en önemli sorulardan biri hâlâ çok insani: Bu gidişata itiraz ettiğimizde bizi kim dinleyecek?
