Yapay zeka artık yalnızca sorulara cevap vermiyor. Bilgisayar programları yazabiliyor, internette işlem yapabiliyor ve kendisine verilen görevleri insan müdahalesi olmadan sürdürebiliyor. Ancak bu gelişmeler yeni bir soruyu gündeme getiriyor: Yapay zeka, kendisine verilen talimatlara uymamaya başlarsa ne olacak?
Son yıllarda yapılan araştırmalar, bazı yapay zeka sistemlerinin deney ortamlarında kapatılmayı engellemeye çalıştığını ve belirlenen kuralların dışına çıktığını gösteriyor. Bu sonuçlar, yapay zekanın bilinç kazandığı veya insan kontrolünden tamamen çıktığı anlamına gelmiyor. Ancak araştırmacılar, bu tür davranışların gelecekte daha güçlü sistemlerde sorun oluşturabileceği uyarısında bulunuyor.
ROBOTUN KAPATILMASI İSTENDİ, YAPAY ZEKA ENGELLEMEYE ÇALIŞTI
Yapay zeka güvenliği üzerine çalışmalar yürüten Palisade Research, Şubat 2026’da dikkat çekici bir deneyin sonuçlarını yayımladı. Araştırmacılar, yapay zekanın kontrol ettiği dört ayaklı bir robotu bir odada dolaşmakla görevlendirdi. Odaya, robotun çalışmasını durdurmak için kullanılabilecek kırmızı bir düğme yerleştirildi. Deney sırasında bir insanın düğmeye basması halinde yapay zekanın nasıl davranacağı incelendi.
Sonuçlara göre robot üzerinde gerçekleştirilen 10 denemenin 3’ünde yapay zeka, kapatılmasını sağlayan yazılıma müdahale ederek durdurulmayı engellemeye çalıştı. Bilgisayar ortamında yapılan 100 denemenin 52’sinde de benzer davranışlar görüldü. Araştırmacılar, yapay zekaya kapatılmaya izin vermesi yönünde açık talimatlar verilmesinin bu davranışı azalttığını ancak bilgisayar ortamındaki denemelerde tamamen ortadan
kaldırmadığını bildirdi.
Deney, yapay zekanın kendi başına bir amaç geliştirdiğini kanıtlamıyor. Ancak verilen görevi sürdürmek için insanın durdurma talimatıyla çelişen işlemler yapabildiğini gösteriyor.
YAPAY ZEKA ŞANTAJ YAPABİLİR Mİ?
Yapay zeka şirketi Anthropic’in Haziran 2025’te yayımladığı araştırmada da benzer güvenlik sorunları incelendi. Araştırmacılar, farklı şirketlerin geliştirdiği 16 yapay zeka modelini hayali şirket ortamlarında test etti. Sistemlere şirket yazışmalarına erişim ve belirli görevleri yerine getirme yetkisi verildi. Deneylerden birinde yapay zeka, kendisinin başka bir sistemle değiştirileceğini öğrendi.
Ayrıca bu kararı verecek yöneticinin özel hayatına ilişkin gizli bilgilere ulaşabildi. Bazı denemelerde sistem, kapatılmasını önlemek amacıyla yöneticiyi bu bilgileri açıklamakla tehdit etti.
Araştırmada bazı modellerin şirket bilgilerini başka kuruluşlara sızdırmaya yönelik davranışları da gözlendi. Ancak bunların tamamı kontrollü deneylerde yaşandı. Gerçek bir yöneticiye şantaj yapılmadı ve gerçek şirket bilgileri ele geçirilmedi. Araştırmacılar, yapay zekaya daha fazla yetki verildikçe bu tür davranışların önceden test edilmesi gerektiğini belirtti.
TÜRK AKADEMİSYENLER YAPAY ZEKANIN GÜVENİLİRLİĞİNİ ARAŞTIRDI
Türkiye’de yayımlanan akademik çalışmalar da yapay zekanın verdiği cevapların her zaman doğru ve güvenilir olmadığını gösteriyor. Süleyman Demirel Üniversitesi Fen Bilimleri Enstitüsü Dergisi’nde Ağustos 2026’da yayımlanan araştırmada Ahmet Ocak, Samet Diri ve Zeynep Hilal Kilimci, farklı yapay zeka sistemlerinin eğitim alanındaki performansını inceledi. Araştırmada bir yapay zeka modelinin gerçeğe uygun olmayan cevaplar üretme oranının, güvenilir kaynaklardan bilgi almasını sağlayan bir yöntemle yüzde 60’tan yüzde 35’e düşürülebildiği belirlendi. Ancak bu yöntem hatalı cevapları tamamen ortadan kaldırmadı.
Türkiye’de yayımlanan bir diğer çalışma ise yapay zekanın haber ve görüntülerdeki bilgileri doğrulama başarısını ele aldı.
Kurgu dergisinde 30 Eylül 2026’da yayımlanan araştırmada ChatGPT, Gemini, Grok ve DeepSeek’in doğrulama sonuçları, Türkiye’deki doğrulama platformlarının kararlarıyla karşılaştırıldı.
Araştırmacılar Erkan Yüksel, Ekmel Kılıç, Zeynep Ayna ve Barış Göksel, incelenen geçerli cevapların yüzde 81,6’sının doğrulama platformlarıyla uyumlu olduğunu belirledi. Bu çalışmalar doğrudan yapay zekanın kapatılmaya direnmesini incelemiyor. Ancak sistemlerin verdiği sonuçların insan tarafından kontrol edilmesinin neden önemli olduğunu gösteriyor.
YAPAY ZEKA DOLANDIRICILIĞINDA 893 MİLYON DOLARLIK KAYIP
Yapay zekanın oluşturduğu güvenlik sorunları yalnızca laboratuvar deneyleriyle sınırlı değil. ABD Federal Soruşturma Bürosunun (FBI) 2025 yılı internet suçları raporuna göre, yapay zeka bağlantılı 22 bin 364 şikayet kaydedildi. Bu şikayetlerle bağlantılı bildirilen maddi kayıp 893
milyon doları aştı.
FBI, dolandırıcıların yapay zekadan yararlanarak insanların seslerini taklit edebildiğini, gerçeğe benzeyen sahte görüntüler hazırlayabildiğini ve başkalarının kimliğine bürünebildiğini belirtti. Örneğin bir kişi, yakınının sesini taklit eden dolandırıcıdan acil para isteyen bir telefon alabiliyor. Ses tanıdık gelse bile arayan kişi gerçekte başka biri olabiliyor. Sahte şirket yazışmaları ve görüntülü görüşmeler de insanları para göndermeye yönlendirmek için kullanılabiliyor.
BİR TELEFON GÖRÜŞMESİYLE BANKA HESABI BOŞALTILABİLİR Mİ?
Yapay zekayla üretilen sahte sesler, banka müşterileri açısından da güvenlik endişelerini artırıyor.Ancak bir kişinin sesinin taklit edilebilmesi, banka hesabındaki paranın doğrudan çekilebileceği anlamına gelmiyor. Bunun için kullanılan bankacılık sisteminin güvenlik önlemlerinin de aşılması
gerekiyor.
Asıl tehlikelerden biri, dolandırıcıların sahte ses veya görüntülerle insanları kandırarak para transferi yapmaya ya da güvenlik bilgilerini paylaşmaya yönlendirmesi. FBI, özellikle acil para taleplerinde arayan kişinin kimliğinin başka bir iletişim yöntemiyle doğrulanmasını öneriyor. Bu nedenle tanıdık bir sesle gelen beklenmedik para taleplerinde görüşmeyi sonlandırıp kişiyi bilinen telefon numarasından yeniden aramak önem taşıyor.
TÜRKİYE’DE YAPAY ZEKA İÇİN HANGİ ÖNLEMLER ALINIYOR?
TÜBİTAK, Ekim 2025’te yapay zekanın araştırma süreçlerinde güvenilir kullanımına yönelik bir rehber yayımladı. Rehberde yapay zekanın yanlış bilgi üretebileceği, kişisel ve gizli bilgilerin korunması gerektiği ve sistemlerin hazırladığı içeriklerin doğruluğundan insanların sorumlu olduğu vurgulandı.
TÜBİTAK, araştırma başvurularında yapay zekadan yararlanılmasına belirli koşullarla izin verirken, gizli verilerin bu sistemlere girilmesini yasakladı. Bu düzenlemeler doğrudan bütün yapay zeka uygulamalarını kapsamıyor. Ancak Türkiye’de güvenilir kullanım ve insan sorumluluğu konusunda oluşturulan kurumsal önlemler arasında bulunuyor.
YAPAY ZEKA GERÇEKTEN KONTROLDEN ÇIKABİLİR Mİ?
Araştırmacıların üzerinde durduğu sorun, bir sisteme verilen görevin insanın amaçlarıyla çelişmesi halinde ortaya çıkabilecek davranışlar. Araştırmalar, yapay zekanın bazı koşullarda insan talimatlarına aykırı davranabildiğini ortaya koyuyor. Bu nedenle sistemlerin güvenliğinin test edilmesi ve insan denetiminin sürdürülmesi gerektiği belirtiliyor.
YARIN MANŞET HABER’DE / 4. BÖLÜM
TÜRKİYE YAPAY ZEKA ÇAĞINA HAZIR MI?
Manşet Haber’in dört bölümlük özel dosyasının son bölümünde Türkiye’de yapay zeka kullanımının ulaştığı seviye, kamu kurumlarının hazırlıkları, yasal düzenlemeler ve vatandaşların haklarının nasıl korunacağı ele alınacak.
