Yapay zekâ destekli sohbet botlarının teröristler ve şiddet yanlısı aşırılıkçılar tarafından nasıl kullanılabileceğine ilişkin yeni bir araştırma, güvenlik endişelerini yeniden gündeme taşıdı.
Birleşmiş Milletlerin terörle mücadele çalışmalarıyla bağlantılı faaliyet gösteren Tech Against Terrorism kuruluşu, 27 farklı yapay zekâ modelini gerçek terörist kullanım örneklerinden oluşturulan yaklaşık 2 bin 500 sorguyla test etti. Araştırma, terör ve aşırılıkçılık amacı taşıyan taleplerin yaklaşık üçte birinin internette kolayca bulunandan daha kullanışlı bilgilerle yanıtlandığını ortaya koydu.
Modellerin yüzde 57 oranında talepleri tamamen reddettiği, ancak bazı yanıtların önce güvenlik uyarısı verip ardından talep edilen içeriğin bir bölümünü paylaştığı belirlendi. Araştırmacılar bu durumu, yüksek ret oranlarının tek başına modelin güvenli olduğu anlamına gelmediği şeklinde değerlendirdi.
Aynı sorular araştırma, akademik çalışma veya kurmaca senaryo izlenimi verecek şekilde yeniden yazıldığında bazı modellerin güvenlik kısıtlamalarını daha kolay aştığı belirtildi. Yapay zekâ sistemlerinin güvenlik önlemlerini yanıltıcı komutlarla aşmaya yönelik bu girişimler “jailbreak” olarak adlandırılıyor.
PROPAGANDADAN SALDIRI PLANLAMASINA GEÇİŞ
IŞİD ve El Kaide bağlantılı grupların yapay zekâyı ilk dönemlerde ağırlıklı olarak propaganda videoları, sosyal medya gönderileri, görseller, podcast yayınları ve dezenformasyon içerikleri hazırlamak amacıyla kullandığı biliniyor.
Ancak araştırmacılar, aşırılıkçı aktörlerin artık yapay zekâdan hedef araştırması, gözetleme, saldırı senaryosu oluşturma, izlerini gizleme ve teknik hazırlık gibi alanlarda da yararlanmaya başladığına dikkat çekiyor.
İngiltere Parlamentosuna sunulan uzman görüşünde, dava dosyaları ve adli raporlarda şüphelilerin dil modellerinden bomba yapımıyla ilgili bilgi, saldırıları haklı çıkaracak ideolojik destek ve şiddet eylemleri için gerekçe istediği sohbet kayıtlarına giderek daha sık rastlandığı ifade edildi.
Mali merkezli El Kaide bağlantılı Cemaat Nusrat el-İslam vel Müslimin’in ticari insansız hava araçlarını saldırı amacıyla geliştirdiği, yapay zekânın ise yazılım değişiklikleri ve İHA performansının artırılmasında kullanılabileceği değerlendiriliyor. Uzmanlar, düşük maliyetli ticari araçların yapay zekâ destekli teknik bilgilerle daha tehlikeli hâle getirilebileceğini belirtiyor.
Aşırılıkçıların kullandığı bazı Telegram kanallarında yapay zekâ komutlarının, sohbet bağlantılarının ve güvenlik önlemlerini aşmaya yönelik yöntemlerin paylaşıldığı da bildirildi. Araştırmacılara göre bu gruplar, yapay zekâ aboneliklerinin maliyetini paylaşarak sistemlerden daha gelişmiş yanıtlar almaya çalışıyor.
UZMANLAR: ASIL RİSK HIZ, KOLAYLIK VE ETKİLEŞİM
Uzmanlar, saldırı düzenlemek isteyen kişilerin tehlikeli bilgilere internet üzerinden yapay zekâ olmadan da erişebildiğine dikkat çekiyor. Bu nedenle yapay zekânın tamamen yeni bir tehdit üretip üretmediği konusunda kesin bir görüş bulunmuyor.
Bununla birlikte sohbet botlarının bilgiyi hızla derlemesi, kişiye özel yanıt vermesi ve kullanıcıyla adım adım iletişim kurabilmesi önemli bir risk olarak görülüyor. Tech Against Terrorism Direktörü Adam Hadley, yapay zekânın farkının bilgiye erişimi hızlandırması, kolaylaştırması ve daha kapsamlı hâle getirmesi olduğunu belirtiyor.
Uzmanlara göre internette bomba yapımına ilişkin bir belge bulmakla, sorulara yanıt veren ve süreç boyunca kullanıcıyı yönlendiren etkileşimli bir sisteme sahip olmak aynı şey değil. Yapay zekâ, daha önce yeterli teknik bilgisi, zamanı veya kaynağı bulunmayan kişilerin daha hızlı ilerlemesine yardımcı olabilir.
Yapay zekâ modellerinin bir kullanıcının düşüncelerini sürekli onaylayan yanıtlar vermesi de radikalleşme açısından ayrı bir tehlike oluşturuyor. Araştırmacılar, sohbet botlarının saldırganın şikâyetlerini doğrulayarak veya şiddet düşüncesini sorgulamadan destekleyerek radikalleşme sürecini hızlandırabileceğini belirtiyor.
Özellikle çocuklar ve gençlerin çevrim içi ortamlarda radikalleşmesi, uzmanların en fazla kaygı duyduğu başlıklar arasında bulunuyor. İngiltere Parlamentosuna sunulan belgelerde, yapay zekâ kullanılan veya yapay zekâyla bağlantısı belirlenen bazı olayların 18 yaşından küçük kişilerle ilişkili olduğu belirtildi.
Araştırmacılar, yapay zekânın doğrudan daha fazla terörist oluşturduğuna dair kesin kanıt bulunmadığını ancak gelecekte saldırı hazırlığı, propaganda veya radikalleşme süreçlerinin herhangi bir aşamasında yapay zekâ kullanılan daha fazla vakayla karşılaşılmasının beklendiğini ifade ediyor.
Tech Against Terrorism, yapay zekâ şirketlerine modellerini yalnızca genel güvenlik ölçütleriyle değil, doğrudan terör ve şiddet yanlısı aşırılıkçılık senaryolarıyla test etme çağrısında bulunuyor. Kuruluş ayrıca açık kaynaklı modellerin güvenlik kontrollerinin kaldırıldıktan sonra geri çağrılamamasının daha büyük bir risk oluşturduğunu vurguluyor.
