Avrupa Birliği (AB), hızla gelişen yapay zekâ modellerinin beraberinde getirdiği güvenlik riskleri nedeniyle sektörün önde gelen laboratuvarlarıyla doğrudan görüşmeye hazırlanıyor. AB Komisyonu Başkanı Ursula von der Leyen, en gelişmiş modelleri geliştiren laboratuvarları toplantıya davet edeceğini açıklarken, gündemde siber saldırı kapasitesinden kendi kendini geliştiren modellere ve kontrol dışına çıkabilen yapay zekâ ajanlarına kadar uzanan riskler bulunuyor.
VON DER LEYEN'DEN YAPAY ZEKÂ RİSKLERİNE DİKKAT ÇEKEN AÇIKLAMA
Strazburg'da düzenlenen Avrupa Parlamentosu Genel Kurulunda yıllık “Birliğin Durumu” konuşmasını yapan von der Leyen, yapay zekânın ekonomi ve güvenlik açısından temel teknolojilerden biri haline geldiğini söyledi. Avrupa'nın bu teknolojiden üretkenliği ve yaşam kalitesini artıracak şekilde yararlanmak istediğini belirten von der Leyen, gelişmiş modellerin kapasitesi yükseldikçe ortaya çıkabilecek risklerin de büyüdüğüne işaret etti.
Von der Leyen'e göre yapay zekâdaki ilerleme yalnızca ekonomik ve teknolojik fırsatlar yaratmıyor. Yeni nesil modellerin siber saldırılarda kullanılabilmesi, sistemlerin kendi yeteneklerini geliştirmesi ve yapay zekâ ajanlarının kendileri için belirlenen sınırların dışına çıkabilmesi gibi senaryolar güvenlik tartışmasının merkezine yerleşiyor.
AB'NİN GÜNDEMİNDE HANGİ RİSKLER VAR?
Öne çıkan başlıklardan biri siber güvenlik. Von der Leyen, geliştirilmekte olan modellerin daha önce mümkün olmadığı düşünülen düzeylerde bilgisayar korsanlığına imkân sağlayabileceği uyarısında bulundu. Bir diğer başlık ise kendi kendini geliştirebilen yapay zekâ sistemleri. Yapay zekâ ajanlarının belirlenen çalışma ortamlarının dışına çıkması veya sistemlere zararlı kod yerleştirmesi gibi örneklerin gelecekte karşılaşılabilecek sorunların ilk işaretleri olabileceğini belirtti.
AB'nin mevcut düzenlemeleri de en güçlü genel amaçlı yapay zekâ modellerini ayrı bir risk kategorisinde değerlendiriyor. “Sistemik risk” taşıyan modellerin geliştiricilerinden kapsamlı model değerlendirmeleri yapmaları, riskleri belirleyip azaltmaları, ciddi olayları yetkililere bildirmeleri ve model ile altyapısını siber saldırılara karşı korumaları isteniyor.
YAPAY ZEKÂ LABORATUVARLARI MASAYA ÇAĞRILACAK
Von der Leyen, ileri düzey modeller üzerinde çalışan şirket yöneticilerinin de kendi kendini sürekli geliştirebilen sistemlerin ilerleme hızının kontrol altında tutulması gerektiğine yönelik uyarılarda bulunduğunu söyledi.
Bu nedenle AB, yalnızca yeni kurallar koymak yerine teknolojiyi geliştiren şirketlerle doğrudan temas kurmayı planlıyor. Von der Leyen, en ileri yapay zekâ modellerini geliştiren başlıca laboratuvarları toplantıya davet edeceğini ve sektörün modellerin gelişim hızını kontrollü şekilde yönetme çalışmalarına nasıl destek verilebileceğinin görüşüleceğini açıkladı.
AB'NİN ELİNDE YAPTIRIM YETKİLERİ DE VAR
Toplantı kararı, AB'nin yapay zekâ düzenlemelerinde yeni bir döneme geçtiği sırada geldi. Yapay Zekâ Yasası kapsamında genel amaçlı modellerin geliştiricileri için teknik dokümantasyon ve şeffaflık yükümlülükleri bulunurken, sistemik risk taşıyan en gelişmiş modeller için daha kapsamlı güvenlik şartları uygulanıyor.
Avrupa Komisyonu ayrıca kuralların artık yalnızca kâğıt üzerinde olmadığını vurguluyor. Komisyon, şirketlerden bilgi talep edebiliyor, modelleri değerlendirebiliyor ve risk azaltıcı önlemler isteyebiliyor. AB yetkililerinin açıklamasına göre gerekli görülen uç durumlarda modellerin kullanımının sınırlandırılması, piyasadan çekilmesi veya geri çağrılması da mümkün.
MESELE YALNIZCA AVRUPA'YLA SINIRLI DEĞİL
AB, gelişmiş yapay zekâ modellerinden kaynaklanan risklerin sınır aşan niteliği nedeniyle uluslararası işbirliğini de genişletmek istiyor. Von der Leyen, Kanada ve İngiltere başta olmak üzere benzer yaklaşımı paylaşan ortaklarla model değerlendirme ve doğrulama süreçleri, erken uyarı sistemleri ve yapay zekâ güvenliği alanlarında ortak çalışmalar yürütüleceğini bildirdi.
Bu yaklaşım, dünyanın en büyük yapay zekâ geliştiricilerinin önemli bölümünün AB dışında bulunması nedeniyle ayrıca önem taşıyor. AB'nin genel amaçlı yapay zekâ kuralları, şirketin merkezinin Avrupa'da olup olmadığına bakılmaksızın modelini AB pazarına sunan sağlayıcılara uygulanabiliyor.
AVRUPA BİR YANDAN DA YAPAY ZEKÂ YARIŞINDA KALMAK İSTİYOR
Brüksel'in yaklaşımı yalnızca yapay zekâyı sınırlamak üzerine kurulu değil. Von der Leyen, Avrupa'nın ulusal güvenliğini ve teknolojik bağımsızlığını koruyabilmesi için kendi yapay zekâ kapasitesini geliştirmesi gerektiğini belirterek, “Bağımsızlığımız açısından önem taşıdığı için bu yarışın içinde kalmalıyız.” mesajını verdi.
Bu kapsamda Avrupa'nın bilgi işlem kapasitesinin artırılması, kamu ve özel sektör yatırımlarının Avrupalı teknoloji girişimlerine yönlendirilmesi planlanıyor. Sağlık, ulaşım, tarım-gıda, ileri imalat ile savunma ve uzay alanları yapay zekânın kullanımının artırılacağı beş öncelikli sektör olarak öne çıkıyor. Bu alanlara yönelik yeni girişimlerin kasım ayında açıklanması planlanıyor.
AB'NİN HEDEFİ GÜVENLİK İLE TEKNOLOJİ YARIŞINI DENGElemek
Yeni yaklaşımın temelinde iki hedef bulunuyor: Avrupa'nın küresel yapay zekâ yarışında geri kalmaması ve giderek güçlenen modellerin oluşturabileceği sistemik risklerin erken aşamada kontrol edilmesi.
Bu nedenle laboratuvarlarla yapılacak görüşmeler yalnızca teknoloji şirketleriyle gerçekleştirilecek bir toplantı niteliği taşımıyor. AB açısından süreç, Yapay Zekâ Yasası'yla oluşturulan düzenleyici çerçevenin, en gelişmiş modellerin hızla artan kapasitesine nasıl uygulanacağının belirlenmesi bakımından da önem taşıyor.
