OpenAI, ChatGPT tarafından üretilen metinlerin yapay zekâ ürünü olduğunun tespit edilmesini kolaylaştıracak yeni bir sisteme geçiyor. Avrupa Birliği'nin yapay zekâ alanındaki şeffaflık kurallarına uyum kapsamında devreye alınacak textGrain teknolojisi, metinlere kullanıcıların göremediği istatistiksel bir iz yerleştirecek. Uygulama Avrupa'daki ChatGPT ve uygun Codex metinlerinde kademeli olarak başlatılırken, API tarafında dünya genelinde isteğe bağlı kullanılabilecek.
KARARIN ARKASINDA AB'NİN YAPAY ZEKÂ YASASI VAR
Yeni sistemin temelinde Avrupa Birliği Yapay Zekâ Yasası'nın şeffaflık yükümlülükleri bulunuyor. Düzenleme, üretken yapay zekâ tarafından oluşturulan veya değiştirilen içeriklerin makine tarafından okunabilir şekilde işaretlenmesini ve yapay zekâ ürünü olduğunun tespit edilebilir olmasını öngörüyor. Ancak textGrain'in kullanılması yönündeki tercihi doğrudan Avrupa Birliği yapmadı. OpenAI, AB düzenlemelerine uyum sağlamak amacıyla kendi filigranlama teknolojisini devreye alma kararı aldı.
METNİN ÜZERİNDE GÖRÜNÜR BİR İŞARET OLMAYACAK
textGrain klasik filigranlardan farklı çalışacak. Kullanıcılar ChatGPT'nin oluşturduğu metinlerin üzerinde logo, uyarı veya “yapay zekâ tarafından üretildi” şeklinde bir ibare görmeyecek. Sistem bunun yerine modelin metin üretirken yaptığı kelime seçimlerine gözle fark edilemeyen istatistiksel bir sinyal yerleştiriyor. OpenAI'nin tespit aracı da metindeki bu örüntüyü inceleyerek textGrain filigranının bulunup bulunmadığını belirleyebiliyor.
KOPYALANAN METİNDE DE İZ KALABİLECEK
Sistemin dikkat çeken yönlerinden biri, işaretin dosya bilgilerine veya ChatGPT arayüzüne bağlı olmaması. Filigran metnin istatistiksel yapısına yerleştirildiği için içeriğin başka bir belgeye veya platforma kopyalanması tek başına izi ortadan kaldırmayabilecek. Ancak metnin daha sonra kapsamlı şekilde yeniden yazılması veya kelimelerinin değiştirilmesi filigranın tespit edilmesini zorlaştırabilecek. Bu nedenle sistem, ChatGPT'nin oluşturduğu her metni her koşulda kesin olarak belirleyebilen bir teknoloji anlamına gelmiyor.
KULLANICININ KİMLİĞİNİ ORTAYA ÇIKARMAYACAK
Filigranın amacı ChatGPT kullanıcılarını takip etmek değil. OpenAI'nin açıklamasına göre sistem, metni oluşturan kişinin kimliğini, kullanılan hesabı veya içeriğin hangi ChatGPT konuşmasından alındığını filigrana kodlamıyor. Dolayısıyla textGrain, “Bu metni şu kullanıcı oluşturdu” sonucunu veren bir takip sistemi olmayacak. Teknoloji, incelenen metnin OpenAI'nin filigran sinyalini taşıyıp taşımadığına odaklanacak.
CHATGPT VE CODEX'TE KADEMELİ GEÇİŞ
OpenAI, textGrain'i Avrupa Birliği'ndeki uygun ChatGPT kullanıcılarına kademeli olarak sunacak. Uygun Codex metin çıktıları da uygulamanın kapsamına girecek. Böylece Avrupa'da OpenAI modelleri tarafından oluşturulan uygun metinlerde, kullanıcı tarafından görülmeyen ancak teknik araçlarla tespit edilebilen bir köken sinyali bulunabilecek.
API'DE KULLANIM İSTEĞE BAĞLI OLACAK
API tarafında ise farklı bir yöntem izlenecek. OpenAI, textGrain desteğini dünya genelindeki API müşterilerinin kullanımına sunacak ancak özellik varsayılan olarak açık olmayacak. Desteklenen modelleri kullanan geliştiriciler sistemi isterlerse etkinleştirebilecek. Bu nedenle OpenAI API'sinden üretilen bütün metinlerin otomatik olarak filigranlanacağı anlamı çıkarılmaması gerekiyor.
HERKES METİNLERİ KONTROL EDEMEYECEK
OpenAI, filigranı tespit etmek için kullanılan aracı da ilk aşamada herkese açmayacak. Erişimin başlangıçta onaylanmış araştırmacılar ve belirli uzman kuruluşlarla sınırlandırılması planlanıyor. Bu yaklaşımda yanlış pozitif ve yanlış negatif sonuçların yaratabileceği sorunlar etkili oluyor. Şirket, sistem gerçek kullanım koşullarında test edildikçe tespit aracına erişimi yeniden değerlendirecek.
YAPAY ZEKÂ METİNLERİNDE YENİ DÖNEM
textGrain'i mevcut yapay zekâ metin dedektörlerinden ayıran temel nokta, yalnızca yazılmış bir metnin dil özelliklerine bakarak tahminde bulunmaması. OpenAI'nin yaklaşımında işaret, içerik oluşturulurken metnin istatistiksel yapısına yerleştiriliyor. Anthropic de daha önce Avrupa Birliği'nin yapay zekâ alanındaki şeffaflık düzenlemeleri doğrultusunda benzer yönde bir adım atmıştı. Böylece büyük yapay zekâ şirketleri, ürettikleri içeriklerin kaynağının daha sonra teknik olarak belirlenebilmesine yönelik sistemlere yöneliyor.
BUNDAN SONRA NE OLACAK?
İlk aşamada gözler Avrupa'daki kademeli uygulamada olacak. OpenAI, ChatGPT ve uygun Codex metinlerinde textGrain'i kullanmaya başlayacak; API geliştiricileri ise sistemi dünya genelinde isteğe bağlı olarak etkinleştirebilecek. Sonraki süreçte filigranın metinler üzerinde ne kadar dayanıklı olduğu, düzenlenen içeriklerde ne ölçüde tespit edilebildiği ve tespit aracının daha geniş kullanıma açılıp açılmayacağı öne çıkacak. Yeni uygulama, “ChatGPT'nin yazdığı her metin bundan sonra kesin olarak tespit edilecek” anlamına gelmiyor. Ancak yapay zekâ tarafından oluşturulan metinlerin kaynağını belirlemek için içeriğe daha üretim aşamasında teknik bir iz bırakılması açısından önemli bir değişiklik getiriyor.
