Yapay zeka şirketi OpenAI, çocukların çevrim içi istismarını önlemeye yönelik yeni bir güvenlik sistemi geliştirdi. Yapay zeka tarafından üretilen görüntüleri de inceleyebilen araç, şüpheli içeriklerin belirlenmesine yardımcı olacak. Şirket ayrıca ChatGPT'de çocuk istismarı içeriklerine yönelik girişimlerde 24 saatlik erişim kısıtlaması dahil yeni önlemler uygulayacağını açıkladı.
OPENAI'DAN ÇOCUK İSTİSMARINA KARŞI YENİ SİSTEM
OpenAI, çocukların istismarını içeren çevrim içi görüntülerin tespit edilmesini kolaylaştıracak yeni bir sınıflandırma aracı geliştirdiğini duyurdu.
Şirketin internet sitesinde yayımlanan açıklamaya göre sistem, daha önce belirlenmemiş istismar içeriklerini tespit etmek amacıyla görüntülerdeki görsel işaretleri analiz ediyor.
Yeni araç, yalnızca gerçek görüntüleri değil, yapay zeka tarafından oluşturulan istismar içeriklerini de belirleyebiliyor.
ŞÜPHELİ GÖRÜNTÜLERE ÖNCELİK PUANI VERİLECEK
Geliştirilen sınıflandırma sistemi, inceleme ekiplerinin çalışmalarını kolaylaştırmak amacıyla görüntülere puanlar atıyor.
Bu puanlar, hangi içeriklerin öncelikli olarak değerlendirilmesi gerektiğinin belirlenmesinde kullanılıyor.
OpenAI, sistemin yapay zeka tarafından oluşturulan çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunduğunu belirtti.
Şirket, geniş erişime açılan bu türdeki ilk sınıflandırma aracı olduğunu ifade ettiği sistemi, onaylanmış kuruluşlara ücretsiz sunacağını açıkladı.
CHATGPT'DE 24 SAATLİK ERİŞİM ENGELİ UYGULANABİLECEK
OpenAI, görüntü tespit aracının yanı sıra ChatGPT'nin güvenlik önlemlerini de genişletiyor.
Şirket, çocuk istismarı içeriklerini aramaya yönelik girişimleri durdurmak amacıyla yeni uyarı mekanizmaları geliştirdiğini bildirdi.
Bu kapsamda, çocuk istismarı niteliğindeki içeriklerin yapay zeka tarafından oluşturulmuş olsalar bile zarara yol açabileceği kullanıcılara açıklanacak.
Zararlı davranış kapsamında işaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saat süreyle durdurulacak.
TEKRARLAYAN İHLALLERDE HESAP KAPATILABİLECEK
OpenAI, ihlallerin tekrarlanması durumunda daha ağır yaptırımlar uygulanabileceğini belirtti.
Buna göre kullanıcıların erişimi daha uzun sürelerle kısıtlanabilecek.
İhlalin niteliğine göre hesabın tamamen kapatılması veya durumun yetkili makamlara bildirilmesi de söz konusu olabilecek.
Şirket ayrıca 24 saatlik kısıtlama sürecinde zararlı davranışların sonlandırılmasına yönelik uzman desteği sunulacağını açıkladı.
YENİ GÜVENLİK ÖNLEMLERİ UZMANLARLA GELİŞTİRİLDİ
OpenAI, çocukların çevrim içi istismarını önlemeye yönelik yeni yaklaşımın uzman kuruluşların katkılarıyla hazırlandığını bildirdi.
Çalışmalara çocuk istismarının önlenmesi alanında faaliyet gösteren kuruluşlar ile akademik danışmanların destek verdiği belirtildi.
Şirket, yeni görüntü sınıflandırma aracı ve ChatGPT'deki ek güvenlik önlemleriyle çocukların istismarına yönelik dijital içeriklerin tespit edilmesini ve zararlı girişimlerin engellenmesini amaçlıyor.