Yapay zeka teknolojilerinin gelişmesiyle birlikte oluşturulan sahte yüzler, insan gözünün ayırt etmekte zorlandığı gerçeklik seviyesine ulaştı.
Uzmanlar, yapay zeka tarafından oluşturulan görüntülerin dolandırıcılık, sahte kimlik oluşturma ve dijital manipülasyon gibi alanlarda kullanılabileceği konusunda uyarıyor.
25 MİLYON DOLARLIK DEEPFAKE DOLANDIRICILIĞI
Yapay zeka destekli sahte görüntülerin oluşturduğu risklere ilişkin dikkat çeken örneklerden biri Hong Kong’da yaşandı.
Bir finans çalışanı, görüntülü toplantıda şirket yöneticileriyle görüştüğünü düşünerek 25 milyon dolarlık ödeme yaptı. Ancak toplantıdaki kişilerin tamamının yapay zeka tarafından oluşturulan deepfake görüntüler olduğu ortaya çıktı.
Bu olay, yapay zekanın yalnızca görüntü üretmekle kalmayıp dolandırıcılık yöntemlerinde de kullanılabileceğini gösterdi.
YAPAY YÜZLER NEDEN DAHA GERÇEK GÖRÜNÜYOR?
Araştırmacılara göre yapay zeka sistemleri, binlerce insan yüzünü analiz ederek yeni yüzler oluşturuyor.
Bu nedenle yapay zeka yüzleri genellikle:
- Daha simetrik,
- Daha orantılı,
- Daha düzgün,
- Daha çekici
görünebiliyor.
Uzmanlar, bu özelliklerin insanların sahte yüzleri gerçek sanmasına neden olabildiğini belirtiyor.
İNSANLAR DEEPFAKE YÜZLERİ TANIMAKTA ZORLANIYOR
Avustralya Ulusal Üniversitesi’nde yapılan araştırmada, insanların yapay zeka tarafından oluşturulan yüzleri ne kadar doğru tespit edebildiği incelendi.
İlk testlerde katılımcılar yapay yüzleri ayırt etmede yalnızca yüzde 41 oranında başarılı oldu.
Araştırmacılar, bu sonucun insanların doğal olarak yapay yüzleri fark etmekte zorlandığını gösterdiğini açıkladı.
EĞİTİMLE BAŞARI ORANI YÜZDE 81’E ÇIKTI
Araştırmacılar daha sonra katılımcılara özel bir eğitim uyguladı.
Eğitim kapsamında gerçek insan yüzleri ile yapay zeka tarafından oluşturulan yüzler karşılaştırıldı. Katılımcılardan yüzleri;
- Ayırt edicilik,
- Akılda kalıcılık,
- İfade gücü,
- Simetri,
- Orantı,
- Çekicilik
gibi özelliklere göre değerlendirmeleri istendi.
Eğitim sonrasında yapay yüzleri doğru tespit etme oranı yüzde 41’den yüzde 81’e yükseldi.
YAPAY ZEKA YÜZLERİ “AŞIRI ORTALAMA” GÖRÜNEBİLİYOR
Bilim insanları, yapay zeka tarafından oluşturulan yüzlerin çok sayıda insan görüntüsünden öğrenildiği için daha ortalama özellikler taşıdığını belirtiyor.
Gerçek insanların yüzleri ise genellikle daha farklı, daha karakteristik ve daha akılda kalıcı özelliklere sahip oluyor.
Bu nedenle yapay yüzler bazen daha güvenilir ve tanıdık algılanabiliyor.
DEEPFAKE’E KARŞI NELER YAPILABİLİR?
Uzmanlara göre yapay zeka kaynaklı sahte içeriklerle mücadelede yalnızca teknolojik araçlara güvenmek yeterli değil.
Alınabilecek önlemler arasında:
- Dijital okuryazarlık eğitimlerinin artırılması,
- Şirketlerde güçlü kimlik doğrulama sistemlerinin kullanılması,
- Deepfake tespit yazılımlarının geliştirilmesi,
- Yapay içeriklere yönelik hukuki düzenlemeler yapılması,
- Sosyal medya platformlarının daha etkin denetim sağlaması
yer alıyor.
UZMANLAR: “BU BİR KEDİ-FARE OYUNU”
Araştırmacılar, yapay zeka teknolojileri geliştikçe sahte içeriklerin de daha gerçekçi hale geleceğini belirtiyor.
Bu nedenle deepfake ile mücadelede insanların eğitilmesi, yeni güvenlik yöntemlerinin geliştirilmesi ve teknolojik önlemlerin birlikte ilerlemesi gerektiği ifade ediliyor.
GELECEKTE SES VE VİDEO DEEPFAKE’LERİ DE RİSK OLUŞTURUYOR
Uzmanlar, tehdidin yalnızca yüz görüntüleriyle sınırlı kalmayacağını belirtiyor.
Gelecekte yapay zeka tarafından oluşturulan sahte sesler, görüntülü görüşmeler ve gerçek zamanlı deepfake teknolojilerinin de önemli güvenlik sorunları oluşturabileceği değerlendiriliyor.
