İngiltere’de işe alım süreçlerinde kullanılan yapay zekâ destekli otomatik eleme sistemlerinin etnik azınlık mensubu adayları daha fazla etkileyebildiğine ilişkin tartışmalar büyüyor. Yapılan bir araştırmaya göre etnik azınlık adayların yüzde 70’i, otomatik sistemler tarafından elenme endişesiyle öz geçmişindeki bazı bilgileri gizlediğini veya değiştirdiğini belirtti.
İngiltere Parlamentosundaki İnsan Hakları Ortak Komitesi de yapay zekânın insan hakları açısından oluşturabileceği risklere karşı mevcut yasal çerçevenin yetersiz kaldığını belirterek yeni düzenleme çağrısında bulundu.
2 BİN İŞ ARAYAN KİŞİYLE ARAŞTIRMA YAPILDI
İş yerinde etnik eşitlik alanında faaliyet gösteren People Like Us ile Censuswide tarafından 2 bin iş arayan kişiyle yapılan araştırmada, otomatik işe alım sistemlerinin adayların değerlendirilmesinde giderek daha fazla rol oynadığı ortaya kondu.
Son iki yılda iş başvurusu reddedilenlerin yüzde 74’ü, en az bir ret kararının otomatik sistem tarafından verilmiş olabileceğini düşündüğünü söyledi.
Buna karşılık adayların yalnızca yüzde 15’i, başvurularının değerlendirilmesinde otomatik sistem kullanıldığının kendilerine açıklandığını belirtti.
ETNİK AZINLIK ADAYLARDA RET ORANI DAHA DİKKAT ÇEKİCİ
Araştırmaya göre etnik azınlık mensubu adayların yüzde 41’i, başvurusuna bir saat içinde ret yanıtı aldığını ifade etti.
Beyaz adaylarda ise bu oran yüzde 32 olarak kaydedildi.
Çalışmada ayrıca etnik azınlık mensubu adayların, beyaz adaylara kıyasla yaklaşık üçte bir oranında daha fazla işe başvurduğu belirtildi.
YÜZDE 70’İ ÖZ GEÇMİŞİNDE BİLGİ DEĞİŞTİRİYOR
Araştırmada iş arayanların yüzde 60’ının otomatik sistemler tarafından elenme endişesiyle öz geçmişindeki bazı bilgileri gizlediği veya değiştirdiği belirtildi.
Bu oran etnik azınlık adaylarda yüzde 70’e yükseldi.
Doğum ülkesi, dini veya kültürel kimliği çağrıştırabilecek bilgilerin öz geçmişten çıkarılmasının daha yaygın olduğu belirtilirken her 20 adaydan birinin ismini değiştirdiği aktarıldı.
ADAYLAR DA YAPAY ZEKÂYA BAŞVURUYOR
Araştırma, iş arayanların otomatik sistemleri aşabilmek için farklı yöntemlere yöneldiğini de ortaya koydu.
Katılımcıların yüzde 66’sı işe alım yazılımlarını aşmaya çalıştığını belirtirken yüzde 27’si ChatGPT gibi yapay zekâ araçları kullanarak öz geçmişini yeniden yazdığını söyledi.
Adayların yüzde 13’ü ise otomatik sistemlerin algılaması amacıyla öz geçmişlerine beyaz renkle gizlenmiş anahtar kelimeler eklediğini ifade etti.
YÜZDE 39’U BAŞVURU YAPMAKTAN VAZGEÇİYOR
Araştırmaya göre iş arayanların yüzde 31’i, yeterli olduğunu düşündüğü bir pozisyona yapay zekâ tarafından eleneceğini düşündüğü için başvurmadığını belirtti.
Bu oran etnik azınlık mensubu adaylarda yüzde 39’a yükseldi.
Katılımcıların yüzde 81’i ise işe başvurmanın artık “bir insan olarak görülmekten çok, bir makine için testi geçmeye çalışmak” gibi hissettirdiğini kaydetti.
İŞVERENLERİN YÜZDE 28’İ FARKLILIKLARI İZLEMİYOR
Araştırmada otomatik eleme sistemlerini kullanan işverenlerin denetim süreçlerine ilişkin sonuçlar da yer aldı.
İşverenlerin yüzde 28’i sistem sonuçlarının etnik köken veya diğer korunan özelliklere göre farklılık gösterip göstermediğini izlemediğini belirtti.
Bu farklılıkları takip eden işverenlerin yüzde 82’si ise sonuçlarda farklılık tespit ettiğini bildirdi.
İşe alım kararlarında görev alan kişilerin yüzde 30’u da kullanılan eleme aracının adayları nasıl puanladığını bilmediğini veya bundan emin olmadığını söyledi.
ADAYLAR İTİRAZ HAKLARINI BİLMİYOR
Araştırmaya göre adayların yüzde 75’i, İngiltere’deki veri koruma mevzuatı kapsamında otomatik ret kararına karşı insan incelemesi talep edebileceğini bilmiyor.
Katılımcıların yüzde 42’si bir ret kararına itiraz etmek istediğini ancak nasıl başvuru yapacağını bulamadığını belirtirken insan incelemesi isteyenlerin yalnızca yüzde 28’i bu imkâna ulaşabildiğini söyledi.
PARLAMENTODAN YENİ YAPAY ZEKÂ YASASI ÇAĞRISI
İngiltere Parlamentosundaki İnsan Hakları Ortak Komitesi, yapay zekâ alanındaki mevcut yasal ve düzenleyici yapının “parçalı ve takip edilmesi zor” olduğunu belirtti.
Komite, yapay zekâ sistemlerinin insan hakları üzerindeki potansiyel etkileri dikkate alınarak yeni bir yapay zekâ yasasının hazırlanması gerektiğini bildirdi.
“OTOMASYON DENETİMİN YERİNE GEÇMEMELİ”
People Like Us Kurucu Ortağı Sheeraz Gulsher, işverenlerin artan başvuru sayılarını yönetmek için otomasyona yönelmesinin anlaşılabilir olduğunu ancak bunun yeterli denetimin yerine geçmemesi gerektiğini söyledi.
Gulsher, “Otomasyonun artan başvuru sayılarını yönetmede açık bir rolü var ancak işe alımın herkes için adil kalmasını sağlamak üzere denge ve denetim mekanizmaları olmalı.” ifadelerini kullandı.
“MEVCUT EŞİTSİZLİKLER DERİNLEŞEBİLİR”
Glasgow Üniversitesinden Dr. Mark Wong’un İngiltere Parlamentosuna sunduğu raporda da yapay zekâ sistemlerinin mevcut sosyal eşitsizlikleri büyütme riski taşıdığı belirtildi.
Raporda otomatik karar alma, sosyal yardım, sağlık, eğitim, polislik, sınır ve göç gibi alanlarda kullanılan yapay zekâ sistemlerinde ayrımcılık ve ön yargı risklerine dikkat çekildi.
Çözüm olarak bağımsız denetim, katılımcı yönetişim ve yapay zekâdan doğrudan etkilenen toplulukların karar süreçlerine daha fazla dahil edilmesi önerildi.
