ABD merkezli insan hakları kuruluşu Tech Transparency Project (TTP) tarafından yayımlanan son rapor, Meta'nın son 10 ay içinde Hindistan dahil birçok ülkede yapay zeka ile üretilmiş çocuk cinsel istismarı görselleri içeren yüzlerce ücretli reklama yer verdiğini ortaya koydu. Rapor, Meta'nın reklam denetim sistemlerinin bu tür içerikleri tespit etmekte yetersiz kaldığını ve şirketin çocuk güvenliği konusundaki taahhütlerini yerine getirmediğini gösteriyor.
Yapay Zeka ile Üretilen İçerikler Denetimden Kaçıyor
TTP'nin raporuna göre, Meta'nın reklam platformunda yayınlanan ve çocuk cinsel istismarı materyali içeren görseller, yapay zeka tarafından oluşturulmuş. Bu görsellerin gerçek çocukları değil, yapay zeka ile üretilmiş figürleri içermesi, Meta'nın yasaklı içerik politikalarında bir boşluk oluşturuyor. Şirket, gerçek çocuk istismarı görsellerini yasaklarken, yapay zeka ile üretilen benzer içerikleri tespit etmekte zorlanıyor.
Raporda, bu reklamların Hindistan'ın yanı sıra diğer ülkelerde de yayınlandığı belirtiliyor. Reklamverenlerin, Meta'nın reklam onay süreçlerini atlatmak için çeşitli yöntemler kullandığı ve bu içeriklerin saatlerce, hatta günlerce platformda kaldığı ifade ediliyor.
Meta'nın Denetim Sistemleri Yetersiz
Meta, konuyla ilgili yaptığı açıklamada, çocuk cinsel istismarı içeren içeriklere sıfır tolerans gösterdiklerini ve bu tür reklamları tespit etmek için otomatik sistemler kullandıklarını belirtti. Ancak TTP raporu, bu sistemlerin yeterince etkili olmadığını gösteriyor. Şirket, son yıllarda içerik denetimi için milyarlarca dolar harcadığını ve binlerce moderatör istihdam ettiğini açıklamıştı.
Uzmanlar, yapay zeka ile üretilen içeriklerin denetiminin giderek zorlaştığını ve mevcut yasaların bu yeni teknolojilere uyum sağlamakta yetersiz kaldığını vurguluyor. Hindistan'da çocuk hakları savunucuları, hükümetin Meta'ya yaptırım uygulaması gerektiğini söylüyor.
Hindistan'da Çocuk Güvenliği Endişeleri Artıyor
Hindistan, dünyanın en büyük internet kullanıcı tabanına sahip ülkelerinden biri ve Meta'nın en önemli pazarları arasında yer alıyor. Ülkede çocuk cinsel istismarı içerikli materyallerin yayılması, son yıllarda artan bir endişe kaynağı. Hindistan hükümeti, 2021'de yürürlüğe giren Bilgi Teknolojileri Kuralları ile sosyal medya platformlarına içerik denetimi konusunda daha fazla sorumluluk yükledi. Ancak uygulamada denetimlerin yetersiz kaldığı belirtiliyor.
TTP raporu, Meta'nın sadece Hindistan'da değil, küresel ölçekte benzer sorunlarla karşı karşıya olduğunu gösteriyor. Şirketin reklam gelirlerinin önemli bir kısmını oluşturan Hindistan pazarında, bu tür içeriklerin yayınlanması, şirketin itibarını ve yasal risklerini artırıyor.
Şirketler ve Düzenleyiciler İçin Zorlu Denklem
Meta'nın karşı karşıya olduğu sorun, teknoloji şirketlerinin içerik denetimi konusunda yaşadığı genel zorlukların bir yansıması. Yapay zeka ile üretilen içeriklerin hızla çoğalması, mevcut denetim mekanizmalarını aşmakta. Şirketler, bir yandan ifade özgürlüğünü korumak, diğer yandan yasa dışı içerikleri engellemek arasında denge kurmaya çalışıyor.
Uzmanlar, yapay zeka ile üretilen çocuk istismarı görsellerinin tespiti için daha gelişmiş algoritmalara ve uluslararası işbirliğine ihtiyaç olduğunu belirtiyor. Ayrıca, reklam verenlerin kimlik doğrulamasının sıkılaştırılması ve para akışının takip edilmesi gerektiği vurgulanıyor.
Meta, önümüzdeki dönemde bu tür içerikleri engellemek için yeni adımlar atacağını açıkladı ancak somut bir plan sunmadı. Şirketin hisseleri, haberin ardından hafif bir düşüş gösterdi. Yatırımcılar, artan düzenleyici baskıların şirketin gelecekteki gelirleri üzerinde olumsuz etki yapabileceğinden endişeli.
Bu gelişme, sosyal medya platformlarının içerik denetimi konusundaki sorumluluklarının yeniden tartışılmasına yol açtı. Sivil toplum kuruluşları, hükümetlere ve şirketlere daha etkili önlemler almaları çağrısında bulunuyor.
