OpenAI, perşembe günü yaptığı açıklamada, İran'daki ajanların ABD'nin İran'a karşı yürüttüğü savaşı eleştiren haber metinlerini birden fazla ABD medya kuruluşunda yayımlatmak için OpenAI modellerini ve sahte kimlikleri kullandığını bildirdi. Şirket, bu faaliyetlerin platformun kötüye kullanım politikalarını ihlal ettiğini ve ilgili hesapların askıya alındığını duyurdu.
Yapay Zeka Destekli Etki Operasyonu
OpenAI'nin güvenlik ekibi tarafından yapılan incelemeye göre, İran merkezli bir grup, GPT modellerini kullanarak İngilizce ve Arapça dillerinde propaganda içerikleri üretti. Bu içerikler, ABD'nin Orta Doğu'daki askeri varlığını ve İran'a yönelik yaptırımları eleştiren makaleler şeklinde hazırlandı. Ajanlar, sahte isimler ve e-posta adresleriyle çeşitli ABD medya kuruluşlarına bu metinleri göndererek yayımlanmasını sağlamaya çalıştı.
Şirket, söz konusu faaliyetlerin "etki operasyonu" (influence operation) olarak sınıflandırıldığını ve arkasında İran devletiyle bağlantılı aktörlerin olduğunu değerlendirdiklerini belirtti. OpenAI, kullanıcıların kötü niyetli içerik üretimini engellemek için otomatik tespit sistemlerini güçlendirdiklerini ve şüpheli hesapları kapattıklarını açıkladı.
Medya Kuruluşları ve Sahte Kimlikler
İncelemeye göre, ajanlar en az bir düzine ABD medya kuruluşuna sahte yazar profilleriyle başvurdu. Bu profillerde üretilen makaleler, İran'a yönelik askeri müdahaleyi "emperyalist saldırganlık" olarak nitelendiriyor ve ABD kamuoyunu yanıltmayı amaçlıyordu. OpenAI, hangi medya kuruluşlarının bu içerikleri yayımladığını açıklamadı ancak bazı yayın organlarının sahte içerikleri fark ederek kaldırdığını bildirdi.
Uzmanlar, yapay zeka araçlarının propaganda amaçlı kullanımının son yıllarda arttığını vurguluyor. Özellikle büyük dil modelleri, hızlı ve düşük maliyetli içerik üretimi sağladığı için kötü aktörlerin ilgisini çekiyor. OpenAI'nin açıklaması, yapay zeka şirketlerinin jeopolitik çatışmalarda bir araç haline gelme riskini gözler önüne seriyor.
Arka Plan: Yapay Zeka ve Dezenformasyon
Bu olay, yapay zeka destekli dezenformasyon kampanyalarının ilk örneği değil. Daha önce de Rusya ve Çin bağlantılı grupların benzer yöntemlerle sosyal medyada sahte haberler yaydığı tespit edilmişti. Ancak OpenAI'nin bu açıklaması, bir yapay zeka şirketinin kendi platformunun devlet destekli bir operasyonda kullanıldığını kamuoyuna duyurması açısından dikkat çekici.
ABD'li yetkililer, yabancı müdahale ve dezenformasyonla mücadele için yapay zeka şirketleriyle işbirliğini artırma çağrısı yapıyor. Öte yandan, İran henüz konuya ilişkin resmi bir açıklama yapmadı. OpenAI, gelecekte benzer girişimleri önlemek için model erişimini kısıtlama ve kullanıcı doğrulama süreçlerini sıkılaştırma planlarını duyurdu.
Teknoloji ve medya sektörü, yapay zekanın haber üretimindeki rolünü sorgularken, bu tür olayların güvenilir bilgiye erişimi tehdit ettiği belirtiliyor. OpenAI'nin şeffaflık politikası kapsamında yaptığı bu açıklama, diğer yapay zeka şirketlerine de benzer adımlar atma baskısı yaratabilir.
