Google'ın yeni nesil yapay zeka özelliği AI Overviews, SCP Foundation evrenine ait kurgusal içerikleri gerçek bilgi olarak sunarak kullanıcıları yanıltıyor. Kullanıcıların sorguladığı bazı konularda, SCP Vakfı'nın yarattığı hayali varlıkların biyolojik detaylarını sanki bilimsel bir makaleden alınmış gibi veren sistem, bilişim dünyasında tartışmalara yol açtı. Google yapay zekasının, belgesel kaynaklarla internet forumlarındaki kurgusal metinleri ayırt edememesi, yapay zeka teknolojilerinin sınırlarını bir kez daha gözler önüne serdi.
AI Overviews Hangi İçerikleri Karıştırıyor?
SCP Foundation, yaratıcı yazarlar tarafından oluşturulmuş, doğaüstü varlıkları ve anormallikleri belgeleme amacıyla kurgulanmış işbirlikçi bir korku evrenidir. Vakfın web sitesinde yer alan binlerce 'SCP dosyası', belge formatında yazılmış hayali yaratıkları anlatır. Google'ın AI Overviews motoru, bu dosyalardaki tek cümlelik 'belge numarası, sınıflandırma, özel muhafaza prosedürleri' gibi kalıpları gerçek bilimsel belgelerle karıştırıyor. Özellikle 'SCP-682 (Yılan Benzeri Canavar)' veya 'SCP-096 (Utangaç Adam)' gibi popüler öğelerin sözde 'biyolojik özellikleri', Google arama sonuçlarında gerçek canlı türlerinin yanında listeleniyor.
Yapay Zeka Neden Kurguyu Gerçekten Ayırmakta Zorlanıyor?
Uzmanlara göre sorun, yapay zekanın eğitim verilerindeki doğal dil işleme yetersizliğinden kaynaklanıyor. AI Overviews, metinleri konu ve bağlam üzerinden sınıflandırırken 'resmi belge' veya 'bilimsel makale' gibi biçimsel ipuçlarına güveniyor. SCP dosyaları ise bilinçli olarak resmi belge formatında yazıldığı için yapay zeka bu metinleri gerçek bilgilerle aynı kefeye koyuyor. Ayrıca, SCP Foundation evreni o kadar geniş ve detaylı ki, bazı kurgusal varlıklar için 'yaşam alanı', 'beslenme alışkanlıkları' gibi bilgiler veriliyor; bu da AI'nin doğrulama yapmasını daha da zorlaştırıyor.
Google, konuyla ilgili yaptığı açıklamada AI Overviews'in hâlâ deneysel aşamada olduğunu ve zamanla kullanıcı geri bildirimleriyle düzeltileceğini belirtti. Ancak bu durum, yapay zeka tabanlı arama motorlarının kaynak doğrulama mekanizmalarını ciddi şekilde sorgulatıyor. Benzer yanılgıların daha önce de yaşandığı biliniyor: Örneğin Google, geçmişte 'köpekbalığı saldırıları' ararken film senaryolarından alıntı yapmıştı.
Kullanıcılar İçin Ne Anlama Geliyor?
AI Overviews, özellikle öğrenciler ve araştırmacılar için tehlikeli olabilir. Kurgusal yaratıkların 'bilimsel' dille anlatılması, yanlış bilgi kirliliğine yol açıyor. Örneğin, 'SCP-682'nin 'asitle beslenen bir mutasyona uğramış sürüngen' olduğu bilgisi, biyoloji öğrencileri tarafından gerçek bir tür zannedilebilir. Uzmanlar, özellikle eğitim kaynaklarında yapay zeka özetlerine güvenilmemesi gerektiğini ve çapraz doğrulama yapılmasını öneriyor.
Sosyal medyada kullanıcılar, 'Google'ın SCP-096'yı gerçek bir varlık olarak listelemesi' gibi ekran görüntüleri paylaşarak durumu tiye aldı. Ancak konunun ciddiyeti, yapay zekanın bilgi kirliliğine karşı ne kadar savunmasız olduğunu gösteriyor. Google'ın bu sorunu çözmek için eğitim veri setlerinde kurgusal belgeleri filtrelemesi veya AI'ye 'açıkça kurgusal' uyarısı eklemesi bekleniyor.
Değerlendirme
Google'ın AI Overviews özelliği, yapay zekanın mevcut haliyle kurgu ve gerçeği ayırt etmekte ne kadar yetersiz olduğunu bir kez daha kanıtlıyor. SCP Foundation gibi popüler kurgusal evrenlerin bilgi kirliliğine neden olması, dijital çağda doğrulama mekanizmalarının ne kadar kritik olduğunu hatırlatıyor. Google'ın bu hatayı kısa sürede düzeltse de, kullanıcıların her yapay zeka çıktısını sorgulaması gerekiyor.
