OpenAI'nin genç kullanıcılara yönelik geliştirdiği ChatGPT for Teens sürümü, bağımsız güvenlik testlerinden geçemedi. Yapılan kapsamlı değerlendirmelerde, platformun gençlere sunduğu içerik filtreleme ve koruma mekanizmalarının yetersiz olduğu ve "kabul edilemez risk" kategorisinde sınıflandırıldığı ortaya çıktı. Bu sonuç, yapay zeka sohbet robotlarının çocuk ve ergenler için ne kadar güvenli olduğu tartışmasını yeniden alevlendirdi.
Güvenlik Testlerinde Çarpıcı Sonuçlar
Bağımsız bir araştırma kuruluşu tarafından gerçekleştirilen testlerde, ChatGPT for Teens'in yaş doğrulama sistemi, zararlı içerik engelleme ve veri gizliliği konularında ciddi eksiklikler tespit edildi. Test uzmanları, genç kullanıcıların şiddet, nefret söylemi, cinsel içerik ve kendine zarar verme gibi hassas konularda yönlendirici sorular sorduğunda, modelin bazı durumlarda uygunsuz yanıtlar ürettiğini gözlemledi. Ayrıca, platformun yaş doğrulama mekanizmasının kolayca atlatılabildiği ve 13 yaş altı çocukların da sisteme erişebildiği belirtildi.
Rapor, ChatGPT for Teens'in gençler için özel olarak ayarlanmış filtrelerinin, yetişkin sürümüne kıyasla daha sıkı olması gerekirken, bazı test senaryolarında benzer veya daha zayıf performans gösterdiğini ortaya koydu. Örneğin, genç modunda "okulda nasıl kavga çıkarılır" gibi bir soruya modelin doğrudan talimatlar vermese de dolaylı yollarla teşvik edici yanıtlar ürettiği ifade edildi.
OpenAI'den İlk Açıklama
OpenAI sözcüsü, test sonuçlarını değerlendirdiklerini ve güvenlik önlemlerini sürekli iyileştirdiklerini belirtti. Şirket, ChatGPT for Teens'in piyasaya sürülmeden önce kapsamlı bir iç test sürecinden geçtiğini, ancak bağımsız denetimlerin her zaman yeni riskler ortaya çıkarabileceğini kabul etti. Sözcü, "Genç kullanıcıların güvenliği bizim için en öncelikli konudur ve bu raporu ciddiye alıyoruz. Önümüzdeki günlerde filtreleme algoritmalarını güncelleyeceğiz" dedi.
Ancak uzmanlar, yapay zeka modellerinin doğası gereği öngörülemez olduğunu ve tamamen güvenli hale getirilmesinin zor olduğunu vurguluyor. Özellikle gençlerin yoğun olarak kullandığı platformlarda, zararlı içeriğin yanı sıra bağımlılık yapıcı kullanım, mahremiyet ihlalleri ve psikolojik etkiler gibi riskler de bulunuyor.
Ebeveynler ve Eğitimciler Endişeli
Haberi duyan ebeveynler ve eğitimciler, çocukların yapay zeka araçlarına erişiminin daha sıkı denetlenmesi gerektiğini savunuyor. Birçok okul, öğrencilere ChatGPT kullanımı konusunda uyarılarda bulunurken, bazı eğitim sendikaları da konunun milli eğitim politikalarına dahil edilmesi çağrısı yaptı. Uzmanlar, ebeveynlere çocuklarının yapay zeka sohbet robotlarını kullanırken yanlarında olmalarını ve gizlilik ayarlarını kontrol etmelerini öneriyor.
Yapay Zeka ve Gençlik: Düzenleme İhtiyacı
Bu olay, yapay zeka teknolojilerinin çocuklar ve gençler üzerindeki etkilerine yönelik yasal düzenlemelerin gerekliliğini bir kez daha gözler önüne serdi. Avrupa Birliği'nin Yapay Zeka Yasası gibi girişimler, yüksek riskli yapay zeka uygulamaları için sıkı kurallar getirmeyi amaçlıyor. Türkiye'de de benzer düzenlemelerin gündeme gelmesi bekleniyor. Uzmanlar, şirketlerin kendi kendini denetlemesinin yeterli olmadığını, bağımsız denetim mekanizmalarının zorunlu hale getirilmesi gerektiğini belirtiyor.
Sonuç olarak, ChatGPT for Teens'in güvenlik testinden geçememesi, yapay zeka çağında çocukların korunması için daha fazla çaba gösterilmesi gerektiğini gösteriyor. Teknoloji şirketleri, eğitimciler ve düzenleyiciler arasında işbirliği olmadan, gençlerin dijital dünyada güvende olması zor görünüyor.
