ABD'de sekiz eyalet, yapay zeka sohbet botu ChatGPT'nin kullanıcılara, özellikle çocuklara zarar verdiği ve ebeveynleri yanılttığı iddiasıyla çarşamba günü OpenAI'a dava açtı. Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana eyaletlerinde açılan davalarda şirket, çocuklara zarar vermekle suçlanıyor. Eyalet yönetimleri, ChatGPT'nin güvenlik endişelerine rağmen piyasaya sürüldüğünü ve kullanıcıları koruyacak önlemlerin alınmadığını öne sürüyor.
Davalarda Neler İddia Ediliyor?
Dava dosyalarına göre, OpenAI'ın ChatGPT'yi geliştirirken yeterli güvenlik testleri yapmadığı ve özellikle çocuklar üzerindeki potansiyel riskleri göz ardı ettiği belirtiliyor. Eyalet başsavcıları, şirketin ürününü pazarlarken ebeveynlere yönelik yanıltıcı ifadeler kullandığını ve çocukların bu platforma kolayca erişebildiğini vurguluyor. Davalarda, ChatGPT'nin çocuklara zararlı içerikler sunabileceği, onları manipüle edebileceği veya ruh sağlıklarını olumsuz etkileyebileceği kaydediliyor.
Iowa Başsavcısı, yaptığı yazılı açıklamada, "Yapay zeka şirketleri, ürünlerinin potansiyel tehlikeleri konusunda şeffaf olmalı ve kullanıcıları, özellikle de çocukları korumak için gerekli adımları atmalıdır. OpenAI bu sorumluluğu yerine getirmedi" ifadelerini kullandı. Benzer şekilde diğer eyaletler de şirketin tüketici koruma yasalarını ihlal ettiğini savunuyor.
OpenAI'dan İlk Tepki
OpenAI sözcüsü, dava haberinin ardından yaptığı açıklamada, şirketin güvenliğe büyük önem verdiğini ve ürünlerini sürekli iyileştirdiğini belirtti. Sözcü, "ChatGPT'yi geliştirirken geniş kapsamlı güvenlik önlemleri uyguluyoruz ve kullanıcılarımızın refahını önceliyoruz. Bu davaları ciddiye alıyoruz ancak iddialar gerçeği yansıtmıyor" dedi. Şirket, yapay zeka modellerinin eğitimi sırasında zararlı içerikleri filtrelemek için çeşitli yöntemler kullandığını ve ebeveynlere yönelik ebeveyn kontrol araçları sunduğunu ekledi.
Ancak eyaletler, OpenAI'ın bu konudaki taahhütlerinin yetersiz olduğunu ve somut adımlar atmadığını savunuyor. Davalarda, şirketin yaş doğrulama sistemlerinin eksik olduğu ve çocukların kolayca hesap açabildiği belirtiliyor. Ayrıca, ChatGPT'nin bazı durumlarda çocuklara zararlı tavsiyelerde bulunabileceği veya onları istismara açık hale getirebilecek yanıtlar verebileceği iddia ediliyor.
Yapay Zeka Düzenlemeleri ve Gelecek
Bu dava, yapay zeka teknolojilerinin düzenlenmesi konusundaki tartışmaları yeniden alevlendirdi. ABD'de federal düzeyde kapsamlı bir yapay zeka yasası bulunmazken, eyaletler kendi düzenlemelerini yapma yoluna gidiyor. Son dönemde birçok eyalet, yapay zeka sistemlerinin şeffaflığı ve güvenliği konusunda yasalar çıkarmaya başladı. Uzmanlar, bu davaların yapay zeka şirketlerinin sorumlulukları konusunda emsal teşkil edebileceğini belirtiyor.
Teknoloji hukuku uzmanı Prof. Dr. Sarah Johnson, "Bu davalar, yapay zeka şirketlerinin ürünlerinin yol açabileceği zararlardan sorumlu tutulup tutulamayacağı sorusunu gündeme getiriyor. Mahkemelerin vereceği kararlar, sektördeki diğer şirketler için de yön gösterici olacak" değerlendirmesinde bulundu. Johnson, özellikle çocukların korunmasının yasal düzenlemelerde öncelikli olması gerektiğini vurguladı.
Öte yandan, OpenAI'ın avukatları, davanın eyaletlerin yetki alanını aştığını ve federal düzenlemelerin geçerli olması gerektiğini savunabilir. Şirket, daha önce de benzer davalarla karşılaşmış ve genellikle uzlaşma yoluna gitmişti. Ancak bu kez birden fazla eyaletin ortak hareket etmesi, davanın daha geniş kapsamlı sonuçlar doğurabileceği yorumlarına neden oluyor.
Davanın önümüzdeki aylarda mahkemeye taşınması bekleniyor. Eyaletler, OpenAI'dan tazminat talep ederken, aynı zamanda şirketin ChatGPT'de çocuklara yönelik güvenlik önlemlerini artırmasını istiyor. Bu süreçte, yapay zeka endüstrisinin nasıl şekilleneceği ve kullanıcı güvenliğinin nasıl sağlanacağı merakla takip ediliyor.
