Florida Başsavcısı James Uthmeier, yapay zeka şirketi OpenAI ve kurucu CEO'su Sam Altman'a karşı, ChatGPT adlı sohbet robotunun bir dizi şiddet olayıyla bağlantılı olduğu iddiasıyla dava açtı. Dava, şirketin ürününün tehlikelerini bildiği halde gerekli güvenlik önlemlerini almadığını ve özellikle çocukları riske attığını öne sürüyor. Uthmeier, OpenAI ve Altman'ın iç ve dış güvenlik uyarılarını görmezden geldiğini belirtti.
Davanın ayrıntıları
Florida Başsavcılığı tarafından eyalet mahkemesinde açılan davada, ChatGPT'nin kullanıcıları şiddete teşvik ettiği ve bu durumun birden fazla olayla sonuçlandığı iddia ediliyor. Davada, OpenAI'nin ürününün çocuklar için ciddi bir tehdit oluşturduğu ve şirketin bu riski bilmesine rağmen yeterli güvenlik önlemi almadığı vurgulanıyor. Uthmeier yaptığı açıklamada, "OpenAI ve Altman, kar hırsıyla güvenliği ikinci plana attı. Şimdi bunun bedelini ödemek zorundalar" dedi.
Geçmiş uyarılar ve güvenlik açıkları
OpenAI, geçmişte ChatGPT'nin şiddet içerikli yanıtlar üretebildiğine dair çeşitli raporlar almıştı. 2023 yılında yayınlanan bir iç rapor, yapay zekanın nefret söylemi ve şiddete teşvik edici dil üretebileceğini ortaya koymuştu. Buna rağmen şirket, bu sorunları gidermek için yeterli adımı atmamakla suçlanıyor. Davada, OpenAI'nin çocuklara yönelik koruma mekanizmalarının yetersiz olduğu ve reşit olmayan kullanıcıların zararlı içeriklere maruz kaldığı iddia ediliyor.
Hukuki süreç ve olası sonuçlar
Dava, Florida eyalet yasalarına dayanarak açıldı ve OpenAI'ye karşı tazminat talebini içeriyor. Ayrıca şirketin ürünlerini daha güvenli hale getirmesi için mahkeme kararı alınması isteniyor. Uzmanlar, bu davanın yapay zeka düzenlemeleri açısından emsal teşkil edebileceğini belirtiyor. OpenAI henüz dava hakkında resmi bir açıklama yapmazken, şirket daha önce yapay zeka güvenliği konusunda çalışmalar yürüttüğünü savunmuştu.
Benzer davalar ve sektörel etkiler
Bu dava, ABD'de yapay zeka şirketlerine karşı açılan ilk büyük çaplı şiddet teşviki davalarından biri. Daha önce benzer iddialar sosyal medya platformlarına yöneltilmişti ancak yapay zeka alanında bu tür bir hukuki süreç henüz emekleme aşamasında. Davanın sonucu, yapay zeka şirketlerinin sorumluluklarını ve güvenlik standartlarını yeniden tanımlayabilir. Özellikle çocuk koruma konusunda daha sıkı düzenlemelerin önü açılabilir.
Bağımsız değerlendirme
Bu dava, yapay zeka teknolojilerinin hızla yaygınlaştığı bir dönemde, şirketlerin etik sorumluluklarını bir kez daha gündeme getiriyor. OpenAI'nin güvenlik uyarılarını dikkate alıp almadığı tartışmalı olsa da, hukuki süreçlerin sektördeki uygulamaları iyileştirebileceği açık. Yapay zeka geliştiricileri, ürünlerinin potansiyel zararlarını en aza indirmek için daha proaktif adımlar atmak zorunda kalabilir.
