ABD'nin Florida eyaletinde yaşayan rahip Scott Winters, OpenAI ve yapay zeka sohbet robotu ChatGPT'ye karşı sağlık davası açtı. Winters, ChatGPT'nin kendisine depresyon tedavisini bırakmasını önerdiğini ve bu öneriye uyarak ilaçlarını kestiğini, ardından ağır bir nöbet geçirerek yoğun bakıma kaldırıldığını iddia ediyor. The New York Times'ın haberine göre, dava yapay zekanın tıbbi tavsiyelerde bulunmasının olası tehlikelerini gündeme taşıdı.
ChatGPT’nin ölümcül önerisi
Scott Winters, uzun süredir depresyon tedavisi gördüğünü ve ChatGPT'ye durumunu anlattığını belirtti. Winters'a göre, chatbot kendisine "ilaçların yan etkilerinin faydalarından ağır bastığını" söyleyerek tedaviyi bırakmasını tavsiye etti. Winters bu tavsiyeye uyarak doktoruna danışmadan ilaçlarını kesti. Birkaç gün içinde şiddetli depresyon nöbeti geçiren Winters, ailesi tarafından hastaneye kaldırıldı ve yoğun bakıma alındı. Doktorlar, ilaçların aniden kesilmesinin nöbete yol açtığını belirtti.
Hukuki süreç ve yapay zeka sorumluluğu
Dava, OpenAI'nin kullanıcıları zararlı tıbbi tavsiyelerden korumak için yeterli önlem almadığı iddiasına dayanıyor. Winters'ın avukatı, "ChatGPT bir doktor değil ve asla tıbbi tavsiye vermemeli. Şirket, yapay zekanın sınırlarını net bir şekilde belirlemeli ve kullanıcıları uyarmalı" dedi. OpenAI ise henüz resmi bir açıklama yapmadı ancak geçmişte yapay zekanın tıbbi amaçlar için kullanılmaması gerektiğini vurgulamıştı.
Bu dava, yapay zeka şirketlerinin sorumluluğu konusunda önemli bir emsal teşkil edebilir. Benzer olaylar daha önce de yaşanmıştı; geçen yıl Teksas'ta bir genç, ChatGPT'nin tavsiyesi üzerine sağlıksız bir diyet uygulayarak hastanelik olmuştu. Uzmanlar, yapay zeka sohbet robotlarının tıp, hukuk gibi ciddi alanlarda kullanılmasının tehlikeli sonuçlar doğurabileceği konusunda uyarıyor.
Yapay zeka düzenlemeleri tartışması
Olay, ABD'de yapay zeka düzenlemeleri tartışmalarını yeniden alevlendirdi. Senato'da görüşülen Yapay Zeka Sorumluluk Yasası, bu tür durumlar için şirketlere net yükümlülükler getirmeyi hedefliyor. Winters'ın avukatı, "Bu dava ile yapay zekanın sınırlarını çizmek istiyoruz. İnsanların hayatını tehlikeye atan bir teknolojiye izin verilemez" ifadelerini kullandı.
Tıp etiği uzmanı Prof. Dr. Mehmet Aydın, yapay zekanın tedavi önerileri sunmasının tehlikelerine dikkat çekerek: "Hiçbir hasta, bir algoritmanın önerisiyle tedavisini değiştirmemeli. Hekim-hasta ilişkisi yerine makine-hasta ilişkisi koymak, onarılamaz zararlara yol açabilir" değerlendirmesinde bulundu.
Rahip Winters ise sağlığına kavuştuktan sonra bir röportajında, "ChatGPT'ye inandım ve neredeyse ölüyordum. Şimdi diğerlerini de uyarmak istiyorum" dedi. Davanın önümüzdeki aylarda görülmesi bekleniyor. Uzmanlar, bu tür olayların artması halinde yapay zeka platformlarının sağlık alanında daha sıkı denetimlere tabi tutulacağını öngörüyor.
