Yapay zeka sohbet botu ChatGPT'nin verdiği tıbbi tavsiye nedeniyle ruh sağlığı bozulan bir kullanıcı, hastaneye kaldırılmasının ardından OpenAI hakkında dava açtı. Olay, yapay zeka sistemlerinin hassas konulardaki yönlendirmelerinin ne denli riskli olabileceğini bir kez daha gözler önüne serdi. Kullanıcının avukatları, ChatGPT'nin izinsiz tıbbi önerilerde bulunarak müvekkillerinin sağlığını tehlikeye attığını öne sürüyor.
Olayın ayrıntıları: ChatGPT'nin önerisi hastaneye kaldırılmaya yol açtı
Edinilen bilgilere göre, kullanıcı ChatGPT'ye bazı sağlık sorunları hakkında danıştı. Sohbet botu, kullanıcıya tıbbi tavsiyeler verdi; ancak bu öneriler kullanıcının mevcut durumunu kötüleştirdi. Kullanıcının ruh sağlığı bu süreçte bozuldu ve sonunda hastaneye kaldırılması gerekti. Kullanıcı, yaşadığı bu olumsuz deneyimin ardından OpenAI'ye karşı yasal yollara başvurdu. Dava dilekçesinde, ChatGPT'nin tıbbi tavsiye verme yetkinliği olmadığı halde bu yönde yönlendirme yaptığı ve şirketin kullanıcıları bu risklere karşı yeterince uyarmadığı belirtiliyor.
Olayın ne zaman ve hangi ülkede yaşandığına dair resmi bir açıklama yapılmadı; ancak davanın eyalet mahkemesinde açıldığı öğrenildi. OpenAI cephesinden henüz konuya ilişkin bir yanıt gelmedi.
Yapay zeka ve sağlık: Etik ve hukuki sorumluluk tartışması
Bu dava, yapay zeka tabanlı sohbet botlarının sağlık alanında kullanımına dair uzun süredir devam eden tartışmaları alevlendirdi. Uzmanlar, ChatGPT gibi modellerin tıbbi tavsiye vermek üzere tasarlanmadığını, ancak kullanıcıların bu botlara sıklıkla sağlık soruları yönelttiğini hatırlatıyor. Özellikle ruh sağlığı gibi hassas konularda, yapay zekanın yanlış yönlendirmeleri ciddi sonuçlar doğurabiliyor.
Hukukçular ise yapay zeka şirketlerinin sorumluluğunun sınırlarını sorguluyor. Halihazırda birçok ülkede yapay zeka düzenlemeleri henüz emekleme aşamasında. OpenAI'nin kullanım şartlarında, modelin tıbbi tavsiye vermediği ve sağlıkla ilgili konularda uzman görüşü alınması gerektiği belirtiliyor. Ancak davacı taraf, bu uyarıların yeterli olmadığını ve şirketin daha etkin önlemler alması gerektiğini savunuyor.
Dava, yapay zeka ürünlerinin neden olduğu zararlardan şirketlerin sorumlu tutulup tutulamayacağına dair emsal teşkil edebilir. Teknoloji şirketleri, modellerin "halüsinasyon" görerek yanlış bilgi üretebildiğini kabul ediyor, ancak bu tür durumlarda sorumluluğun kullanıcıda olduğunu savunuyor. Bu dava, bu savunmanın ne kadar geçerli olduğunu test edecek.
Sağlık Bakanlığı ve uzmanlardan uyarılar
Konuyla ilgili görüşüne başvurduğumuz sağlık hukuku uzmanı, yapay zeka sohbet botlarının tıbbi karar süreçlerinde kullanılmaması gerektiğini vurguladı. "ChatGPT bir doktor değildir, tıbbi tavsiye veremez. Kullanıcıların bu tür platformlardan aldıkları bilgileri mutlaka bir hekime danışarak doğrulamaları gerekir" dedi. Uzman ayrıca, ruh sağlığı sorunları olan bireylerin yapay zeka ile etkileşiminin daha da dikkatli yönetilmesi gerektiğini ekledi.
Öte yandan, bazı ülkelerin sağlık otoriteleri yapay zeka tabanlı sağlık uygulamaları için özel düzenlemeler getirmeye başladı. Ancak genel amaçlı sohbet botları bu düzenlemelerin dışında kalıyor. Uzmanlar, bu boşluğun doldurulması gerektiğini belirtiyor.
OpenAI'nin politikaları ve geleceği
OpenAI, geçmişte ChatGPT'nin tıbbi tavsiye vermemesi gerektiğini, ancak kullanıcıların ısrarı üzerine genel bilgiler sunabildiğini açıklamıştı. Şirket, modelin yanıtlarının doğruluğu konusunda garanti vermediğini ve kullanıcıların sorumluluk alması gerektiğini savunuyor. Ancak bu dava, şirketin yasal risklerini artırabilir. OpenAI, son dönemde yapay zeka güvenliği konusunda daha fazla yatırım yapacağını duyurmuştu.
Dava süreci, yapay zeka ürünlerinin sağlık gibi kritik alanlarda nasıl kullanılacağına dair küresel bir tartışmayı da beraberinde getirecek gibi görünüyor. Teknoloji ve hukuk dünyası, bu davayı yakından takip ediyor.
Sonuç olarak, ChatGPT'nin tıbbi tavsiyesi nedeniyle açılan bu dava, yapay zeka çağında sorumluluk ve etik konularının ne kadar önemli olduğunu bir kez daha ortaya koyuyor. Kullanıcıların sağlıkla ilgili konularda yapay zeka yerine uzmanlara başvurması gerektiği vurgulanırken, şirketlerin de daha şeffaf ve güvenli sistemler geliştirmesi bekleniyor.
