ABD'nin Kaliforniya eyaletinde bir papaz, yapay zeka sohbet robotu ChatGPT'nin kendisine yanlış sağlık tavsiyesi vererek hayati tehlike taşıyan akciğer embolisi tedavisini geciktirdiği iddiasıyla OpenAI şirketine dava açtı. Dava, yapay zeka sistemlerinin sağlık alanında kullanımına ilişkin önemli etik ve hukuki soruları gündeme getirdi.
Papazın iddiaları neler?
Davacı papaz John Smith (gerçek isim korunmamıştır), nefes darlığı ve göğüs ağrısı şikayetleriyle ChatGPT'ye başvurduğunu, robotun semptomları "kas gerginliği" olarak yorumladığını öne sürdü. Smith, ChatGPT'nin tavsiyesine uyarak hastaneye gitmeyi erteledi ve birkaç saat sonra bayılarak acil servise kaldırıldı. Yapılan tetkiklerde akciğer embolisi teşhisi konulan Smith, hayati tehlikesi nedeniyle yoğun bakımda tedavi gördü.
Yapay zeka sağlık tavsiyeleri ne kadar güvenilir?
ABD Federal İlaç Dairesi (FDA), yapay zeka sohbet robotlarının tıbbi cihaz olarak sınıflandırılmadığını ve bu nedenle sağlık tavsiyesi verme yetkilerinin bulunmadığını belirtiyor. OpenAI ise ChatGPT'nin "bilgi amaçlı" olduğunu, acil durumlarda profesyonel tıbbi yardım alınması gerektiğini kullanım koşullarında belirttiğini savunuyor. Ancak uzmanlar, bu tür uyarıların kullanıcılar tarafından göz ardı edilebildiğine dikkat çekiyor.
Hukuki sonuçlar ve benzer davalar
Smith'in avukatı, OpenAI'ın "ihmalkarlık" ve "yanıltıcı ticari uygulama" suçlamalarıyla karşı karşıya olduğunu söyledi. Bu dava, yapay zeka şirketlerine karşı açılan ilk sağlık kaynaklı dava değil. Geçtiğimiz yıl, bir kadın ChatGPT'nin intihar riskini ciddiye almadığı gerekçesiyle dava açmış, ancak dava düşmüştü. Uzmanlar, yapay zeka geliştiricilerinin sağlık konusunda daha sıkı denetim mekanizmaları kurması gerektiğini vurguluyor.
Yapay zeka teknolojilerinin sağlık sektöründe kullanımı hızla yaygınlaşırken, bu tür davalar olası risklere karşı düzenleyici boşlukları gözler önüne seriyor. OpenAI, dava hakkında henüz resmi bir açıklama yapmadı. Ancak şirket, geçmişte ChatGPT'nin sağlıkla ilgili sorulara daha ihtiyatlı yanıt vermesi için güncellemeler yaptığını duyurmuştu.
