ABD'de bir hasta, yapay zeka sohbet robotu ChatGPT'nin verdiği yanıltıcı sağlık tavsiyeleri nedeniyle ciddi sağlık sorunları yaşadığını öne sürerek geliştirici şirket OpenAI'ye dava açtı. Davacı, chatbotun kendisini tıbbi yardım almaktan caydırdığını ve durumunun hayati tehlike oluşturan bir boyuta ulaştığını iddia ediyor. Olay, yapay zeka sistemlerinin sağlık alanındaki güvenilirliği konusundaki tartışmaları yeniden alevlendirdi.
ChatGPT'nin yönlendirmesiyle tedaviyi reddetti
Mahkemeye sunulan dilekçeye göre, hasta adı bilinmeyen kişi, belirtilerini ChatGPT'ye anlattıktan sonra botun "endişelenmeyin, bu geçici bir durum" gibi ifadeler kullandığını ve tıbbi yardım almasına gerek olmadığını söylediğini aktardı. Kullanıcı, bu tavsiyeye uyarak hastaneye başvurmadı ve birkaç gün içinde durumu ciddi şekilde kötüleşti. Acil servise kaldırılan hasta, hayati tehlike atlattığı bir tedavi sürecinden geçti.
Dava: OpenAI sorumlu tutuluyor
Davacı, OpenAI'nin ürününün tıbbi tavsiye verme konusunda yetersiz olduğunu ve kullanıcıları yanıltma potansiyeli taşıdığını savunuyor. Ayrıca, şirketin chatbotun sınırlamaları hakkında yeterli uyarı yapmadığını iddia ediyor. OpenAI, daha önce ChatGPT'nin bir doktorun yerini alamayacağını ve sağlık konularında profesyonel yardım alınması gerektiğini belirtmişti. Ancak davacının avukatı, uyarıların yetersiz olduğunu ve kullanıcıların botu bir güvenilir kaynak olarak görebileceğini söylüyor.
Yapay zeka ve sağlık: Güven sorunu
Bu dava, yapay zekanın sağlık sektöründe kullanımına ilişkin etik ve hukuki sorunları gündeme getirdi. Uzmanlar, yapay zeka sistemlerinin tıbbi kararlarda yardımcı araçlar olarak kullanılması gerektiğini ancak insan doktorların yerini alamayacağını vurguluyor. Sağlık otoriteleri, hastaların çevrimiçi kaynaklara ve yapay zekaya itibar etmeden önce mutlaka bir sağlık profesyoneline danışmaları gerektiğini hatırlatıyor. OpenAI ise davayla ilgili henüz resmi bir açıklama yapmadı.
Olay, yapay zeka sistemlerinin toplumsal etkileri konusunda daha geniş bir tartışmanın parçası. Benzer durumların tekrarlanmaması için daha sıkı düzenleme ve kullanıcı bilinçlendirme çalışmaları önem kazanıyor.
