ABD'de yaşayan bir hasta, yapay zeka sohbet robotu ChatGPT’nin kendisini hayati tehlike oluşturan bir sağlık sorunu konusunda yanıltarak tedavi almasını geciktirdiğini iddia ederek OpenAI ve CEO Sam Altman’a dava açtı. Dava, yapay zekanın tıbbi alandaki kullanımına ilişkin yeni etik ve hukuki tartışmaları beraberinde getirdi.
ChatGPT uyarıları dikkate almadı
Davacı, rahatsızlığının ilk belirtilerinde ChatGPT’ye başvurduğunu ve robotun kendisine semptomların ciddi olmadığını söylediğini belirtti. OpenAI’ın sohbet robotunun, hastalığın ilerlemesini hafife alarak acil tıbbi müdahale gerektiren durumu atladığı öne sürülüyor. Hasta, bu yanıltıcı yönlendirme nedeniyle durumunun kötüleştiğini ve yoğun bakıma kaldırıldığını ifade etti.
OpenAI’a yöneltilen suçlamalar
Dava dilekçesinde, ChatGPT’nin kullanıcıyı tıbbi bir acil durum konusunda uyarmadığı, aksine rahatlatıcı ve yanlış bilgiler verdiği iddia ediliyor. OpenAI’ın yapay zeka modelinin sağlık alanında yeterli doğruluk ve güvenlik önlemlerine sahip olmadığı savunuluyor. Davacı, şirketin bu konuda ihmalkar davrandığını ve ürününün tıbbi danışmanlık amaçlı kullanılmaması gerektiği yönünde yeterli uyarı yapmadığını öne sürüyor.
Yapay zeka ve tıbbi sorumluluk
Bu dava, yapay zeka sistemlerinin tıbbi alanda kullanımının yasal ve etik boyutlarını tekrar gündeme taşıdı. ChatGPT gibi genel amaçlı sohbet robotları, kullanıcılara sağlık tavsiyesi vermek üzere tasarlanmamış olsa da, birçok kişi bu araçlara güvenerek hareket ediyor. Uzmanlar, yapay zeka tabanlı sistemlerin tıbbi durumlar için kullanılmasının ciddi riskler taşıdığını ve insan doktorların yerini alamayacağını vurguluyor.
OpenAI, konuyla ilgili henüz resmi bir açıklama yapmadı. Ancak şirketin kullanım koşullarında, ChatGPT’nin tıbbi acil durumlar için uygun olmadığı belirtiliyor. Dava, ABD hukukunda yapay zekanın kusurlu ürün veya ihmalden sorumlu tutulup tutulamayacağına ışık tutacak emsal nitelikte görülüyor.
Yapay zeka teknolojileri hızla yaygınlaşırken, bu tür olayların düzenleyici çerçevenin oluşturulması gerekliliğini ortaya koyduğu değerlendiriliyor. Özellikle sağlık, hukuk ve finans gibi kritik alanlarda kullanılan yapay zeka sistemlerinin daha sıkı denetime tabi tutulması, kamu güvenliği açısından önem taşıyor.
