Avustralya'nın Melbourne kentinde yaşayan 42 yaşındaki Michael Smith, ChatGPT'den aldığı sağlık tavsiyeleri nedeniyle neredeyse hayatını kaybettikten sonra yapay zeka şirketi OpenAI'a dava açtı. Smith, ChatGPT'nin kendisine kronik bir rahatsızlığı için önerdiği tedavi yönteminin aslında hayati tehlike oluşturduğunu iddia ediyor. Olay, yapay zeka sistemlerinin tıbbi tavsiye vermesinin ne kadar riskli olabileceğini bir kez daha gündeme taşıdı.
Yanlış Tavsiye Hayatını Tehlikeye Attı
Michael Smith, uzun süredir devam eden sindirim sorunları için ChatGPT'ye başvurdu. Yapay zeka asistanı, Smith'e belirtilerinin gıda intoleransından kaynaklandığını ve belirli bir diyet programı uygulaması gerektiğini söyledi. Smith, ChatGPT'nin önerdiği diyeti uygulamaya başladıktan kısa bir süre sonra şiddetli karın ağrıları, mide bulantısı ve bayılma hissi yaşamaya başladı. Hastaneye kaldırıldığında doktorlar, Smith'in uyguladığı diyetin aslında var olan bir bağırsak rahatsızlığını daha da kötüleştirdiğini ve ciddi bir elektrolit dengesizliğine yol açtığını tespit etti. Smith, yoğun bakımda günlerce tedavi gördü ve ancak uzun süren bir iyileşme sürecinin ardından taburcu edilebildi.
Davanın Ayrıntıları
Smith, OpenAI aleyhine açtığı davada, şirketin ChatGPT'nin verdiği tıbbi tavsiyelerin doğruluğu ve güvenilirliği konusunda kullanıcıları yeterince uyarmadığını ileri sürüyor. Dava dilekçesinde, ChatGPT'nin kullanıcıları aslında bir uzmana danışmaları gerektiği konusunda açık bir şekilde yönlendirmediği belirtiliyor. Smith'in avukatı, yapay zeka asistanlarının sağlık konusunda verdikleri bilgilerin güvenilir olmadığının altını çizerek, bu tür sistemlerin insan hayatını tehlikeye atabilecek yanlış yönlendirmelere neden olabileceğini vurguladı. OpenAI ise henüz dava hakkında resmi bir açıklama yapmadı, ancak şirketin daha önceki politikalarında ChatGPT'nin bir tıp uzmanı olmadığını ve acil durumlar için kullanılmaması gerektiğini belirttiği biliniyor.
Yapay Zeka ve Sağlık: Tartışma Büyüyor
Bu dava, yapay zeka sistemlerinin sağlık tavsiyesi vermesi konusundaki tartışmaları alevlendirdi. Uzmanlar, ChatGPT gibi büyük dil modellerinin tıbbi bilgi sağlama kapasitesine sahip olmasına rağmen, bu bilgilerin kişiye özel olarak uyarlanmadığını ve yanlış anlaşılabileceğini belirtiyor. Özellikle kronik rahatsızlıkları olan hastaların, yapay zeka asistanlarına güvenerek hareket etmelerinin ciddi sonuçlar doğurabileceği vurgulanıyor. Dünya Sağlık Örgütü de daha önce yapay zeka destekli sağlık araçlarının denetimli kullanılması gerektiğini bildirmişti. Bu dava, yapay zeka şirketlerine karşı açılan ilk dava olmamakla birlikte, yanlış tıbbi tavsiyenin yol açtığı zarar nedeniyle dikkat çekiyor.
Yasal Süreç ve Olası Etkileri
Davanın seyri, yapay zeka sistemlerinin sorumluluğu konusunda yeni bir hukuki çerçeve oluşturabilir. Eğer Smith davayı kazanırsa, OpenAI ve benzeri şirketler, kullanıcılarına daha güvenli ve doğru bilgi sağlamak için sistemlerini yeniden tasarlamak zorunda kalabilir. Uzmanlar, bu tür davaların yapay zeka düzenlemelerini hızlandırabileceğini ve kullanıcı koruma mekanizmalarının geliştirileceğini öngörüyor. Ayrıca, mahkemenin kararı, yapay zeka asistanlarına duyulan güveni ve bu araçların nasıl kullanılması gerektiğini şekillendirecek önemli bir emsal teşkil edebilir.
Yapay zeka, hayatımızın her alanına hızla entegre olurken, sağlık gibi kritik konularda insan denetiminin ne kadar önemli olduğu bir kez daha ortaya çıkıyor. Teknoloji, insan hayatını kolaylaştırmak için var; ancak bu tür olaylar, yapay zekanın sınırlarını ve risklerini hatırlatıyor. Kullanıcıların, özellikle sağlık konusunda yapay zeka tavsiyelerini dikkatle değerlendirmesi ve mutlaka bir uzmana danışması gerekiyor. Bu dava, teknolojinin sorumlu bir şekilde kullanılması gerektiğine dair önemli bir uyarı niteliği taşıyor.
