Sağlık alanında yapay zekâ kullanımı hızla yaygınlaşırken, bu sistemlerin güvenilirliği tartışılmaya devam ediyor. Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekâ modellerinin yüksek doğruluk oranlarına rağmen her zaman güvenilir olmayabileceğini vurguladı. Baydar, “Doğru sonuçlar yanıltıcı olabilir; çünkü modelin karar verirken hangi verilere dayandığını bilmek kritik önem taşır” dedi. Özellikle tıbbi teşhis ve tedavi süreçlerinde yapay zekânın şeffaflığı ve açıklanabilirliği, hasta güvenliği açısından ön plana çıkıyor.
Yüksek doğruluk neden yeterli değil?
Yapay zekâ sistemleri, eğitildikleri veri setlerindeki örüntüleri öğrenerek tahminlerde bulunur. Ancak bir modelin test verilerinde yüksek doğruluk göstermesi, gerçek dünyada da aynı başarıyı göstereceği anlamına gelmiyor. Dr. Övek Baydar, bu durumu şöyle açıklıyor: “Model, eğitim verisindeki yanlılıkları veya tesadüfi korelasyonları öğrenebilir. Örneğin, belirli bir hastanede çekilen görüntülerde cihazın ürettiği artefaktlar, hastalıkla ilişkilendirilebilir. Model yüksek doğrulukla çalışsa da aslında hastalığı değil, cihazın özelliğini öğrenmiş olur. Bu da farklı bir hastanede aynı performansı gösteremeyeceği anlamına gelir.”
Bu tür sorunlar, özellikle tıbbi görüntüleme, patoloji ve genetik gibi alanlarda daha sık görülüyor. Uzmanlar, yapay zekâ modellerinin farklı popülasyonlarda ve koşullarda test edilmesi gerektiğini belirtiyor. Aksi halde, yüksek doğruluk oranları yanıltıcı bir güven duygusu yaratabilir.
Açıklanabilirlik ve şeffaflık şart
Sağlıkta yapay zekâ kullanımının artmasıyla birlikte, düzenleyici kurumlar da modellerin açıklanabilir olmasını talep ediyor. Avrupa Birliği’nin Yapay Zekâ Yasası, tıbbi cihaz statüsündeki yapay zekâ sistemlerini “yüksek riskli” kategoride değerlendiriyor ve bu sistemlerin şeffaf olmasını, insan gözetimi altında çalışmasını zorunlu kılıyor. Türkiye’de de Sağlık Bakanlığı ve ilgili kurumlar, yapay zekâ destekli tıbbi yazılımlar için onay süreçlerinde benzer kriterleri uygulamaya başladı.
Dr. Baydar, “Bir yapay zekâ modelinin sadece sonuç üretmesi yeterli değil; o sonuca hangi verilerle ve nasıl ulaştığını da göstermesi gerekir. Özellikle hekimlerin modele güvenebilmesi için karar sürecinin anlaşılır olması şart” diyor. Bu noktada, “kara kutu” olarak adlandırılan ve iç işleyişi anlaşılamayan derin öğrenme modelleri yerine, yorumlanabilir modeller tercih edilmeli.
Veri kalitesi ve etik sorunlar
Yapay zekâ sistemlerinin güvenilirliği büyük ölçüde eğitim verisinin kalitesine bağlı. Eksik, yanlı veya temsil gücü düşük veri setleri, modelin adaletsiz ve hatalı kararlar almasına yol açabiliyor. Örneğin, belirli bir etnik grup veya cinsiyet üzerinde eğitilmiş bir model, diğer gruplarda düşük performans gösterebiliyor. Bu da sağlık hizmetlerinde eşitsizliklere neden olabiliyor.
Ayrıca, hastaların verilerinin gizliliği ve mahremiyeti de önemli bir tartışma konusu. Yapay zekâ modellerinin eğitimi için büyük miktarda hasta verisine ihtiyaç duyuluyor, ancak bu verilerin anonimleştirilmesi ve güvenli bir şekilde saklanması gerekiyor. Dr. Baydar, “Veri paylaşımı konusunda etik ve yasal çerçevelerin net olması, hem hasta hakları hem de bilimsel ilerleme açısından kritik” diyor.
Klinik uygulamada dikkat edilmesi gerekenler
Yapay zekâ destekli sistemlerin klinik kullanımında hekimlere büyük sorumluluk düşüyor. Uzmanlar, bu sistemlerin bir “karar destek aracı” olarak görülmesi gerektiğini, nihai kararın her zaman hekim tarafından verilmesi gerektiğini vurguluyor. Özellikle acil durumlarda veya karmaşık vakalarda, yapay zekâ önerilerinin dikkatle değerlendirilmesi gerekiyor.
Dr. Övek Baydar, sağlık kuruluşlarına şu önerilerde bulunuyor:
- Yapay zekâ modelinin hangi verilerle eğitildiğini ve hangi popülasyonu temsil ettiğini sorgulayın.
- Modelin doğruluk oranının yanı sıra duyarlılık, özgüllük ve negatif prediktif değer gibi metrikleri de inceleyin.
- Modelin farklı koşullardaki performansını gösteren bağımsız çalışmaları talep edin.
- Klinik iş akışına entegrasyon öncesinde pilot uygulamalar yapın ve hekim geri bildirimlerini toplayın.
- Hasta verilerinin gizliliğini ve güvenliğini sağlayacak önlemleri alın.
Gelecek perspektifi
Yapay zekânın sağlıkta kullanımı kaçınılmaz olarak artacak. Ancak bu artışın güvenilir ve etik temeller üzerine inşa edilmesi gerekiyor. Düzenleyici kurumlar, akademi ve sağlık sektörü iş birliği içinde çalışarak standartların oluşturulmasına katkı sağlamalı. Aksi halde, yüksek doğruluk oranlarına duyulan aşırı güven, hastalara zarar verebilir.
Sonuç olarak, sağlıkta yapay zekâdan elde edilen doğru sonuçlar tek başına yeterli değil; bu sonuçların güvenilir, açıklanabilir ve adil olması da gerekiyor. Dr. Damla Övek Baydar’ın uyarıları, bu teknolojinin potansiyelinden yararlanırken risklerini de göz önünde bulundurmamız gerektiğini hatırlatıyor. Sağlıkta yapay zekâ, ancak doğru şekilde denetlendiğinde ve şeffaf olduğunda gerçek fayda sağlayabilir.
