Sağlık sektöründe yapay zeka destekli not alma sistemlerine olan güven, Ontario Hükümeti’nin gerçekleştirdiği bir denetim sonrasında ciddi şekilde sarsıldı. Denetim raporuna göre, doktorların hasta görüşmelerini otomatik olarak özetleyen ve elektronik sağlık kayıtlarına aktaran AI asistanları, yanıltıcı, eksik ve hatta uydurma bilgiler üreterek hasta güvenliğini tehdit ediyor.
Ontario Denetimi: 20 AI Not Alma Aracının %100’ünde Hata Bulundu
Ontario Eyaleti Denetçisi, geçtiğimiz haftalarda yayınladığı özel raporda, Kanada’nın en kalabalık eyaletindeki kamu sağlık kurumlarının kullanması için onaylanan 20 farklı AI not alma aracının test edildiğini duyurdu. Bu araçlar, doktor ve hasta arasındaki görüşmeleri kaydederek, tanı, tedavi ve ilaç reçetelerini otomatik olarak özetleme yeteneğine sahipti.
Denetim kapsamında, iki farklı hasta-doğum senaryosu üzerinde yapılan testlerde, tüm 20 aracın en az bir hata yaptığı ortaya çıktı:
- Dokuz araç, hasta kayıtlarında tamamen uydurma bilgiler üretti.
- On iki araç, hasta verilerini yanlış kaydetti.
- On yedi araç ise, hasta görüşmelerinde ele alınan ruh sağlığıyla ilgili kritik detayları atladı.
Bu bulgular, AI destekli not alma sistemlerinin hasta bakımında ciddi riskler oluşturabileceğini gösteriyor.
Tehlikeli Hatalar: Yanlış İlaçlar ve Uydurma Testler
Denetim raporunda, AI araçlarının ürettiği bazı hataların doğrudan hasta güvenliğini tehdit edecek düzeyde olduğu vurgulandı. Örneğin:
- Yanlış reçete isimleri: AI, hasta görüşmesinde geçmeyen ilaç isimlerini notlara ekledi ya da doğru reçeteyi yanlış kaydetti.
- Uydurma testler: Hasta hiçbir kan testi veya terapiye yönlendirilmezken, AI sistemleri bu yönlendirmelerin yapıldığını özetlere ekledi.
- Ruh sağlığı detaylarının kaybolması: Hasta kaygı, depresyon veya stres gibi konulardan bahsetse bile AI bunları özetlere dahil etmedi, bu da tedavi planlarının eksik kalmasına yol açtı.
Bunların yanı sıra, AI sistemlerinin ürettiği özetlerdeki bazı hataların, hasta tedavisinde gecikmelere veya yanlış müdahalelere neden olabileceği belirtildi. Örneğin, bir hasta için gereken psikiyatri yönlendirmesi AI tarafından kaydedilmediğinde, hasta ruh sağlığı desteğinden mahrum kalabiliyor.
Sağlık Kurumları Bu AI Araçlarını Nasıl Kullanıyor?
Ontario’daki birçok hastane ve klinik, doktorların yoğun çalışma temposunu hafifletmek için AI not alma sistemlerine güveniyor. Bu sistemler, doktorların hasta görüşmeleri sırasında not tutmasını gereksiz kılarken, aynı zamanda elektronik sağlık kayıtlarına otomatik olarak veri aktarımı sağlıyor.
Ancak, bu araçların kullanımıyla ilgili endişeler de giderek artıyor. AI sistemlerinin ürettiği hataların, hasta kayıtlarının güvenilirliğini zedelediği ve tedavi süreçlerini olumsuz etkileyebileceği uyarıları yapılıyor. Ontario Denetçisi, sağlık kurumlarını bu araçları kullanırken daha dikkatli olmaya ve düzenli denetimler yapmaya çağırıyor.
Gelecekte Neler Değişecek?
AI destekli not alma sistemlerinin yaygınlaşmasıyla birlikte, sağlık sektöründe teknoloji kullanımına yönelik düzenlemelerin sıkılaşması bekleniyor. Ontario hükümeti, bu araçların kullanımını daha sıkı kurallara bağlayabilir ve üçüncü taraf denetimlerini zorunlu hale getirebilir.
Ayrıca, AI geliştiricilerinin de sistemlerini daha güvenilir ve şeffaf hale getirmeleri gerekiyor. Hasta güvenliği söz konusu olduğunda, teknolojinin sunduğu kolaylıkların yanı sıra, doğruluk ve güvenilirliğin de ön planda olması gerekiyor.
Sağlık sektöründe yapay zekanın geleceği, hem teknoloji şirketlerinin hem de düzenleyici kurumların sorumluluk almasına bağlı olacak. Bu denetim raporu, sektördeki tüm paydaşlara önemli bir uyarı niteliğinde.
Yapay zeka özeti
Ontario denetimi, doktorların hasta görüşmelerini otomatik olarak özetleyen AI not alma sistemlerinin %100’ünde hata tespit etti. Yanlış ilaç kayıtları ve uydurma testler hasta tedavisini riske atıyor.
