RID-Görüş: Algoritmik "hekime" güvenmenin zamanı geldi mi? Tıbbi yapay zekada black-box sorununa bir bakış.

Düşünün ki doktorunuz sizin için bir hastalık teşhisi koyuyor, teşhisten itibaren tüm hayatınızı artık bir belli bir tedavi protokolüne göre şekilleniyor. Tedavi bittiğinde öğreniyorsunuz ki; bu kararı aslında doktorunuz değil, sizin röntgenlerinizi inceleyen bir yapay zeka (YZ) algoritması vermiş. Üstelik bu "algoritmik hekim", kararını nasıl verdiğini doktorunuza bile tam olarak açıklayamıyor.

İşte biz buna tıbbın "Kara Kutu" (Black Box) problemi diyoruz. Peki, anlamadığımız bir karara "aydınlatılmış onam" vermemiz hukuken mümkün mü?

Kara kutu paradoksu; algoritmik hekimin "sezgisi" teşhis ve tedavi için yeterli olur mu?

Yapay zeka, özellikle derin öğrenme modelleri, milyonlarca veriyi tarayıp insan gözünün kaçıracağı kalıpları bulabiliyor. Ancak bu sistemlerin bir kusuru var: Çıktı üretirken izledikleri mantık silsilesi yazılımcıların dahi kimi zaman güçlükle anlamlandırabildiği bir harita yaratıyor.

Burada karşımıza bir paradoks çıkıyor: Bir algoritmayı daha "açıklanabilir" kılmaya çalışırsanız, genellikle performansından ödün vermeniz gerekiyor. Bu da şu soruyu doğuruyor: Doktor, "neden çalıştığını" anlamadığı ama "iyi çalıştığını" bildiği bir yazılıma hastasını emanet edebilir mi?. Eğer algoritmik hekimin "sezgisi" (yani açıklanamayan mantığı), insan hekimin doğruluğunu geride bırakıyorsa, hastanın en iyi tedaviyi alma hakkı ile ne yapıldığını bilme hakkı çatışmaktadır.  

Aydınlatılmış Onam Kavramı

Aydınlatılmış onam; riskleri, yararları ve alternatifleri kapsayan tedavi uygulamasının, hekim tarafından yeterli düzeyde açıklanmasından ve hasta tarafından tereddüde yer kalmayacak şekilde anlaşılmasından sonra, hastanın uygulamayı rızaen kabulü esasına dayanmaktadır. Hukukumuzda "aydınlatılmış onam" kavramı köklerini 1219 Sayılı Kanun (md. 70), Türk Medeni Kanunu (md. 24), Hasta Hakları Yönetmeliği (md. 24-31) ve Biyotıp Sözleşmesi (md. 5) gibi çok sayıda düzenlemeden almaktadır. Ancak aydınlatılmış onamın izleri 1600'lü yıllardaki "Rıza Senedi" adı verilen ibra belgelerine kadar uzanmaktadır. Üstelik 08.05.2014 tarihinde yapılan değişikliklerle, bilgilendirme artık sadece bir "hasta hakkı" değil, mevzuatımızda hekim için bir "zorunluluk" haline gelmiştir.

ABD'de aydınlatılmış onam kavramı yüksek yargı kararlarıyla şekillenmiştir. Bizim de iç hukukumuz için emsal olabilecek yargı karar basamakları şunlardır:

• Schloendorff v Society of NY Hospital (1914): Bireyin "kendi vücuduyla ne yapılacağına karar verme hakkı" temel ilke olarak tanımlanmış, rızasız müdahale "müessir fiil" sayılmıştır.  

• Salgo v Leland Stanford Jr. Univ. : Hekimin rızanın temelini oluşturacak her türlü maddi gerçeği açıklama borcu olduğu içtihat edilmiştir.  

• Canterbury v Spence : "Hasta merkezli" yaklaşım getirilmiş; bir riskin, makul bir kişinin kararını etkileyebilecek nitelikteyse "maddi" kabul edilip açıklanması gerektiği vurgulanmıştır.

• Çok tartışmalı Moore v Regents of the University of California kararı ise, hastasının dokularının ticari değeri olan özel bir hücre hattı geliştirme potansiyeline sahip olduğunu fark eden hekimin, hastayı bilgilendirmeden aldığı örnekleri kendi ticari araştırması ve finansal çıkarları için kullandığının ortaya çıkması üzerine verilmiştir. Yüksek Mahkeme, geliştirilen hücre hattı üzerindeki mülkiyet rejiminde 'insan müdahalesi/işlemesi' olgusunu ele alırken; esas olarak hekimin tedavi sürecindeki araştırma amaçlı veya finansal çıkar çatışmalarını  açıklama borcu olduğunu vurgulamıştır.

• Son olarak belki de bir başka makale konusu olabilecek kadar derin MAYO v. Myriad kararından bahsetmekte fayda var. Kararın özü meme kanserine yol açan BRCA1 ve BRCA2 genetik dizilerinin patentlenmesinin mümkün olup olmadığı üzerine şekillenmekteydi. Bu karar ile "insan eli" müdahalelerin, doğal ürün doktrinine istisna getirebileceği vurgulanmıştır. Dolayısıyla doğal genetik dizi ye dair geçmiş patentlerin hepsi iptal edilmişti.

Moore kararına ilişkin en dikkat çekici nüans; Yüksek Mahkeme'nin genetik dizilimleri bir 'kaynak kod' yazılımına benzeterek hükmünü bu dijital analoji üzerine inşa etmesidir. Bu karar içtihadi düzeyde insan-makine tezahürünün belki de ilk örneğidir.

Perna v. Pirozzi Kararı: Yedek Cerrahın Hatası Kime Mal Edilir? Bu Diskuru YZ "Hekim" İçin Kullanabilir Miyiz?

1983 tarihli bu kararın temeli; hasta Perna'nın, cerrahi işlem için bizzat onam verdiği hekim yerine operasyonun başka bir hekim tarafından gerçekleştirilmesi üzerine, onam verdiği asıl hekimi dava etmesiyle oluşmuştur. Mahkeme, hastanın ameliyat kararını 'tanıdığı ve güvendiği bir hekimin ellerine bırakma iradesi' olarak tanımlamış; bu güven ilişkisinin zedelenmesini ve rıza dışı bu yer değiştirmeyi hukuka aykırı bularak 'müessir fiil'  kapsamında değerlendirmiştir.

Dolayısıyla eğer bir hasta, teşhis veya tedavi kararlarının bir insan hekim tarafından verilmesini beklerken, bu süreç tamamen veya önemli ölçüde bir yapay zeka algoritmasına devredilirse (ve bu durum hastaya açıklanmazsa), Perna v. Pirozzi ilkesi uyarınca bir onam ihlali tartışması doğabilir. 

Kararda tıpkı ameliyatı yapacak cerrahın kimliğinin "maddi bir gerçek" olması gibi, karar verme sürecindeki yapay zeka katılımının da hastaya açıklanması gereken esaslı bir bilgi olduğu savunulmaktadır.

Özetle mahkeme, hastanın sadece yapılacak işleme değil, bu işlemi kimin yapacağına dair de mutlak bir karar verme yetkisi olduğunu teyit etmiştir.

Sadede Gelelim:

Eğer YZ sadece hekimin kararını destekleyen bir araçsa (röntgen cihazı gibi), hekimin "nasıl çalıştığını" değil, "güvenilir olduğunu" (FDA onayı, klinik testler vb.) açıklaması yeterli görülebilir.  Yapay zeka asistan olarak ele alınır ve bu durum da hukukumuzdaki Kamu İhale Kararlarına ve yerel mevzuata uygundur.

Eğer YZ doğrudan tedavi protokolünü değiştiriyorsa, bu durumun "deneysel tedavi" veya "cerrahın yerine başkasının geçmesi" (Perna v Pirozzi) prensibiyle değerlendirilmesi ve hastaya mutlaka bildirilmesi gerekir. Hastanın bu bilgilendirmeyle birlikte verdiği onamın, artık hukuken geçerli olduğunun kabulü gerekmektedir. Aksi durumun, son derece yararlı YZ algoritmalarının kullanım dışı kalması sorununu oluşturacağı açıktır.

Hukukumuzda da sağlıkta yapay zeka algoritmalarından otonom sistemlerin ihale şartnamelerine uygun görülmediğini not düşmek gerekiyor. Elbette güncel durumun teknolojiye uzun süre ayak uyduramayacağını da ekleyelim.