Terapi süreçlerinde yapay zekâ: Neyi destekleyebilir, ne uzmanda kalmalı?

Terapi ortamında 'yapay zekâ kullanımı' tek bir görev değildir. Randevu metnini düzenlemek, yetkili kayıtlar arasında belirli bir belgeyi bulmak ve bir profesyonel için inceleme materyali hazırlamak; bir kişinin yaşantısını yorumlamak, formülasyon oluşturmak veya klinik karar vermekten farklıdır. Bir aracı değerlendirmenin ilk adımı, hangi görevin gerçekten otomasyona açıldığını açıkça adlandırmaktır.

WHO sağlıkta yapay zekâ rehberliği, insanların sağlık kararlarında kontrolü elinde tutmasını ve klinik deneyim ile kişi hakkındaki bilginin önemini vurgular. Büyük çok kipli modeller hakkındaki WHO rehberi ise bu sistemlerin idari dokümantasyona yardım edebilse de yanlış, eksik veya hatalı yanıtlar üretebildiğini belirtir. Bu nedenle görev sınırı, kullanım kolaylığından önce gelir.

Aşağıdaki karşılaştırma bir özellik vaadi değil, değerlendirme çerçevesidir. Bir görevin 'desteklenebilir' olması, her ürünün o görev için güvenli veya uygun olduğu anlamına gelmez.

• Destekleyebilir — idari düzen: randevu veya görev bilgilerinin, yetkili kullanıcı tarafından kontrol edilebilen bir düzende sunulması.
• Destekleyebilir — dokümantasyon çevresi: mevcut kayıtları bulma, kaynakları gösterme ve profesyonel incelemesine materyal hazırlama.
• Destekleyebilir — düzenleme ve geri dönüş: profesyonelin belirlediği kapsam içinde ilgili kayıtları zaman ve kaynakla birlikte erişilebilir kılma.
• Uzmanda kalmalı — klinik yorum ve formülasyon: bir kişinin anlam dünyasını, örüntülerini veya klinik bağlamını değerlendirme.
• Uzmanda kalmalı — tanı ve tedavi seçimi: tanı koyma, tedavi yaklaşımı seçme, ilaç ya da reçete kararı verme.
• Uzmanda kalmalı — risk ve acil durum değerlendirmesi: risk puanlama, kriz belirleme veya acil durum sınıflandırması.
• Uzmanda kalmalı — terapötik ilişki: güven, zamanlama, sessizlik, kültürel bağlam ve karşılaşmanın insani anlamıyla çalışma.

Üretken sistemler ikna edici, akıcı ve tutarlı görünen yanıtlar üretebilir; bu görünüm yanıtın olgusal, eksiksiz veya bağlama uygun olduğunu kanıtlamaz. WHO büyük model rehberliği, ikna edici görünen ancak yanlış olabilen yanıtların insanın bilgi üretimindeki yerini zayıflatabileceğini; NIST ise güvenle ifade edilen hatalı içerik ve aşırı güven risklerini ele alır.

Ruh sağlığı bağlamında eksik bir ayrıntının etkisi yalnızca teknik doğruluk sorunu değildir. Söylenmeyen, zamana bağlı olan, farklı bir kaynaktan gelen veya profesyonel görüş niteliği taşıyan bir bilgi tek bir cümleye indirgenebilir. Bu nedenle yapay zekâ çıktısı klinik anlamın taşıyıcısı ya da otoritesi olarak sunulmamalıdır.

Bu senaryo bir danışan vakası değildir. Küçük bir klinik ekip, dokümantasyon çevresinde kullanılabilecek bir aracı değerlendirir. Ekip önce kullanım amacını 'yetkili kayıtlardan ilgili belgeyi bulmayı ve kaynak bağlantısını göstermeyi desteklemek' olarak sınırlar. Tanı, formülasyon, tedavi seçimi ve risk değerlendirmesi kapsam dışında yazılı olarak belirtilir.

Ekip sentetik ve tanımlayıcı olmayan test kayıtlarıyla aracın kaynak göstermediği, bağlamı yanlış birleştirdiği ve gereğinden emin konuştuğu durumları arar. Çıktının reddedilebildiğini, kullanımın durdurulabildiğini, sorunların bildirilebildiğini ve kullanıcıların aracı bir karar verici gibi görmediğini kontrol eder.

Sonuç yalnızca 'çalıştı' veya 'çalışmadı' değildir. Ekip, dar destek görevinin yararını; mahremiyet, hata, aşırı güven, eğitim ve iş akışı maliyetleriyle birlikte değerlendirir. Uygunluk kararı belirli ürün, görev, kullanıcı ve hizmet bağlamına aittir.

Danışan, hasta veya hassas klinik bilgi; saklama süresi, erişim, model eğitimi, alt işleyenler, silme ve olay bildirim sınırları anlaşılmayan genel kullanıma açık yapay zekâ araçlarına gelişigüzel girilmemelidir. Bir sohbet kutusunun kolay erişilebilir olması, onu klinik veri için uygun bir çalışma alanı yapmaz.

Kurum ayrıca girdinin nerede işlendiğini, çıktının kimlere görünebileceğini ve aracın veriyi başka amaçlarla kullanıp kullanmadığını değerlendirmelidir. Hukuki ve mesleki yükümlülükler hizmetin gerçek bağlamına göre değişir; ürünün 'yapay zekâ destekli' olması bu sorumlulukları kaldırmaz.

Bir profesyonel veya klinik ekip şu sorulara somut yanıt arayabilir:

1. Tam olarak hangi görev destekleniyor ve hangi klinik görevler açıkça kapsam dışında?
2. Çıktıların yanlış, eksik veya bağlam dışı olabileceği kullanıcıya nasıl gösteriliyor?
3. Kaynaklar ve belirsizlikler görülebiliyor; kullanıcı çıktıyı kolayca reddedebiliyor mu?
4. Hangi veri giriliyor, nerede tutuluyor, kim erişiyor ve başka amaçlarla kullanılıyor mu?
5. Araç sentetik verilerle ve gerçek kullanım koşullarına benzeyen görevlerle nasıl sınandı?
6. Otomasyon yanlılığına karşı eğitim, geribildirim, olay bildirimi ve kullanımı durdurma süreci var mı?
7. Araç terapötik ilişkiyi destekleyen zamanı artırıyor mu, yoksa profesyonel dikkati yeni bir kontrol yüküne mi taşıyor?

Terapötik çalışma yalnızca kayda geçmiş cümlelerden oluşmaz. İlişkinin geçmişi, dilin nüansı, sessizlik, zamanlama, kültürel bağlam ve profesyonelin etik sorumluluğu bir model çıktısına indirgenemez. Bu unsurlar, bir aracın sunabileceği düzenleme desteğinden farklı bir uzmanlık alanıdır.

Eunora'nın yönü danışana dönük yapay zekâ terapisi değildir. Ürün; kayıtları ve kaynakları profesyonelin kontrolünde düzenlemeyi hedefler. Yorum, klinik sorumluluk ve ilişki uzmanda kalır.