Terapi süreçlerinde yapay zekâ: ne insan kontrolünde kalmalı?

Terapi ortamlarında yapay zekâ; dokümantasyonun düzenlenmesi, kayıtlar arasında ilgili bağlamın bulunması, bilgiye geri dönüş ve incelemeye sunulacak taslakların hazırlanması gibi çalışma alanlarını destekleyebilir. Bu alanlar, klinisyenin bilgiyle daha düzenli çalışmasına yardımcı olmayı hedefler.

Bu çerçeve, Eunora'nın mevcut davetli betasında geniş kapsamlı yapay zekâ taslaklarının genel kullanıma açık olduğu anlamına gelmez. Ürün yönü, yapay zekâ desteği kullanıldığı veya geliştirildiği yerde klinisyen denetiminde kalmasıdır.

Yapay zekâ terapötik anlamı klinisyenin yerine yorumlamamalı veya profesyonel yargının yerini almamalıdır. Bir çıktının akıcı görünmesi, onun klinik olarak doğru, yeterli ya da bağlama uygun olduğu anlamına gelmez.

Bu nedenle yapay zekâ; tanı koyan, tedavi veya ilaç öneren, reçete kararını destekleyen, risk puanlayan, kriz belirleyen ya da acil durum sınıflandıran bir otorite olarak konumlandırılmamalıdır. Değerlendirme, yorum ve karar sorumluluğu profesyonelde kalır.

Yapay zekâ ile hazırlanmış materyal, onaylı klinik kayıttan açıkça ayrı tutulmalıdır. Taslak durumu, kimin incelediği ve ne zaman onaylandığı anlaşılır olmadan üretilen metin klinik kayıt gibi görünmemelidir.

Kaynak sınırları da görünür kalmalıdır. Hangi bilginin nottan, belgeden, randevu bağlamından veya başka bir kaynaktan geldiği saklanmamalı; eksik veya belirsiz bağlam otomatik kesinlik gibi sunulmamalıdır.

Klinisyenler danışan, hasta veya hassas klinik veriyi kullanım koşulları, saklama davranışı ve erişim sınırları belirsiz harici yapay zekâ araçlarına yapıştırmamalıdır. Ürün kolaylığı, mesleki mahremiyet sorumluluğunu ortadan kaldırmaz.

Eunora'nın yönü danışana dönük yapay zekâ terapisi değil; kaynakları, taslak durumunu, incelemeyi ve profesyonel kontrolü görünür tutan klinisyen denetimli klinik hafızadır.