Terapistler not almak için yapay zekayı kullanıyor. Yararlı bir araç mı, yoksa güvenin ihlali mi?

Molly Quinn iki yıl boyunca başka kimseye söylemediği şeyler konusunda terapistine güvendi.

Dolayısıyla terapisti not almak için yapay zeka aracını denemekten bahsettiğinde Quinn hemen reddetmedi. Ark., Fayetteville’den 31 yaşındaki kütüphaneci önce onu araştırmak istedi.

Sözlerinin nereye gideceğini, yerel mi kalacağını yoksa bulutta bir yerde mi işleneceğini anlamak istiyordu.

Seansı kafasında yeniden canlandırıyor

Seans o gün devam etti ancak yarı yolda Quinn bir şeylerin farklı olduğunu fark etti.

Quinn, “Genelde yaptığı gibi not almıyordu” diyor. “iPad yeni desteklendi.”

İşte o zaman Quinn seansın kaydedildiğini fark etti.

Quinn bir süre donduğunu söylüyor. Ama sonra konuşmaya devam etti.

Terapistin ofisinden çıkana kadar bu yükün ağırlığı üzerine inmedi.

“Bunu düşündükçe midem daha da bulanmaya başladı” diyor. “Çok özel ve çok yoğun duygular konusunda güvenmem gereken bu kişi, rahat olmadığımı söylediğim bir şeyi tamamen göz ardı etmişti. Kendimi tamamen ihlal edilmiş hissettim.”

Seansı kafasında yeniden canlandırarak eve gitti, bundan sonra ne yapacağından emin değildi.

Molly Quinn, bir yapay zeka aracının konuşma terapisi seansının içeriğini yakaladığını fark ettiğinde rahatsız oldu.

Quinn ailesi

başlığı gizle

başlığı değiştir

Quinn ailesi

Yeni şirketlerden yeni araçlar

ABD genelinde giderek artan sayıda terapist, seansları kaydeden, transkriptler oluşturan ve klinik notları otomatik olarak hazırlayan yapay zeka araçlarını deniyor. Yazılım şirketleri, bu araçların her hafta saatlerce süren idari işlerden tasarruf sağlayabileceğini söylüyor.

Berries adlı şirket, platformunu evrak işlerini hafifletmenin bir yolu olarak pazarlıyor, böylece terapistler müşterilerine daha iyi odaklanabiliyor ve kendi kişisel yaşamlarında daha iyi bir iş-yaşam dengesine sahip olabiliyor.

Şirketin CEO’su Tal Salman, NPR’ye şunları söyledi: “Berry, terapötik deneyime müdahale etmeden idari yükü azaltmak için tasarlandı.” “Klinisyenlerin danışanlarının yanında daha fazla yer almasını destekliyor.”

Etkinleştirildiğinde sistem konuşmayı kaydeder, yazıya döker ve terapistin incelemesi için bir klinik not taslağı oluşturur. Terapistler taslağı düzenleyebilir, gözden geçirebilir veya atabilir. Ayrıca tıbbi kayıtlara da kaydedebilirler.

Gizlilik kuralları

Salman, bir oturumdan sonra sesin otomatik olarak silindiğini ve transkriptlerin, tıbbi bilgilerin yayınlanmasını sınırlayan federal yasa olan HIPAA ile uyumlu ABD’deki sunucularda saklandığını söylüyor. Şirketin yapay zeka modellerini eğitmek için terapi içeriğini kullanmadığını ekliyor.

Salman, “Terapi seansının içeriği gizli kalıyor ve eğitim amaçlı olarak yeniden tasarlanmıyor” diyor. “Klinisyen hasta bakımından ve nihai dokümantasyondan tamamen sorumlu olmaya devam etmektedir.”

Akıl sağlığı terapistlerine benzer hizmetler sunan diğer şirketler SimplePractice ve Blueprint’tir. Şirketler genellikle ayda 19 ila 99 ABD Doları arasında ücret talep etmektedir ve bu, genellikle idari görevlerden bunalan yalnız uygulayıcılara hitap etmektedir.

Araştırmalar hastaların terapide yapay zeka araçlarına açık olabileceğini ancak bu konforun sınırlı olduğunu öne sürüyor. Ulusal YouGov tarafından yapılan anket bulundu Amerikalıların akıl sağlığı bakımı için yapay zekayı kullanma konusunda tereddütlü olduğu görülüyor. Sadece %11’i kullanmaya açık olacağını söylüyor ve sadece %8’i güvendiğini söylüyor. Ankete katılanların neredeyse yarısı teknolojiyi kullanmak konusunda isteksiz olduklarını söyledi. Birçoğu, yanlış tavsiye ve mahremiyetle ilgili korkuların yanı sıra, insan anlayışının eksikliğinin de büyük bir endişe olduğuna işaret ediyor.

Bu endişeler terapinin ötesine uzanıyor.

Sağlık araştırma kuruluşundan ayrı bir anket KFF şunu buldu: yaklaşık %77 Amerikalıların oranı, sağlık bilgilerinin yapay zeka sistemleri tarafından nasıl saklanacağı ve kullanılacağı konusunda endişe duyuyor.

Araştırmacılar, konuşmaların son derece kişisel olduğu ruh sağlığı hizmetlerinde merak ve güven arasındaki uçurumun daha da belirgin hale geldiğini söylüyor. Ve hastalar teknolojiyi denemeye istekli olsalar bile birçoğunun hala bir insan terapistin güvencesini tercih ettiğini belirtiyorlar.

NYU Grossman Tıp Fakültesi’nde tıp etiği alanında yardımcı doçent olan Kellie Owens, HIPAA uyumluluğu gibi gizlilik korumalarının ihlal olasılığını ortadan kaldırmadığını söylüyor.

Owens, “Hangi korumalara sahip olursak olalım, bu verilerin ihlal edilemeyeceği anlamına gelmiyor” diyor. “Hâlâ büyük veri ihlallerine maruz kalan, tamamen HIPAA uyumlu birçok sistem var.”

Hastaların derinlemesine kişisel bilgilerini paylaştığı terapide risklerin özellikle hassas olduğunu söylüyor.

Anlamlı rıza mı?

Owens, teknik risklerin ötesinde yazılı onay formlarının tek başına yeterli olmayabileceğini söylüyor.

“Onam formunun tek başına kişinin bilinçli bir seçim yaptığı anlamına gelmediğini gösteren çok sayıda araştırmamız var” diyor. “İnsanlar bunlar arasında geziniyor, okumuyor veya kabul etme konusunda baskı hissediyor.”

Owens, kayıtların her zaman doğrudan tartışılması gerektiğini söylüyor.

“Bir konuşmayı kaydettiğinizde, kaydın yapıldığına dair sözlü bir konuşma yapılması gerekir” diyor.

Güven ve psikolojik güvenliğin, etkili zihinsel sağlık tedavisinin temeli olduğunu söylüyor.

Owens, “Hastalar mahremiyetin tehlikeye atıldığını hissederse, bu durum terapötik ilişkiye ciddi zarar verebilir” diyor.

Molly Quinn’e göre bu riskler soyut değil.

Sağlık sistemleri ve büyük şirketler son yıllarda tekrarlanan veri ihlalleriyle karşı karşıya kalıyor ve Quinn, başka bir teknoloji katmanı eklemenin, derin kişisel konuşmaların bir gün açığa çıkma olasılığını artıracağından endişe ediyor.

“İhlalleri göreceğiz” diyor. “Belki yarın değil, belki gelecek hafta değil. Ama birkaç yıl içinde? Sanırım onları göreceğiz. Ve terapi seansımın bunun bir parçası olmasını istemiyorum.”

Yapay zeka dinleyicisi, farklı bir deneyim

Bazı terapistler için endişe sadece siber güvenlikle ilgili değil.

New York’ta çift ve seks terapisti olan Marisa Cohen, teknoloji arka planda kaybolsa bile terapiye yapay zekanın dahil edilmesinin deneyimi değiştirdiğini söylüyor.

Cohen, “Yapay zekanın varlığı bile terapötik deneyimi değiştiriyor” diyor. “Müşteriler başka bir şeyin onları dinlediğini biliyor veya hissediyor. Bu farkındalık, açıklamalarını ustaca değiştirebilir.”

Terapinin mutlak mahremiyet algısına dayandığını söylüyor.

Cohen, “Elektronik olarak saklanan bir şeyi tanıttığınızda, güven ve emniyetle ilgili ek soruları gündeme getiriyor” diyor. “Aslında bu üçüncü bir taraf.”

Cohen ayrıca doğruluk konusunda da endişeleniyor.

“Hatalar ortaya çıkarsa ve bir klinisyen notları titizlikle kontrol etmiyorsa, bu hata artık kayıtların bir parçasıdır” diyor. “Eğer bu notlar mahkemeye çağrılırsa, bu birisinin geçmişinin bir parçası haline gelir.”

Bazı terapistler için bir nimet

Bazı klinisyenler teknolojiyi memnuniyetle karşılıyor.

Kendini internette “Gezgin Terapist” olarak tanıtan Kym Tolson, 30 yıldır çalışıyor ve şu anda tamamen uzaktan bir iş yürütüyor ve tam zamanlı seyahat ederken Virginia’daki müşterilerle görüşüyor. Ağır bir idari yük olarak tanımladığı durumu yönetmek için bir yapay zeka kayıt ve dokümantasyon sistemi kullanıyor.

Tolson, “Çoğu klinisyen haftada yaklaşık 10 saatini idari görevlere harcıyor ve bunun beş ila yedisi dokümantasyon için çalışıyor” diyor. “Yapay zeka sistemiyle, eskiden 15 ila 20 arası zaman harcadığım müşteri başına yaklaşık iki dakika harcıyorum.”

20 ila 30 danışanı taşıyan terapistler için bu farkın önemli olduğunu söylüyor.

Tolson, “Bu bana hayatımı geri verdi” diyor. “Beni takip eden, beni rahatsız eden notlarım yok. Müvekkilimi gördükten sonra notu inceleyip imzalıyorum ve işim bitiyor.”

Tolson, esnekliğin kendisine daha sağlıklı bir iş-yaşam dengesi sağlamasına ve evrak işleri yerine müşterilere odaklanarak daha fazla zaman ayırmasına olanak tanıdığını söylüyor. Pek çok müşterinin mobil yaşam tarzına olumlu yanıt verdiğini ve seanslar sırasında sıklıkla nereden çalıştığını sorduğunu söylüyor.

Sağlık hizmetlerinin diğer bölümlerinde yapılan araştırmalar, zaman tasarrufunun önemli olabileceğini öne sürüyor. The Permanente Medical Group’taki yapay zeka yazarlarının kapsamlı bir analizinde, klinisyenler bir yılda yaklaşık 16.000 saate eşdeğer (yaklaşık 1.800 iş günü) dokümantasyon süresinden tasarruf ettiler ve memnuniyet ve hasta etkileşimlerinin arttığını bildirdiler. Çalışma, terapistlerden ziyade tıbbi klinisyenlere odaklandı ancak bu araçların çözmeyi amaçladığı idari yükün altını çiziyor.

Tolson, kayıt sürecini müşterilerle önceden ayrıntılı olarak görüştüğünü ve katılımın isteğe bağlı olduğunu açıkça belirttiğini söylüyor. Ayrıca yapay zeka tarafından oluşturulan her notu tıbbi kaydın bir parçası haline gelmeden önce inceliyor.

“Halüsinasyon göreceği zamanlar var” diyor. “Klinisyenin çok dikkatli olması gerekiyor. İki, üç kez kontrol etmeniz gerekiyor.”

Hiçbir dijital sistemin tamamen risksiz olmadığını kabul eden Tolson, aracı kullanırken elektronik sağlık kayıtlarını kullanırken olduğu kadar rahat hissettiğini söylüyor.

Farklı bir klinisyenle yeniden başlamak

Molly Quinn için, yapay zekanın not almasıyla ilgili konuşmanın kökeni her zaman Kasım ayındaki oturuma, rızası olmadan kaydedildiğini fark ettiği oturuma kadar uzanacak.

Daha sonra bir sonraki randevusunu iptal etti.

Terapisti, aleti kullanmayı bırakabileceklerini söyledi. Ancak o zamana kadar Quinn, ilişkide bir şeylerin kırıldığını hissettiğini söylüyor.

“Güven gitti” diyor.

Takip eden haftalarda yeni birini aramaya başladı. Ocak ayına gelindiğinde başka bir terapist bulmuştu ve en başından beri seanslarında yapay zekanın kullanılmasını istemediğini açıkça belirtmişti.

Bu deneyim onu ​​terapiden uzaklaştırmadı ama sınırları konusunda kararlı olmaya devam ediyor.

Quinn, “Bu özel bir konuşmadır” diyor. “Teknoloji şirketleri odada olmamalı.”