Terapeutas de saúde mental que usam IA para fazer anotações enfrentam questões sobre confiança: NPR

Durante dois anos, Molly Quinn confiou ao seu terapeuta coisas que ela não havia contado a mais ninguém.

Então, quando seu terapeuta mencionou tentar uma ferramenta de inteligência artificial para fazer anotações, Quinn não recusou imediatamente. A bibliotecária de 31 anos de Fayetteville, Arkansas, pediu para pesquisar primeiro.

Ela queria entender para onde iriam suas palavras – se permaneceriam locais ou seriam processadas em algum lugar na nuvem.

Repetindo a sessão em sua cabeça

A sessão prosseguiu naquele dia, mas no meio do caminho Quinn percebeu que algo estava diferente.

“Ela não estava tomando notas como sempre fazia”, diz Quinn. “O iPad acabou de ser apoiado.”

Foi quando Quinn percebeu que a sessão estava sendo gravada.

Quinn diz que ela congelou um pouco. Mas então ela continuou falando.

Só quando ela saiu do consultório do terapeuta é que o peso disso caiu.

“Quanto mais eu pensava sobre isso, mais eu começava a ficar cada vez mais enjoada”, diz ela. “Essa pessoa em quem eu deveria confiar algumas emoções muito particulares e intensas simplesmente desconsiderou completamente algo com o qual eu disse que não estava confortável.

Ela voltou para casa repassando a sessão em sua cabeça, sem saber o que fazer a seguir.

Novas ferramentas de novas empresas

Nos EUA, um número crescente de terapeutas está experimentando ferramentas de inteligência artificial que gravam sessões, geram transcrições e elaboram notas clínicas automaticamente. As empresas de software afirmam que essas ferramentas podem economizar horas de trabalho administrativo todas as semanas.

Uma empresa, a Berries, comercializa sua plataforma como uma forma de aliviar a papelada para que os terapeutas possam se concentrar mais plenamente em seus clientes e ter um melhor equilíbrio entre vida profissional e pessoal.

“O Berries foi projetado para reduzir a carga administrativa sem interferir na experiência terapêutica em si”, disse Tal Salman, co-CEO da empresa, à NPR. “Isso ajuda os médicos a estarem mais presentes com seus clientes.”

Quando ativado, o sistema grava a conversa, transcreve-a e gera um rascunho de nota clínica para revisão do terapeuta. Os terapeutas podem editar, revisar ou descartar o rascunho. Eles também podem salvá-lo em um prontuário médico.

Regras de privacidade

Salman diz que o áudio é processado em tempo real e excluído imediatamente, e que as transcrições são armazenadas em servidores nos Estados Unidos que estão em conformidade com a HIPAA, a lei federal que limita a divulgação de informações médicas. Ele acrescenta que a empresa não utiliza conteúdo terapêutico para treinar seus modelos de IA.

“O conteúdo da sessão de terapia permanece privado e não é reaproveitado para treinamento”, diz Salman. “O médico permanece totalmente responsável pelo atendimento ao paciente e pela documentação final.”

Outras empresas que oferecem serviços semelhantes a terapeutas de saúde mental são SimplePractice e Blueprint. As empresas geralmente cobram taxas de US$ 19 a US$ 99 por mês, apelando para profissionais autônomos que muitas vezes ficam sobrecarregados com tarefas administrativas.

A pesquisa sugere que os pacientes podem estar abertos a ferramentas de inteligência artificial na terapia, mas esse conforto é limitado. Um nacional pesquisa da YouGov encontrada que os americanos continuam hesitantes em usar a IA para cuidados de saúde mental. Apenas cerca de 11% dizem que estariam abertos a usá-lo e apenas 8% dizem que confiam nele. Quase metade dos entrevistados disse estar relutante em usar a tecnologia. Muitos apontam a falta de compreensão humana como uma grande preocupação, juntamente com receios sobre conselhos imprecisos e privacidade.

Essas preocupações vão além da própria terapia.

Uma pesquisa separada da organização de pesquisa em saúde A KFF descobriu que cerca de 77% dos americanos estão preocupados com a forma como as suas informações de saúde seriam armazenadas e utilizadas pelos sistemas de IA.

Os investigadores dizem que a lacuna entre a curiosidade e a confiança torna-se ainda mais pronunciada nos cuidados de saúde mental, onde as conversas são profundamente pessoais. E observam que mesmo quando os pacientes estão dispostos a experimentar a tecnologia, muitos ainda preferem a garantia de um terapeuta humano.

Kellie Owens, professora assistente de ética médica na NYU Grossman School of Medicine, diz que proteções de privacidade como a conformidade com a HIPAA não eliminam a possibilidade de violações.

“Independentemente das proteções que tenhamos em vigor, isso não significa que os dados não possam ser violados”, diz Owens. “Existem muitos sistemas totalmente compatíveis com HIPAA que ainda enfrentam grandes violações de dados.”

Ela diz que os riscos são especialmente sensíveis na terapia, onde os pacientes partilham informações profundamente pessoais.

Consentimento significativo?

Além dos riscos técnicos, diz Owens, os formulários de consentimento por escrito por si só podem não ser suficientes.

“Temos um amplo conjunto de pesquisas que mostram que um formulário de consentimento por si só não significa que uma pessoa esteja fazendo uma escolha informada”, diz ela. “As pessoas os folheiam, não os lêem ou se sentem pressionadas a concordar.”

Owens diz que as gravações devem sempre ser discutidas diretamente.

“Sempre que você estiver gravando uma conversa, isso deverá exigir uma conversa verbal de que uma gravação está ocorrendo”, diz ela.

Ela diz que a confiança e a segurança psicológica são fundamentais para um tratamento eficaz de saúde mental.

“Se os pacientes sentirem que a privacidade foi comprometida, isso pode causar danos reais à relação terapêutica”, diz Owens.

Para Molly Quinn, esses riscos não são abstratos.

Os sistemas de saúde e as grandes corporações enfrentaram repetidas violações de dados nos últimos anos, e Quinn teme que a adição de outra camada de tecnologia aumente a chance de que conversas profundamente pessoais possam algum dia ser expostas.

“Veremos violações”, diz ela. “Talvez não amanhã, talvez não na próxima semana. Mas daqui a alguns anos? Acho que vamos vê-los. E não quero que minha sessão de terapia faça parte disso.”

Um ouvinte de IA, uma experiência diferente

Para alguns terapeutas, a preocupação não é apenas com a segurança cibernética.

Marisa Cohen, terapeuta sexual e de casais em Nova York, diz que a introdução da IA ​​na terapia muda a experiência, mesmo que a tecnologia fique em segundo plano.

“Mesmo a presença da IA ​​muda a experiência terapêutica”, diz Cohen. “Os clientes sabem ou sentem que algo mais os está ouvindo. Essa consciência pode alterar sutilmente sua divulgação”.

A terapia, diz ela, depende da percepção de privacidade absoluta.

“Quando você introduz algo que está sendo armazenado eletronicamente, levanta questões adicionais sobre confiança e segurança”, diz Cohen. “É essencialmente um terceiro.”

Cohen também se preocupa com a precisão.

“Se forem introduzidos erros e um médico não verificar meticulosamente as anotações, esse erro agora faz parte do registro”, diz ela. “Se essas notas forem intimadas, isso se tornará parte da história de alguém.”

Uma benção para alguns terapeutas

Alguns médicos estão acolhendo bem a tecnologia.

Kym Tolson, que se autodenomina online como “The Traveling Therapist”, atua há 30 anos e agora dirige um negócio totalmente remoto, atendendo clientes na Virgínia enquanto viaja em tempo integral. Ela usa um sistema de gravação e documentação de IA para gerenciar o que descreve como uma pesada carga administrativa.

“A maioria dos médicos gasta cerca de 10 horas por semana em tarefas administrativas, e cinco a sete delas são documentação”, diz Tolson. “Com o sistema de IA, gasto cerca de dois minutos por cliente, onde antes demorava de 15 a 20.”

Para terapeutas que atendem de 20 a 30 clientes, diz ela, essa diferença é significativa.

“Isso me devolveu a vida”, diz Tolson. “Não tenho anotações me seguindo, me assombrando. Depois de ver meu cliente, reviso a nota, assino e pronto.”

Tolson diz que a flexibilidade lhe permitiu manter um equilíbrio mais saudável entre vida pessoal e profissional e passar mais tempo focada nos clientes do que na papelada. Ela diz que muitos clientes respondem positivamente ao seu estilo de vida móvel, muitas vezes perguntando onde ela está trabalhando durante as sessões.

Pesquisas em outras áreas da saúde sugerem que a economia de tempo pode ser substancial. Numa grande análise dos escribas de IA do The Permanente Medical Group, os médicos pouparam o equivalente a quase 16.000 horas de documentação num ano – cerca de 1.800 dias de trabalho – e relataram uma melhoria na satisfação e nas interações com os pacientes. O estudo centrou-se em médicos e não em terapeutas, mas destaca a carga administrativa que estas ferramentas pretendem resolver.

Tolson diz que discute previamente o processo de gravação com os clientes e deixa claro que a participação é opcional. Ela também analisa cada nota gerada pela IA antes que ela se torne parte do prontuário médico.

“Há momentos em que isso terá alucinações”, diz ela. “O médico tem que ter muito cuidado. Você tem que verificar duas ou três vezes.”

Embora reconheça que nenhum sistema digital é totalmente isento de riscos, Tolson diz que se sente tão confortável ao utilizar a ferramenta como ao utilizar registos de saúde eletrónicos.

Recomeçando com um médico diferente

Para Molly Quinn, a conversa sobre anotações de IA sempre remonta àquela sessão de novembro, aquela em que ela percebeu que estava sendo gravada sem seu consentimento.

Depois, ela cancelou sua próxima consulta.

Seu terapeuta disse que eles poderiam parar de usar a ferramenta. Mas a essa altura, diz Quinn, algo parecia quebrado no relacionamento.

“A confiança se foi”, diz ela.

Nas semanas que se seguiram, ela começou a procurar alguém novo. Em janeiro, ela encontrou outro terapeuta e, desde o início, deixou claro que não queria que a IA fosse usada em suas sessões.

A experiência não a afastou da terapia em si, mas ela permanece firme quanto aos seus limites.

“Isso é algo que é uma conversa privada”, diz Quinn. “As empresas de tecnologia não deveriam estar na sala.”