À medida que a terapêutica digital se torna mais popular, é importante considerar como elas podem ser integradas aos cuidados de saúde mental de maneira ética. O caminho a seguir requer atenção contínua tanto à supervisão e modelos de atendimento adequados, quanto às questões de proteção de dados e justiça.
Problemas de segurança e supervisão
As principais preocupações éticas para a tecnologia digital de saúde mental têm sido segurança, responsabilidade, privacidade, proteção de dados, transparência, consentimento e preconceito e justiça (
Mesa
)
1-3
Muitos aplicativos de saúde mental do consumidor não são regulamentados, e tem havido
preocupações relacionadas com a falta de base de evidências
para aplicativos de saúde mental do consumidor.
4
A terapêutica digital é regulamentada como dispositivos médicos e, portanto, a Food and Drug Administration (FDA) dos Estados Unidos fornece supervisão de segurança e eficácia. No entanto, formular e implementar medidas de controle de qualidade para algoritmos usados em terapêutica digital permanece um desafio, assim como avaliar os elementos externos necessários (ou seja, sistemas operacionais ou conectividade) para fornecer terapêutica digital. Muitas terapias digitais devem evoluir continuamente, o que pode significar que precisam ser reavaliadas após uma certificação inicial.
O
Pré-certificação de software digital da FDA
O programa certifica empresas que possuem “uma cultura robusta de qualidade e excelência organizacional” e, em seguida, oferece a elas um processo simplificado de aprovação de produtos.
5
Este programa pretende enfrentar os desafios de regulamentar as ferramentas digitais, mas tem sido criticado por fornecer padrões menos rigorosos do que aqueles usados para produtos farmacêuticos (por exemplo, falta de clareza quanto aos critérios de avaliação e uma definição completa de excelência). Os críticos também pediram
melhor responsabilidade para manter os padrões
.
6
A regulamentação de dispositivos médicos nos Estados Unidos e na Europa tem como foco o produto: a própria ferramenta digital. No entanto, é importante reconhecer que uma ferramenta digital será usada no contexto de um sistema de prestação de saúde, para propósitos e objetivos especificados nesse sistema, talvez como parte de um plano de alocação de recursos disponíveis ou para o tratamento de uma determinada população de pacientes. Portanto, a fim de avaliar adequadamente a segurança e eficácia de uma ferramenta digital,
uma visão do sistema sobre como essa ferramenta será usada
também é necessário.
7
As ferramentas digitais que dependem do aprendizado de máquina apresentam desafios adicionais para a regulamentação. Com
algoritmos de aprendizado de máquina
, pode ser difícil determinar por que entradas de dados específicos levaram a uma determinada saída ou descobertas.
8
Consequentemente, pode ser difícil avaliar e resolver problemas sistemáticos nas saídas, como
vieses que afetam desproporcionalmente diferentes populações
.
9,10
Há
esforços para desenvolver algoritmos
que são mais explicáveis, mas as melhores práticas para identificar e lidar com possíveis vieses ainda estão em evolução.
11
Tem havido pedidos de mais transparência em algoritmos de saúde, como desenvolvedores que permitem a revisão de algoritmos de terceiros. Também é importante que os médicos considerem cuidadosamente como transmitir aos pacientes os riscos e limitações das ferramentas terapêuticas digitais para fins de consentimento informado. Os próprios médicos podem precisar de treinamento para compreender as limitações potenciais dessas ferramentas digitais. Envolver as partes interessadas relevantes, de médicos a pacientes e membros da comunidade, em planos para adoção e implementação de terapêutica digital em um sistema de saúde, também pode ser útil para abordar questões de justiça.
Privacidade e proteção de dados
Os dados de saúde mental são amplamente
visto como mais sensível e potencialmente estigmatizante
do que outros dados de saúde.
12
No ano passado, uma falha de segurança de dados em
um aplicativo de psicoterapia popular na Finlândia foi explorado por hackers
, que então chantageou milhares de usuários por causa de seus dados pessoais.
13
Este incidente destacou o valor das informações comportamentais e a importância de fortes medidas de segurança de dados. A fim de facilitar a telessaúde durante a pandemia, o Escritório de Direitos Civis do Departamento de Saúde e Serviços Humanos alterou o
Regra de privacidade da Lei de Responsabilidade e Portabilidade de Seguro Saúde (HIPAA)
para eliminar penalidades por violações feitas na provisão de boa-fé de telessaúde.
14
Embora esta disposição e leniência devam acabar com a pandemia, haverá uma tensão contínua entre a acessibilidade proporcionada pela tecnologia digital, a exposição potencial dos dados do paciente por meio dessas ferramentas e o equilíbrio apropriado entre as questões de responsabilidade e responsabilidade.
Os dados coletados por meio de terapêutica digital geralmente estariam sujeitos à HIPAA, que
estabelece proteções para informações de saúde usadas por entidades cobertas
(ou seja, prestadores de cuidados de saúde, planos de saúde e câmaras de compensação de cuidados de saúde).
15
O
Tecnologia da Informação em Saúde para Economia
e a Lei de Saúde Clínica exige ainda que os associados comerciais de uma entidade coberta pela HIPAA cumpram a Regra de Segurança da HIPAA.
16,17
Houve alguns incidentes em que parceiros de negócios não
proteger adequadamente os dados pessoais
.
18
A terapêutica digital prescrita por entidades cobertas deve ter acordos de parceria comercial em vigor com a empresa terapêutica digital e seus associados, que incluem disposições para conformidade.
A corretagem de dados é uma indústria de US $ 200 bilhões; assim, o cenário atual de corretagem e compartilhamento de dados apresenta
preocupações adicionais para a proteção dos dados do paciente
.
19
Análise de computador
tornam possível tirar inferências de saúde comportamental de informações aparentemente não relacionadas (ou seja, dados de localização), e essas inferências podem levar a ramificações negativas para os pacientes (ou seja, taxas de seguro mais altas ou discriminação no emprego).
20-23
Embora apenas
dados desidentificados
(dados dos quais 18 identificadores específicos, incluindo nome e idade foram removidos) podem ser compartilhados sem restrição sob HIPAA,
24
avanços na computação e a disponibilidade de grandes bancos de dados públicos tornam
reidentificação de dados pessoais
mais fácil e mais possível.
25,26
Assim, os dados não identificados do paciente que são compartilhados com terceiros podem ser posteriormente reidentificados e usados de forma que o paciente
pode não ter previsto ou esperado
.
27
Um número crescente de jurisdições tem considerado a implementação de regulamentos de dados pessoais e biométricos, como o
Regulamento geral de proteção de dados na União Europeia ou a Lei de Privacidade do Consumidor da Califórnia
.
28
Nesse contexto, os pacientes dos médicos precisam avaliar os riscos e benefícios em relação aos dados coletados por meio da terapia digital; essas informações devem ser transmitidas por meio de um processo de consentimento informado.
Além disso, algumas terapias digitais monitoram continuamente os pacientes, coletando uma grande quantidade de dados pessoais. Novos estudos devem avaliar o impacto da vigilância abrangente nos pacientes e na aliança terapêutica.
Preconceito e justiça na terapia digital
O
Pandemia do covid-19
, assim como os recentes movimentos de justiça social, têm colocado um destaque na
preconceito e iniquidades no sistema de saúde
.
29,30
Devido a
injustiças históricas vividas por indivíduos negros e latinos na área da saúde
, esses grupos são mais propensos a expressar preocupações em relação à privacidade e à qualidade da saúde mental digital.
31
A mudança para a telessaúde demonstrou que nem todas as comunidades ou populações têm os recursos ou a infraestrutura para tirar proveito das ferramentas digitais. Os centros comunitários de saúde mental, que atendem desproporcionalmente pacientes negros e latinos, têm menos probabilidade de ter o equipamento necessário.
30
Se a terapêutica digital deve cumprir a promessa de maior acesso,
melhorias são necessárias
em infraestrutura, treinamento e disponibilidade de supervisão do médico para melhor atender aos grupos demográficos de baixa renda.
32
Recursos associados, como conexão com a Internet ou hardware, também podem ser necessários.
Aprendizado de máquina
e as tecnologias digitais de saúde também levantam questões de preconceito racial e justiça.
33,34
Existem diferentes tipos de vieses, como um ajuste inadequado entre os dados coletados e o objetivo da pesquisa, conjuntos de dados que não têm amostras representativas da população-alvo e ferramentas digitais que produzem efeitos díspares com base em como são implementadas.
35,36
Se a população de pesquisa para a criação das ferramentas não for suficientemente representativa dos diversos contextos nos quais a terapêutica digital será utilizada, isso pode levar a piores resultados para determinados grupos ou comunidades. Há uma série de abordagens para abordar o preconceito em ferramentas de saúde digital, como correções tecnológicas em conjuntos de dados e algoritmos, ou delineando princípios para justiça em ferramentas algorítmicas.
Essas são medidas importantes, mas deve haver um esforço mais amplo para detectar como as iniquidades sociais podem moldar o desenvolvimento e a eficácia das ferramentas digitais de saúde mental.
37
Embora a terapêutica digital seja regulamentada, é importante observar que o FDA não exige dados sobre a diversidade de dados de treinamento para aprendizado de máquina. Em um estudo de dispositivos de saúde de aprendizagem de máquina aprovados pela FDA, os pesquisadores descobriram que a maioria das 130 ferramentas aprovadas não relataram se tivessem sido
avaliado em mais de 1 site
, e apenas 17 forneceram avaliações demográficas de subgrupos em suas apresentações.
38
Como os dados coletados de algumas terapêuticas digitais também podem ser usados para fins de pesquisa em saúde, as ferramentas digitais de eficácia limitada ou acessíveis a populações selecionadas podem exacerbar as desigualdades existentes no atendimento à saúde.
Desenvolvedores, pesquisadores e médicos precisam considerar o
usabilidade e acessibilidade da terapêutica digital
para populações culturalmente diversas e grupos marginalizados.
39
A terapêutica digital deve ser avaliada em quão bem seus projetos e estratégias de implementação levam em consideração as necessidades de diversas populações (por exemplo, indivíduos de várias faixas etárias, raças, gênero, origens linguísticas e status de deficiência). Envolver diversas partes interessadas é vital para fornecer cuidados de saúde mental equitativos e evitar uma divisão digital mais profunda no acesso. Pesquisas futuras devem informar as melhores práticas, particularmente em termos de como a terapêutica digital interage com a prestação de serviços de saúde mental em ambientes do mundo real.
Pensamentos Finais
A telessaúde e a terapêutica digital são uma grande promessa na melhoria do atendimento para pessoas com doenças mentais. É, no entanto, importante que procuremos integrar ferramentas digitais aos cuidados de saúde mental de forma a a
poiar, em vez de interromper, a relação terapêutica e fornecer cuidados equitativos.40-42
Nos níveis de sistemas e políticas, financiamento e recursos são necessários para atender às diferentes necessidades de saúde mental, bem como para ampliar o acesso a cuidados de alta qualidade para grupos marginalizados. Esses esforços exigirão atenção a uma série de questões, incluindo reembolso, infraestrutura e desenvolvimento de modelos de atendimento apropriados (por exemplo, modelos de atendimento escalonado).
43
Terapêutica digital
levantar questões sobre linhas apropriadas de supervisão ou responsabilidade
; eles têm um impacto potencial na natureza das relações fiduciárias envolvidas.
44
Estruturas de como a terapia digital pode abordar cuidados preventivos, pacientes em crise ou populações especiais (por exemplo, aqueles com doença mental grave) também precisam ser desenvolvidas e implementadas. Se pudermos atender a esses desafios éticos, a terapêutica digital fornecerá não apenas cuidados de saúde mental inovadores, mas também equitativos.
Dr. Martinez-Martin
é professor assistente no Stanford Center for Biomedical Ethics e no Departamento de Pediatria. Ela tem uma nomeação secundária no Departamento de Psiquiatria da Escola de Medicina da Universidade de Stanford.
Referências
1. Martinez-Martin N, Dasgupta I, Carter A, et al.
Ética da saúde mental digital durante o COVID-19: crises e oportunidades.
JMIR Ment Health
. 2020; 7 (12): e23776.
2. Bauer M., Glenn T., Monteith S, et al.
Perspectivas éticas sobre a recomendação de tecnologia digital para pacientes com doença mental.
Doença bipolar Int J
. 2017; 5 (1): 6.
3. Torous J, Roberts LW.
O uso ético da tecnologia móvel de saúde em psiquiatria clínica.
J Nerv Ment Dis
. 2017; 205 (1): 4-8.
4. Weisel KK, Fuhrmann LM, Berking M, et al.
Aplicativos autônomos de smartphones para saúde mental - uma revisão sistemática e meta-análise.
NPJ Digit Med
. 2019; 2: 118.
5. US Food and Drug Administration. Programa de pré-certificação (pré-certificação) de software de saúde digital. 11 de setembro de 2020. Acessado em 21 de abril de 2021.
https://www.fda.gov/medical-devices/digital-health-center-excellence/digital-health-software-precertification-pre-cert-program
6. Warren E, Murray P, Smith T. Carta ao FDA sobre a regulamentação do software como dispositivo médico; 2018. 10 de outubro de 2018. Acessado em 6 de julho de 2021.
https://www.warren.senate.gov/oversight/letters/warren-murray-smith-press-fda-on-oversight-of-digital-health-devices
7. Gerke S, Babic B, Evgeniou T, Cohen IG.
A necessidade de uma visão do sistema para regular a inteligência artificial / software baseado em aprendizado de máquina como dispositivo médico.
NPJ Digit Med
. 2020; 3: 53.
8. Magrabi F, Ammenwerth E, McNair JB, et al.
Inteligência artificial no suporte à decisão clínica: desafios para avaliar IA e implicações práticas.
Yearb Med Inform
. 2019; 28 (1): 128-134.
9. Challen R, Denny J, Pitt M, et al.
Inteligência artificial, preconceito e segurança clínica.
BMJ Qual Saf
. 2019; 28 (3): 231-237.
10. Obermeyer Z, Powers B, Vogeli C, Mullainathan S.
Dissecando o preconceito racial em um algoritmo usado para gerenciar a saúde das populações.
Ciência
. 2019; 366 (6464): 447-453.
11. Amann J, Blasimme A, Vayena E, et al.
Explicabilidade da inteligência artificial em saúde: uma perspectiva multidisciplinar.
BMC Med Inform Decis Mak
. 2020; 20 (1): 310.
12. Aitken M, de St Jorre J, Pagliari C, et al.
Respostas públicas ao compartilhamento e vinculação de dados de saúde para fins de pesquisa: uma revisão sistemática e síntese temática de estudos qualitativos.
BMC Med Ethics
. 2016; 17 (1): 73.
13. Ralston W. Eles contaram tudo a seus terapeutas. Hackers vazaram tudo.
Com fio
. 4 de maio de 2021. Acessado em 13 de junho de 2021.
https://www.wired.com/story/vastaamo-psychotherapy-patients-hack-data-breach
14. Departamento de Saúde e Serviços Humanos dos EUA. Notificação de discrição de aplicação para comunicações remotas de telessaúde durante a emergência nacional de saúde pública COVID-19. 17 de março de 2020. Acessado em 24 de abril de 2020.
https://www.hhs.gov/hipaa/for-professionals/special-topics/emergency-preparedness/notification-enforcement-discretion-telehealth/index.html
15. Congress.gov. Lei de Portabilidade e Responsabilidade de Seguros de Saúde de 1996. Lei Pública 104-191. 21 de agosto de 1996. Acessado em 15 de julho de 2021.
https://www.congress.gov/104/plaws/publ191/PLAW-104publ191.pdf
16. Departamento de Saúde e Serviços Humanos dos EUA. Regra final provisória de execução da lei HITECH. Avaliado em 16 de junho de 2017. Acessado em 15 de julho de 2021.
https://www.hhs.gov/hipaa/for-professionals/special-topics/hitech-act-enforcement-interim-final-rule/index.html
17. Perakslis ED.
Cibersegurança nos cuidados de saúde.
N Engl J Med
. 2014; 371 (5): 395-397.
18. Rothstein MA. Debate sobre o controle da privacidade do paciente em prontuários eletrônicos de saúde. Hastings Center, Bioethics Forum, 2011. Atualizado em 5 de fevereiro de 2014. Acessado em 6 de julho de 2021.
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1764002
19. Crain M.
Os limites da transparência: corretores de dados e mercantilização
.
Nova mídia e sociedade
. 2018; 20 (1): 88-104.
20. Allen M. As seguradoras de saúde estão aspirando detalhes sobre você - e isso pode aumentar suas taxas.
ProPublica
. 17 de julho de 2018. Acessado em 6 de julho de 2021.
https://www.propublica.org/article/health-insurers-are-vacuuming-up-details-about-you-and-it-could-raise-your-rates
21. Wachter S.
Proteção de dados na era do big data.
Nature Electronics
. 2019; 2 (1): 6-7.
22. Skiljic A. O status quo das inferências de dados de saúde. Associação Internacional de Profissionais de Privacidade: Perspectivas de Privacidade. 19 de março de 2021. Acessado em 6 de julho de 2021.
https://iapp.org/news/a/the-status-quo-of-health-data-inferences/
23. Kröger JL, Raschke P, Bhuiyan TR.
Implicações de privacidade dos dados do acelerômetro: uma revisão das possíveis inferências.
Dentro:
Anais da 3ª Conferência Internacional sobre Criptografia, Segurança e Privacidade
. ICCSP '19. Association for Computing Machinery; 2019: 81-87.
24. Desidentificação de informações de saúde protegidas: como tornar as PHI anônimas.
Jornal HIPAA
. 18 de outubro de 2017. Acessado em 6 de julho de 2021.
https://www.hipaajournal.com/de-identification-protected-health-information/
25. Benitez K, Malin B.
Avaliação dos riscos de reidentificação em relação à regra de privacidade da HIPAA.
J Am Med Inform Assoc.
2010; 17 (2): 169-77.
26. Yoo JS, Thaler A, Sweeney L, Zang J. Riscos para a privacidade do paciente: uma re-identificação de pacientes em dados de hospitais estaduais de Maine e Vermont.
Ciência da Tecnologia
. 9 de outubro de 2018. Acessado em 6 de julho de 2021.
https://techscience.org/a/2018100901/
27. Culnane C, Rubinstein BIP, Teague V. Health data in an open world. Cornell University. Ciência da Computação. 15 de dezembro de 2017. Acessado em 6 de julho de 2021.
http://arxiv.org/abs/1712.05627
28. California Consumer Privacy Act de 2018 [1798.100-1798.199.100]. Informações legislativas da Califórnia. Atualizado em 3 de novembro de 2020. Acessado em 15 de julho de 2021.
https://leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?division=3.&part=4.&lawCode=CIV&title=1.81.5
29. Webb Hooper M, Nápoles AM, Pérez-Stable EJ.
COVID-19 e disparidades raciais / étnicas.
JAMA
. 2020; 323 (24): 2466-2467.
30. van Deursen AJ.
Desigualdade digital durante uma pandemia: estudo quantitativo das diferenças no uso e resultados da Internet relacionados ao COVID-19 entre a população em geral.
J Med Internet Res
. 2020; 22 (8): e20073.
31. George S, Hamilton A, Baker RS.
Como os afro-americanos e latinos urbanos de baixa renda se sentem em relação à telemedicina? Uma difusão de análise de inovação.
Int J Telemed Appl
. 2012; 2012: 715194.
32. Conrad R, Rayala H, Diamond R, et al. Expandindo a saúde telemental em resposta à pandemia COVID-19.
Psychiatric Times
. 7 de abril de 2020. Acessado em 6 de julho de 2021.
https://www.psychiatrictimes.com/view/expanding-telemental-health-response-covid-19-pandemic
33. Rajkomar A, Hardt M, Howell MD, et al.
Garantir justiça no aprendizado de máquina para promover a equidade na saúde.
Ann Intern Med
. 2018; 169 (12): 866-872.
34. Gerke S, Minssen T, Cohen G.
Desafios éticos e legais dos cuidados de saúde orientados por inteligência artificial.
In: Bohr A, Memarzadeh K, eds.
Inteligência Artificial em Saúde
. Elsevier; 2020: 295-336.
35. Char DS, Shah NH, Magnus D.
Implementar o aprendizado de máquina na área de saúde - abordando os desafios éticos.
N Engl J Med
. 2018; 378 (11): 981-983.
36. Binns R. Justiça no aprendizado de máquina: lições de filosofia política. Cornell University. Ciência da Computação. Atualizado em 23 de março de 2021. Acessado em 6 de julho de 2021.
http://arxiv.org/abs/1712.03586
.
37. Mittelstadt B.
Princípios por si só não podem garantir IA ética.
Nat Mach Intell
. 2019; 1 (11): 501-507.
38. Wu E, Wu K, Daneshjou R, et al.
Como os dispositivos médicos de IA são avaliados: limitações e recomendações de uma análise de aprovações do FDA.
Nat Med
. 2021; 27 (4): 582-584.
39. Martschenko D, Martinez-Martin N.
E a ética na bioética do design?
Am J Bioeth
. 2021; 21 (6): 61-63.
40. Martinez-Martin N, Dunn LB, Roberts LW.
É ético usar estimativas de prognóstico de aprendizado de máquina para tratar psicose?
AMA J Ethics
. 2018; 20 (9): E804-811.
41. Potier R.
O projeto de fenotipagem digital: uma perspectiva psicanalítica e da teoria de redes.
Psicologia Frontal
. 2020; 11: 1218.
42. Dagum P, Montag C.
Considerações éticas da fenotipagem digital na perspectiva de um profissional de saúde.
In: Baumeister H, Montag C, eds.
Fenotipagem Digital e Sensoriamento Móvel: Novos Desenvolvimentos em Psicoinformática.
Springer International Publishing; 2019: 13-28.
43. Taylor CB, Fitzsimmons-Craft EE, Graham AK.
A tecnologia digital pode revolucionar a prestação de serviços de saúde mental: a crise do COVID-19 como um catalisador para a mudança.
Int J Eat Disord
. 2020; 53 (7): 1155-1157.
44. Cohen IG, Amarasingham R, Shah A, et al.
As questões legais e éticas que surgem do uso de análises preditivas complexas em cuidados de saúde.
Health Aff (Millwood)
. 2014; 33 (7): 1139-1147.
