A IA Generativa é uma tecnologia poderosa que pode transformar a forma como pensamos sobre a nossa saúde e bem-estar e como acessamos e usamos o sistema de saúde. Em breve, poderemos ver aplicações e dispositivos generativos de IA que capacitam os pacientes a monitorizar, gerir e melhorar as suas condições de saúde sem depender de intervenções médicas tradicionais. No entanto, muitos obstáculos e riscos estão envolvidos na introdução da IA Generativa nos cuidados de saúde, tais como as implicações éticas, legais e sociais da criação e utilização de dados, modelos e resultados sintéticos para situações da vida real.
Além disso, o setor da saúde é muitas vezes resistente à adoção de novas tecnologias devido ao ambiente avesso ao risco e à necessidade de defender o princípio de «não causar danos». Portanto, é essencial utilizar a IA Generativa de forma responsável e ética nos cuidados de saúde e procurar contributos e feedback humanos quando necessário.
Desafios para adoção
Uma das aplicações mais promissoras da Inteligência Artificial na área da saúde é o uso de Processamento de Linguagem Natural e Modelos LLM para gerar documentação clínica a partir de fala ou entrada de texto durante visitas clínicas.
No entanto, esta tecnologia enfrenta muitas barreiras à sua adoção e implementação que vão além dos desafios habituais da adoção de tecnologia nos cuidados de saúde. Os desafios mais comumente observados incluem:
- Alinhamento do modelo LLM: O Modelo de Linguagem Natural deve estar alinhado com o domínio, terminologia e contexto específicos do ambiente clínico.
- Custo de treinamento e manutenção de modelos: O alto custo de aquisição, anotação e atualização de grandes conjuntos de dados para treinamento e manutenção de modelos, bem como os recursos computacionais necessários para a execução dos modelos.
- Obtenção de dados de qualidade para treinamento de modelos: A dificuldade de obter dados de alta qualidade, consistentes e representativos para treinamento de modelos, especialmente de fontes diversas e heterogêneas, como registros eletrônicos de saúde, resultados relatados por pacientes e notas clínicas.
- Verificação humana final de todos os dados gerados: A necessidade de ter uma revisão especializada humana e verificar a precisão e integridade dos dados gerados pelo grande modelo de linguagem, bem como as potenciais implicações legais e éticas do uso de documentação automatizada.
- Viés e transparência do modelo: O risco de introdução de preconceitos e erros nos dados gerados pelo Modelo de Linguagem Natural, bem como a falta de transparência e explicabilidade de como o modelo funciona e por que produz resultados específicos.
- Excesso de confiança: A tendência de aceitar as respostas do modelo AI mesmo quando a resposta está incorreta. Isto pode levar a erros no diagnóstico médico mesmo com explicações adequadas fornecidas pelo modelo.
- Regulamentação e supervisão governamental: A incerteza e a complexidade do caminho e do processo de aprovação regulatória para o uso do Processamento de Linguagem Natural na área da saúde, bem como a conformidade com vários padrões e diretrizes, como HIPAA, GDPR e FDA.
Frutas ao alcance da mão para GAI: EHR e documentação clínica
Uma das primeiras e mais proeminentes categorias de implementações de GAI está nos EHR - Electronic Health Records (Prontuário Eletrônico de Saúde).
O EHR tem sido implicado no esgotamento médico e nas ineficiências clínicas, levando a danos morais ou desmoralização. Vamos examinar alguns benefícios e armadilhas potenciais da implementação do GAI na documentação do paciente em uma visita virtual ou presencial:
Benefícios potenciais
O GAI poderia ajudar os médicos a escrever anotações mais rápidas e precisas sobre seus pacientes. Poderia usar Reconhecimento de Voz, Processamento de Linguagem Natural e Aprendizado de Máquina para entender o que o médico diz e escreve. Também pode verificar erros, inconsistências e informações ausentes.
O GAI também poderia tornar o EHR mais personalizado e interativo. Poderia usar análise de dados, reconhecimento de padrões e apoio à decisão para sugerir os melhores tratamentos, testes e encaminhamentos dos pacientes. Também poderia responder a perguntas, fornecer feedback e explicar o raciocínio por trás de suas sugestões.
Potenciais armadilhas
A implementação do GAI na documentação clínica também pode ter desvantagens. Poderia tornar o EHR complexo e confuso, usando jargões, siglas e termos técnicos que precisam de esclarecimento. Também poderia cometer erros e introduzir preconceitos e suposições.
O GAI também pode afetar a relação médico-paciente. Poderia tornar o EHR mais intrusivo e perturbador, criando até mesmo um conflito de opinião, deixando pacientes e médicos ansiosos. Com o acesso dos pacientes ao seu portal de saúde e às notas geradas por IA, os médicos estarão mais vigilantes na verificação da precisão do conteúdo, o que pode criar mais edições e eliminar os benefícios percebidos em eficiência.
O GAI pode interromper a conversa, fazer perguntas irrelevantes ou inadequadas ou produzir conteúdo indesejado na documentação. Lembre-se de que as anotações do clínico não são uma transcrição literal do encontro, mas uma avaliação clínica ou Gestalt, onde o todo é maior que a soma das partes. Esse senso de julgamento clínico se desenvolve à medida que o médico e o paciente criam um relacionamento que pode ser difícil de transmitir a um LLM.
Finalmente, com uma terceira entidade na sala de exame, pode haver uma erosão da confiança, da empatia e do relacionamento entre o médico e o paciente, pois existe um ponto de vista potencialmente conflitante na sala de exame. Onde está a verdade e quem determinará os factos que apoiam essa verdade?
Homem versus máquina: o risco de atrito
A saúde é mais uma arte do que uma ciência. A experiência torna evidente que a medicina é uma arte impulsionada pela ciência.
Durante a linha do tempo da humanidade, os médicos/curadores escaparam impunes de numerosos erros e imprecisões, que nunca foram supervisionados ou examinados (a menos que algo desse errado). Do xamã da aldeia aos cirurgiões manuais, escapamos impunes de meias verdades durante séculos. Os médicos não são desonestos. Agora que estamos no início de uma nova era na área da saúde com o GAI e o LLM, essas opiniões serão desafiadas por uma entidade que é maior e mais “conhecível”. Conforme observado acima, haverá enormes obstáculos e desafios na área da saúde numa época em que as máquinas injetarão ciência de dados preditiva no fluxo de trabalho diário.
O GAI atingirá o ponto problemático?
Sejamos otimistas e, com a implementação adequada, as máquinas preditivas acabarão por ser melhores para a nossa saúde e para a humanidade. No entanto, será que o GAI atropelará a relação médico-paciente enquanto os médicos sobrecarregados lutam para atrair a atenção e a confiança dos seus pacientes no processo?
Ou irão integrar-se perfeitamente nas nossas vidas e permitir que a humanidade evolua com as máquinas?
A implementação de soluções GAI sem supervisão e proteções suficientes pode levar a uma maior desmoralização dos profissionais de saúde, que é exatamente o problema que estamos tentando resolver.
Somente com um planejamento cuidadoso e reflexão suficiente na implantação da IA seremos capazes de promover a arte da prática da medicina no novo mundo da Inteligência Artificial na saúde.
brazilsalesforceeffectiveness@gmail.com
Comente e compartilhe este artigo!
Nenhum comentário:
Postar um comentário
Compartilhe sua opinião e ponto de vista: