Um sistema de inteligência artificial começou a prescrever medicamentos para pacientes em Utah—sem necessidade de um médico. O estado lançou recentemente um programa piloto que permite que a IA prescreva medicamentos de repetição, marcando a primeira vez nos EUA que uma IA recebeu autoridade clínica sem supervisão humana.
O programa, que teve início no mês passado, permite que um sistema de IA verifique históricos de prescrições dos pacientes, os guie em perguntas clínicas e envie renovações aprovadas diretamente para as farmácias. Funcionários do estado afirmam que o programa é uma forma de reduzir custos, evitar interrupções na medicação e aliviar a carga sobre os médicos, especialmente em áreas rurais onde os clínicos já estão sobrecarregados. Entretanto, grupos médicos expressaram preocupação com os riscos associados à falta de supervisão humana em decisões clínicas, mesmo nas menores.
“Sempre que decisões clínicas são tomadas sem a supervisão adequada do médico, os pacientes ficam em risco. A medicina não se resume apenas a chegar a uma resposta; envolve julgamento, contexto e responsabilidade,” disse John Whyte, CEO da American Medical Association, ao Fortune.
IA com autoridade clínica
O departamento de comércio do estado renunciou a certas regras para um teste de um ano, que está sendo conduzido em parceria com a startup de tecnologia da saúde Doctronic. Margaret Busse, Diretora Executiva do Departamento de Comércio de Utah, afirmou ao Fortune que a dispensa foi parte de um programa de “mitigação regulatória” projetado para testar com segurança ferramentas inovadoras de IA.
“Esperamos que isso possa esclarecer onde a IA pode ser utilizada de forma responsável em interações de baixo risco na medicina, ajudando a reduzir custos e aumentar o acesso. Todos sabemos que estamos enfrentando uma crise… precisamos desesperadamente de soluções tecnológicas para ajudar a diminuir esses custos,” disse ela.
A Doctronic, fundada em 2023 pelos cofundadores Matt Pavelle e Dr. Adam Oskowitz, afirmou que o sistema poderia ser utilizado por dezenas de milhares de pacientes em Utah durante seu primeiro ano. Se for comprovadamente seguro, os cofundadores esperam expandir a operação para incluir novas prescrições em cenários de baixo risco, como as prescrições de antibióticos. Eles afirmam que o sistema pode agilizar o processo de prescrição e beneficiar pacientes, médicos e farmacêuticos.
“Todo o processo, desde o início de uma conversa com a IA até ter uma receita aguardando por você na farmácia, pode levar menos de 30 minutos, e, na verdade, quase sempre leva menos de 30 minutos. Portanto, é super eficiente,” afirmou Pavelle, um dos cofundadores e co-CEO da Doctronic.
Para garantir a segurança, a implementação em fases exige que as primeiras 250 renovações por categoria de medicamento sejam revisadas por um médico antes que a IA possa processá-las de forma independente. Após isso, 10% das interações subsequentes serão amostradas aleatoriamente para verificação de segurança, disse Adam Oskowitz, cofundador da IA da Doctronic. Pavelle acrescentou que a empresa também disponibiliza médicos caso o paciente ou o farmacêutico tenham dúvidas.
Preocupações com a supervisão
A Doctronic afirma que o sistema corresponde às decisões de clínicos humanos 99,2% das vezes e possui uma política única de seguro de responsabilidade profissional que cobre a IA, assegurando que esteja sujeita aos mesmos padrões legais que um médico. O piloto também é limitado a 190 medicamentos comumente prescritos, excluindo medicamentos para manejo da dor, TDAH e injetáveis por razões de segurança.
No entanto, Whyte argumentou que mesmo uma pequena taxa de erro pode resultar em danos reais em larga escala.
“Reivindicações de precisão não substituem o julgamento clínico… médicos são singularmente qualificados para entender o contexto de saúde individual de um paciente e validar as saídas da IA para garantir precisão e segurança do paciente,” afirmou ele. “Mesmo assim, cuidados considerados ‘rotineiros’ requerem julgamento humano, contexto e a capacidade de reconhecer quando algo não é rotineiro.”
Reguladores enfrentam dificuldades
A IA está prestes a revolucionar a saúde, mas o setor está avançando com muito mais cautela do que outros ao adotar a tecnologia. Parte disso se deve a obstáculos regulatórios: a regulamentação médica é gerenciada em nível estadual e geralmente é mais rigorosa do que em outras indústrias devido às consequências de erros em relação aos cuidados com pacientes.
Médicos esperam que a IA transforme tarefas rotineiras no setor de saúde, aumentando o acesso, reduzindo custos e automatizando atividades repetitivas. No entanto, a tecnologia tem avançado mais rápido do que as regulamentações estaduais conseguem acompanhar, e os legisladores têm lutado para equilibrar a inovação e a segurança do paciente.
“A IA pode ser uma ferramenta poderosa para apoiar os médicos, especialmente com tarefas administrativas ou suporte à decisão; e mal começamos a explorar o potencial da IA,” disse Whyte. “Mas os médicos devem continuar responsáveis pelas decisões clínicas.”
