A AMA adotou novas políticas de IA com o objetivo de garantir que a tecnologia apoie a medicina baseada em evidências, fortaleça o cuidado ao paciente e sirva sob a supervisão de um médico, em vez de substituir seu discernimento. De acordo com um comunicado de imprensa da AMA, as tecnologias de IA podem ajudar na eficiência e na síntese de informações, mas ainda existem preocupações importantes com viés, impacto a longo prazo nos médicos e nos resultados dos pacientes, explicabilidade e transparência.

Essas novas políticas, que abordam a crescente popularidade da IA tanto no âmbito clínico quanto na tomada de decisões em seguros de saúde, enfatizam que a IA deve ser usada apenas como uma ferramenta de assistência, em vez de "um tomador de decisões autônomo", de acordo com o comunicado. As políticas também exigem responsabilidade, transparência e supervisão dos médicos sempre que a IA for usada no cuidado ao paciente.

"A IA tem um enorme potencial na área da saúde, mas não pode substituir o julgamento do médico", disse John Whyte, MD, MPH, CEO da AMA, no comunicado. "Os pacientes merecem decisões de cuidados informadas pelas últimas evidências médicas e orientadas por um médico que compreende suas necessidades individuais. Se a IA está ajudando um médico a tomar uma decisão clínica ou auxiliando em uma revisão de seguro, deve sempre haver transparência, responsabilidade e supervisão médica significativa. A tecnologia deve apoiar um cuidado melhor - não se colocar entre os pacientes e o cuidado de que precisam."

A AMA afirmou que trabalhará com partes interessadas-chave - incluindo reguladores, sociedades de especialidades médicas e desenvolvedores de IA - para criar padrões de transparência de evidências, avaliação, atribuição, validação e explicabilidade em sistemas que apoiam a tomada de decisões clínicas. Isso visa garantir que as ferramentas de IA "reflitam os princípios da medicina baseada em evidências e forneçam aos médicos informações que possam entender, avaliar e confiar", de acordo com o comunicado.

Outra política da AMA pede regulamentações para garantir que as decisões de cobertura de saúde - que estão cada vez mais baseadas em IA - sejam revisadas por médicos em áreas apropriadas com uma base de informações médicas atualizadas e baseadas em evidências. A política também pediu salvaguardas que exigem que as tecnologias de IA sejam integradas a um processo liderado por médicos e aumentem a transparência quando a IA está envolvida em decisões de autorização prévia, incluindo a divulgação de quaisquer diretrizes, fontes de dados ou lógica clínica usadas em decisões adversas.

"Quando os planos de saúde usam ferramentas baseadas em IA para negar ou atrasar cuidados sem explicar como essas decisões foram tomadas, médicos e pacientes ficam no escuro", disse Whyte no comunicado. "A IA nunca deve funcionar como uma caixa-preta sem responsabilidade. Os planos de saúde devem ser transparentes sobre como essas ferramentas funcionam, em quais evidências e fontes de dados elas se baseiam e se um médico qualificado revisou a decisão."

A ideia de que a IA deve "apoiar, não substituir" o julgamento médico não é controversa. É óbvia. O verdadeiro problema é que, nos sistemas de saúde atuais, estamos gradualmente indo na direção oposta - silenciosa e incrementalmente e muitas vezes sem supervisão suficiente. As ferramentas de IA estão sendo incorporadas aos fluxos de trabalho, influenciando decisões e moldando o comportamento clínico mais rapidamente do que os modelos de governança podem acompanhar. O maior risco não é que a IA substitua os médicos da noite para o dia. É que ela erodirá sutilmente o julgamento clínico por meio de viés de automação, recomendações opacas e dependência excessiva de sistemas que os clínicos não entendem nem controlam.