Embora o aumento do diagnóstico médico assistido por IA traga conveniência, também levanta preocupações entre as agências reguladoras. Quando os médicos utilizam ferramentas de IA que não são estritamente regulamentadas para auxiliar no diagnóstico dos pacientes, os riscos potenciais não podem ser ignorados. Os mecanismos de funcionamento destes modelos de IA são muitas vezes difíceis de explicar, tornando a supervisão mais difícil e aumentando o risco de litígios por negligência médica. Como supervisionar eficazmente a aplicação da IA na área médica tornou-se um problema urgente que precisa ser resolvido.
Os médicos estão a utilizar ferramentas de IA não regulamentadas para auxiliar no diagnóstico dos pacientes, suscitando preocupações entre os reguladores. Os modelos de inteligência artificial são difíceis de explicar os seus princípios de funcionamento, dificultando a supervisão. Ferramentas de IA não testadas podem levar a riscos de ações judiciais por negligência médica. Escolas médicas e centros acadêmicos podem ser opções possíveis para regulamentar ferramentas médicas de IA.
É urgente resolver as questões regulamentares das ferramentas médicas de IA. Os departamentos governamentais, as instituições médicas e as empresas de tecnologia precisam de trabalhar em conjunto para estabelecer um quadro regulamentar e padrões completos para garantir que a aplicação da tecnologia de IA no domínio médico seja segura e fiável. e, em última análise, beneficia os pacientes.