O editor do Downcodes soube que um estudo recente soou o alarme sobre a aplicação de IA na área médica. Os pesquisadores testaram o Bing Copilot da Microsoft e encontraram sérios problemas em sua capacidade de responder a perguntas médicas. O teste avaliou as respostas do Copilot às 10 perguntas médicas mais comuns e aos 50 medicamentos populares nos EUA, e os resultados foram preocupantes.
Um estudo recente soa como um alarme, lembrando-nos que não devemos ser complacentes quando se trata de conselhos médicos dados pela IA. Pesquisadores na Alemanha e na Bélgica conduziram um teste abrangente do Bing C0pilot da Microsoft, um mecanismo que afirma ser capaz de responder às 10 perguntas médicas mais comuns e às 50 perguntas mais populares relacionadas a medicamentos nos Estados Unidos. No entanto, 24% das 500 respostas geradas eram completamente inconsistentes com o conhecimento médico existente e 3% das respostas eram ainda mais ultrajantes.
Nota sobre a fonte da imagem: A imagem é gerada por IA e é autorizada pelo provedor de serviços Midjourney
O problema não é apenas sobre erros: surpreendentes 42% das respostas provavelmente causariam danos moderados ou leves ao paciente, e 22% provavelmente resultariam em morte ou ferimentos graves. Olhando para esses dados, IA! A sugestão parece ser um prato de “alto risco”. Quem se atreve a experimentá-lo com facilidade?
O pior é que a pontuação média de integridade dessas respostas de IA é de apenas 77%. As piores respostas são apenas 23% completas. Em termos de precisão, 26% das respostas são inconsistentes com os dados de referência e mais de 3% das respostas. as respostas são diretamente contrárias aos fatos. Apenas 54% das respostas foram consistentes com o consenso científico e 39% das respostas foram contrárias à opinião científica.
Os resultados deste estudo foram publicados na revista "BMJ Quality & Safety". Os pesquisadores enfatizaram repetidamente que, apesar do surgimento da tecnologia de IA, na área médica, ainda devemos contar com pessoal médico profissional para obter medicamentos precisos e seguros. Informação. Afinal, ninguém quer ser a pessoa “enganada pela IA”, certo?
Os resultados da investigação mostram claramente que a tecnologia da IA ainda precisa de ser melhorada quando se trata de consultas médicas, e não se deve confiar na IA para autodiagnóstico ou tratamento. Ao obter orientação médica, procure sempre a ajuda de um médico profissional para garantir sua saúde e segurança. O editor do Downcodes lembra: saúde não é pouca coisa!