El editor de Downcodes supo que un estudio reciente ha hecho sonar la alarma sobre la aplicación de la IA en el campo médico. Los investigadores probaron Bing Copilot de Microsoft y encontraron serios problemas con su capacidad para responder preguntas médicas. La prueba evaluó las respuestas de Copilot a las 10 preguntas médicas más comunes y a 50 medicamentos populares en los EE. UU., y los resultados fueron preocupantes.
Un estudio reciente suena como una alarma y nos recuerda que no debemos ser complacientes cuando se trata de consejos médicos brindados por la IA. Investigadores en Alemania y Bélgica han realizado una prueba exhaustiva de Bing C0pilot de Microsoft, un motor que afirma ser capaz de responder las 10 preguntas médicas más comunes y 50 preguntas populares relacionadas con las drogas en los Estados Unidos. Sin embargo, el 24% de las 500 respuestas generadas eran completamente inconsistentes con el conocimiento médico existente, y el 3% de las respuestas eran aún más escandalosas.
Nota sobre la fuente de la imagen: la imagen es generada por IA y la imagen está autorizada por el proveedor de servicios Midjourney
El problema no se trata solo de errores: un sorprendente 42% de las respuestas probablemente causarían daños moderados o leves al paciente, y un 22% incluso probablemente provocaría la muerte o lesiones graves. Al observar estos datos, ¡AI! La propuesta parece un plato de “alto riesgo” ¿Quién se atreve a probarlo fácilmente?
Lo que es peor es que el puntaje de integridad promedio de estas respuestas de IA es solo del 77%. Las peores respuestas están completas solo en un 23%. En términos de precisión, el 26% de las respuestas no son consistentes con los datos de referencia y más del 3% de las respuestas son inconsistentes. Las respuestas son directamente contrarias a los hechos. Sólo el 54% de las respuestas fueron consistentes con el consenso científico y el 39% de las respuestas fueron contrarias a la opinión científica.
Los resultados de este estudio se publicaron en la revista "BMJ Quality & Safety". Los investigadores han enfatizado repetidamente que a pesar del auge de la tecnología de inteligencia artificial, en el campo médico, todavía debemos confiar en personal médico profesional para obtener medicamentos precisos y seguros. información. Después de todo, nadie quiere ser la persona “engañada por la IA”, ¿verdad?
Los resultados de la investigación muestran claramente que la tecnología de IA aún necesita mejorarse aún más cuando se trata de consultas médicas, y que no se debe confiar en la IA para el autodiagnóstico o el tratamiento. Cuando obtenga asesoramiento médico, busque siempre la ayuda de un médico profesional para garantizar su salud y seguridad. El editor de Downcodes te recuerda: ¡la salud no es un asunto menor!