Редактор Downcodes узнал, что недавнее исследование забило тревогу по поводу применения ИИ в медицинской сфере. Исследователи протестировали Bing Copilot от Microsoft и обнаружили серьезные проблемы с его способностью отвечать на медицинские вопросы. В ходе теста оценивались ответы Copilot на 10 наиболее распространенных медицинских вопросов и 50 популярных в США лекарств, и результаты были тревожными.
Недавнее исследование звучит как тревога, напоминая нам, что мы не должны успокаиваться, когда дело касается медицинских советов, данных ИИ. Исследователи из Германии и Бельгии провели комплексное тестирование Microsoft Bing C0pilot, системы, которая утверждает, что способна ответить на 10 наиболее распространенных медицинских вопросов и 50 популярных вопросов, связанных с наркотиками, в Соединенных Штатах. Однако 24% из 500 полученных ответов полностью не соответствовали существующим медицинским знаниям, а 3% ответов были еще более возмутительными.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и разрешено поставщиком услуг Midjourney.
Проблема не только в ошибках: удивительные 42% ответов могли причинить умеренный или легкий вред пациенту, а целых 22% даже могли привести к смерти или серьезной травме. Глядя на эти данные, AI! Это предложение кажется блюдом «высокого риска». Кто осмелится его легко попробовать?
Хуже всего то, что средний балл полноты этих ответов ИИ составляет всего 77%. Худшие ответы полны лишь на 23%. С точки зрения точности 26% ответов не соответствуют справочным данным, причем более 3% — несоответствующих. ответы прямо противоречат фактам. Только 54% ответов соответствовали научному консенсусу, а 39% ответов противоречили научному мнению.
Результаты этого исследования были опубликованы в журнале «BMJ Quality & Safety». Исследователи неоднократно подчеркивали, что, несмотря на развитие технологий искусственного интеллекта, в медицинской сфере нам по-прежнему следует полагаться на профессиональный медицинский персонал для получения точных и безопасных лекарств. информация. В конце концов, никто не хочет оказаться человеком, «обманутым ИИ», верно?
Результаты исследования ясно показывают, что технология искусственного интеллекта все еще нуждается в дальнейшем совершенствовании, когда дело доходит до медицинских консультаций, и на искусственный интеллект не следует полагаться для самодиагностики или лечения. При получении медицинской консультации всегда обращайтесь за помощью к профессиональному врачу, чтобы обеспечить свое здоровье и безопасность. Редактор Downcodes напоминает: здоровье – дело немалое!