Проект искусственного интеллекта Google Gemini недавно вызвал споры из-за своих новых внутренних правил. Согласно сообщениям, аутсорсинговому персоналу, ответственному за оценку контента, созданного Gemini, было предложено оценить области, в которых у них не было опыта, особенно в таких чувствительных областях, как здравоохранение, что вызывает обеспокоенность по поводу точности информации Gemini. Эта корректировка политики напрямую влияет на работу аутсорсингового персонала и косвенно влияет на качество оценки Gemini.
Недавно проект Google по искусственному интеллекту Gemini выразил обеспокоенность по поводу точности информации из-за своих новых внутренних правил. По имеющимся данным, аутсорсингового персонала, которому поручено оценивать контент, созданный с помощью ИИ, просят оценить области, в которых у них нет опыта, особенно по таким деликатным темам, как здравоохранение.
Эти аутсорсинговые сотрудники из GlobalLogic, глобальной компании, предоставляющей технологические услуги, требуют, чтобы они оценивали ответы, генерируемые ИИ, в основном с учетом таких факторов, как «подлинность». Раньше аутсорсеры могли пропускать вопросы, в которых у них не было соответствующего опыта. Например, они могли не оценивать специальный вопрос о кардиологии. Это делается для обеспечения точности подсчета баллов и для того, чтобы только люди с соответствующим опытом могли проводить эффективные оценки.
Однако на прошлой неделе GlobalLogic объявила о последнем требовании Google, согласно которому аутсорсерам теперь больше не разрешается пропускать вопросы в таких областях знаний, а вместо этого они обязаны оценивать те части, которые они понимают, и объяснять недостаток знаний в соответствующей области. Это изменение вызвало широкое беспокойство среди аутсорсеров по поводу того, что такая практика может повлиять на точность Gemini в некоторых сложных темах.
Например, некоторые аутсорсеры упоминали во внутренних сообщениях, что предыдущая опция пропуска была направлена на повышение точности подсчета баллов, но внедрение новых правил заставило их оценить некоторые проблемы, по которым у них не было опыта, например, редкие заболевания. Внутренние электронные письма показывают, что первоначальное правило было: «Если у вас нет необходимых знаний для выполнения этой задачи, пожалуйста, пропустите ее». Новое правило гласит: «Подсказки, требующие опыта, нельзя пропускать». неудобно.
В соответствии с новыми правилами аутсорсеры могут пропустить задачи оценки только в двух ситуациях: одна — когда информация полностью отсутствует, например, полное приглашение или ответ, другая — когда контент может быть вредным и для проведения оценки требуется специальное согласие; Хотя эти новые правила призваны улучшить производительность Gemini, они могут повлиять на понимание и обратную связь по сложным темам в реальных операциях.
В Google не отреагировали на этот вопрос, и опасения аутсорсеров также постепенно растут.
Выделять:
Аутсорсинговому персоналу предлагается оценить ответы, генерируемые ИИ, в которых у них нет опыта, особенно в таких чувствительных областях, как здравоохранение.
Новые правила исключают возможность «пропустить» и требуют, чтобы аутсорсеры продолжали набирать очки, даже если у них нет опыта.
Эта политика может повлиять на точность Gemini в сложных вопросах, вызывая беспокойство и беспокойство у аутсорсингового персонала.
Реакция Google на новые правила Gemini была отложена, а опасения среди аутсорсингового персонала продолжают расти, что ставит будущее развитие Gemini перед новыми проблемами. Метод оценки точности моделей ИИ нуждается в дальнейшем совершенствовании, чтобы обеспечить надежность и безопасность технологии ИИ.