Недавно редактор Downcodes узнал, что ByteDance опубликовала официальный ответ на инцидент с «уничтожением стажером обучения большой модели», признав, что стажер был недоволен распределением ресурсов и использовал уязвимость в платформе Hugging Face, чтобы уничтожить задачу обучения модели команда технологий коммерциализации. В официальном заявлении подчеркивалось, что инцидент не затронул формальные проекты компании и онлайн-бизнес, а также не затронул другие крупные модельные бизнесы. Слухи в Интернете о "потерях в десятки миллионов долларов" были серьезно преувеличены. После инцидента стажер был уволен, а ByteDance уведомила об этом соответствующие ведомства.
ByteDance недавно опубликовал официальный ответ на слухи о том, что «стажеры разрушили обучение крупных моделей». Компания подтвердила, что действительно существовал стажер, который злонамеренно вмешивался в задачи по обучению модели исследовательского проекта команды технологий коммерциализации, но такое поведение не повлияло на формальные коммерческие проекты и онлайн-бизнес компании, а также не затрагивало другие операции ByteDance Large. бизнес.
Кроме того, в ByteDance также указали, что циркулирующее в Интернете заявление о том, что «задействовано более 8000 карт и потери в десятки миллионов долларов» серьезно преувеличено.
Согласно публичным сообщениям, во время стажировки в команде технологий коммерциализации ByteDance стажер был недоволен распределением ресурсов команды, воспользовался уязвимостями в платформе Hugging Face и использовал атакующий код для уничтожения задач команды по обучению модели.
В настоящее время стажер уволен, и ByteDance уведомила отраслевой альянс и школу, в которой работал стажер.
Эксперты по технической безопасности отметили, что этот инцидент выявил проблемы управления безопасностью ByteDance при техническом обучении, и что компания не проделала хорошую работу по изоляции разрешений и аудиту общего кода. В обычных обстоятельствах каждое существенное изменение кода должно проверяться. Независимо от того, кто его использует, следы фиксируются. Один человек не может изменить код.
В последнее время ByteDance вкладывает значительные средства в технологию искусственного интеллекта. Помимо популярного в настоящее время чат-бота Doubao, существуют также инструменты создания видео с использованием искусственного интеллекта под названием Meng, инструменты для создания музыки с использованием искусственного интеллекта Sponge Music и т. д.
Кроме того, ByteDance также планирует инвестировать около 1 миллиарда ринггитов (примерно 2,13 миллиарда долларов США) в создание центра искусственного интеллекта в Малайзии для содействия развитию цифровой экономики в регионе. Это показывает решимость и инвестиции ByteDance в область искусственного интеллекта.
Этот инцидент также стал сигналом тревоги для других компаний, занимающихся искусственным интеллектом. Особенно важно усилить управление внутренней безопасностью и улучшить механизмы аудита кода, чтобы предотвратить повторение подобных инцидентов. Редактор Downcodes считает, что при стремительном развитии ИИ нельзя игнорировать вопросы безопасности.