Recentemente, o editor do Downcodes soube que a ByteDance emitiu uma resposta oficial ao incidente de “estagiário destruindo treinamento de grande modelo”, admitindo que um estagiário estava insatisfeito com a alocação de recursos e usou uma vulnerabilidade na plataforma Hugging Face para destruir a tarefa de treinamento de modelo de a equipe de tecnologia de comercialização. A declaração oficial enfatizou que o incidente não afetou os projetos formais e os negócios on-line da empresa, nem afetou outros modelos de negócios de grande escala. Os rumores na Internet sobre "perdas de dezenas de milhões de dólares" foram seriamente exagerados. Após o incidente, o estagiário foi demitido e a ByteDance notificou os órgãos competentes sobre o assunto.
A ByteDance emitiu recentemente uma resposta oficial aos rumores de que “estagiários destruíram o treinamento de grandes modelos”. A empresa confirmou que houve de fato um estagiário que interferiu maliciosamente nas tarefas de treinamento do modelo de projeto de pesquisa da equipe de tecnologia de comercialização, mas esse comportamento não afetou os projetos comerciais formais e negócios online da empresa, nem envolveu outras operações do modelo ByteDance. negócios.
Além disso, a ByteDance também destacou que a afirmação que circulou na Internet de que “estiveram envolvidos mais de 8.000 cartões e perdas de dezenas de milhões de dólares” foi seriamente exagerada.
Segundo relatos públicos, durante o estágio da equipe de tecnologia de comercialização da ByteDance, o estagiário ficou insatisfeito com a alocação de recursos da equipe, aproveitou vulnerabilidades na plataforma Hugging Face e utilizou código de ataque para destruir as tarefas de treinamento do modelo da equipe.
Atualmente, o estagiário foi demitido e a ByteDance notificou a aliança do setor e a escola onde o estagiário trabalhava.
Especialistas técnicos em segurança apontaram que este incidente expôs os problemas de gerenciamento de segurança da ByteDance no treinamento técnico, e a empresa não fez um bom trabalho no isolamento de permissões e na auditoria do código compartilhado. Em circunstâncias normais, todas as alterações importantes no código devem ser auditadas, independentemente de quem o opera, há vestígios registrados.
Recentemente, a ByteDance tem investido pesadamente em tecnologia de IA. Além do atualmente popular chatbot Doubao, também existem ferramentas de geração de vídeo de IA chamadas Meng, ferramentas de geração de música de IA Sponge Music, etc.
Além disso, a ByteDance também planeja investir aproximadamente 1 bilhão de ringgit (aproximadamente US$ 2,13 bilhões) para estabelecer um centro de IA na Malásia para promover o desenvolvimento da economia digital na região. Isso mostra a determinação e o investimento da ByteDance na área de IA.
Este incidente também soou o alarme para outras empresas de IA. É particularmente importante reforçar a gestão da segurança interna e melhorar os mecanismos de auditoria de código para evitar que incidentes semelhantes voltem a acontecer. O editor do Downcodes acredita que com o rápido desenvolvimento da IA, as questões de segurança não podem ser ignoradas.