Recientemente, el editor de Downcodes se enteró de que ByteDance emitió una respuesta oficial al incidente del "pasante que destruye el entrenamiento de modelos grandes", admitiendo que un pasante no estaba satisfecho con la asignación de recursos y utilizó una vulnerabilidad en la plataforma Hugging Face para destruir la tarea de entrenamiento del modelo de el equipo de tecnología de comercialización. El comunicado oficial enfatizó que el incidente no afectó los proyectos formales ni el negocio en línea de la compañía, ni a otras empresas modelo a gran escala. Los rumores en Internet sobre "pérdidas de decenas de millones de dólares" fueron seriamente exagerados. Después del incidente, el pasante fue despedido y ByteDance notificó el asunto a las agencias pertinentes.
ByteDance emitió recientemente una respuesta oficial a los rumores de que "los pasantes destruyeron el entrenamiento de modelos a gran escala". La compañía confirmó que efectivamente hubo un pasante que interfirió maliciosamente con las tareas de capacitación del modelo del proyecto de investigación del equipo de tecnología de comercialización, pero este comportamiento no afectó los proyectos comerciales formales ni los negocios en línea de la compañía, ni involucró otras operaciones de ByteDance. negocio.
Además, ByteDance también señaló que la afirmación que circula en Internet de que "se trataba de más de 8.000 tarjetas implicadas y pérdidas de decenas de millones de dólares" era gravemente exagerada.
Según informes públicos, durante la pasantía del equipo de tecnología de comercialización de ByteDance, el pasante no estaba satisfecho con la asignación de recursos del equipo, aprovechó las vulnerabilidades en la plataforma Hugging Face y utilizó código de ataque para destruir las tareas de entrenamiento del modelo del equipo.
Actualmente, el pasante ha sido despedido y ByteDance notificó a la alianza industrial y a la escuela donde trabajaba el pasante.
Los expertos en seguridad técnica señalaron que este incidente expuso los problemas de gestión de seguridad de ByteDance en la capacitación técnica y que la empresa no hizo un buen trabajo en el aislamiento de permisos y la auditoría del código compartido. En circunstancias normales, cada cambio importante de código debe ser auditado. No importa quién lo opere, hay rastros registrados. Es imposible que una sola persona cambie el código.
Recientemente, ByteDance ha estado invirtiendo mucho en tecnología de inteligencia artificial. Además del popular chatbot Doubao, también existen herramientas de generación de videos de inteligencia artificial llamadas Meng, herramientas de generación de música de inteligencia artificial, Sponge Music, etc.
Además, ByteDance también planea invertir aproximadamente mil millones de ringgit (aproximadamente 2,13 mil millones de dólares estadounidenses) para establecer un centro de inteligencia artificial en Malasia para promover el desarrollo de la economía digital en la región. Esto muestra la determinación y la inversión de ByteDance en el campo de la IA.
Este incidente también ha hecho sonar la alarma para otras empresas de IA. Es particularmente importante fortalecer la gestión de seguridad interna y mejorar los mecanismos de auditoría de código para evitar que incidentes similares vuelvan a ocurrir. El editor de Downcodes cree que con el rápido desarrollo de la IA, no se pueden ignorar los problemas de seguridad.