Récemment, l'éditeur de Downcodes a appris que ByteDance avait publié une réponse officielle à l'incident du "stagiaire détruisant une formation de grand modèle", admettant qu'un stagiaire n'était pas satisfait de l'allocation des ressources et avait utilisé une vulnérabilité de la plate-forme Hugging Face pour détruire la tâche de formation de modèle de l’équipe de technologie de commercialisation. Le communiqué officiel souligne que l'incident n'a pas affecté les projets formels et les activités en ligne de l'entreprise, ni d'autres entreprises modèles à grande échelle. Les rumeurs sur Internet concernant des « pertes de plusieurs dizaines de millions de dollars » ont été sérieusement exagérées. Après l'incident, le stagiaire a été licencié et ByteDance a informé les agences compétentes de l'affaire.
ByteDance a récemment publié une réponse officielle aux rumeurs selon lesquelles "les stagiaires auraient détruit la formation des grands modèles". La société a confirmé qu'il y avait bien un stagiaire qui avait interféré de manière malveillante avec les tâches de formation du modèle de projet de recherche de l'équipe technologique de commercialisation, mais ce comportement n'a pas affecté les projets commerciaux formels et les activités en ligne de la société, ni n'a impliqué d'autres opérations de ByteDance Large. entreprise.
En outre, ByteDance a également souligné que l'affirmation circulant sur Internet selon laquelle "plus de 8 000 cartes étaient impliquées et des pertes de plusieurs dizaines de millions de dollars" était sérieusement exagérée.
Selon des rapports publics, lors du stage de l'équipe technologique de commercialisation de ByteDance, le stagiaire n'était pas satisfait de l'allocation des ressources de l'équipe, a profité des vulnérabilités de la plate-forme Hugging Face et a utilisé un code d'attaque pour détruire les tâches de formation des modèles de l'équipe.
Actuellement, le stagiaire a été licencié et ByteDance a informé l'alliance industrielle et l'école où le stagiaire travaillait.
Les experts en sécurité technique ont souligné que cet incident a révélé les problèmes de gestion de la sécurité de ByteDance dans la formation technique, et que l'entreprise n'a pas fait du bon travail en matière d'isolation des autorisations et d'audit du code partagé. Dans des circonstances normales, chaque modification majeure du code doit être auditée. Peu importe qui l'utilise, des traces sont enregistrées. Il est impossible pour une seule personne de modifier le code.
Récemment, ByteDance a investi massivement dans la technologie de l'IA. En plus du chatbot Doubao actuellement populaire, il existe également des outils de génération de vidéo IA appelés Meng, des outils de génération de musique IA Sponge Music, etc.
En outre, ByteDance prévoit également d'investir environ 1 milliard de ringgits (environ 2,13 milliards de dollars) pour créer un centre d'IA en Malaisie afin de promouvoir le développement de l'économie numérique dans la région. Cela montre la détermination et l’investissement de ByteDance dans le domaine de l’IA.
Cet incident a également sonné l'alarme pour d'autres sociétés d'IA. Il est particulièrement important de renforcer la gestion de la sécurité interne et d'améliorer les mécanismes d'audit du code pour éviter que des incidents similaires ne se reproduisent. L’éditeur de Downcodes estime qu’avec le développement rapide de l’IA, les questions de sécurité ne peuvent être ignorées.