Ces dernières années, la technologie de l’IA générative s’est développée rapidement, mais la méthode traditionnelle consistant simplement à s’appuyer sur l’augmentation des données et de la puissance de calcul pour améliorer les performances de l’IA a atteint un goulot d’étranglement. L'éditeur de Downcodes a appris que de nombreux scientifiques de haut niveau en IA ont souligné que le domaine de l'IA passait d'une ère d'expansion à grande échelle à une nouvelle étape axée sur l'innovation de rupture. Ce changement signifie que le développement de l’IA accordera davantage d’attention à l’amélioration de la qualité des modèles plutôt qu’à la simple poursuite de l’expansion à grande échelle. De nouvelles voies et méthodes techniques sont explorées et appliquées, apportant de nouvelles opportunités et de nouveaux défis au développement futur du domaine de l'IA.
Avec le développement rapide de l’IA générative, la conception traditionnelle de l’industrie selon laquelle plus c’est grand, mieux c’est, évolue. De nombreux scientifiques de haut niveau en IA ont récemment déclaré que la méthode permettant d'améliorer les performances de l'IA simplement en augmentant la quantité de données et la puissance de calcul se rapproche d'un goulot d'étranglement et que de nouvelles orientations technologiques révolutionnaires émergent.
Ilya Sutskever, co-fondateur de Safe Superintelligence et OpenAI, a récemment exprimé son opinion selon laquelle les méthodes traditionnelles de pré-entraînement sont entrées dans un plateau de performances. Cette affirmation est particulièrement frappante car c’est son premier plaidoyer en faveur de méthodes de pré-formation à grande échelle qui a donné naissance à ChatGPT. Aujourd’hui, il a déclaré que le domaine de l’IA est passé d’une ère d’expansion à grande échelle à une ère de miracles et de découvertes.
Actuellement, la formation sur grands modèles est confrontée à de multiples défis : des coûts de formation de plusieurs dizaines de millions de dollars, le risque de panne matérielle causée par la complexité du système, les longs cycles de test et les limitations des ressources de données et de l'approvisionnement en énergie. Ces problèmes ont incité les chercheurs à explorer de nouvelles voies technologiques.
Parmi eux, la technologie informatique au moment des tests a reçu une large attention. Cette approche permet au modèle d'IA de générer et d'évaluer plusieurs options en temps réel pendant l'utilisation, plutôt que de donner directement une seule réponse. Le chercheur d'OpenAI Noam Brown a fait une analogie frappante : demander à l'IA de réfléchir à une partie de poker pendant 20 secondes est aussi efficace que d'augmenter la taille du modèle et le temps d'entraînement de 100 000 fois.
Actuellement, de nombreux laboratoires d'IA de premier plan, notamment OpenAI, Anthropic, xAI et DeepMind, développent activement leurs propres versions techniques. OpenAI a appliqué cette technologie dans son dernier modèle o1, et le chef de produit Kevin Weil a déclaré que grâce à ces méthodes innovantes, ils voyaient de nombreuses opportunités pour améliorer les performances du modèle.
Les experts du secteur estiment que ce changement de voie technologique pourrait remodeler le paysage concurrentiel de l’ensemble du secteur de l’IA et modifier fondamentalement la structure de la demande des entreprises d’IA pour diverses ressources. Cela marque que le développement de l’IA entre dans une nouvelle étape qui accorde davantage d’attention à l’amélioration de la qualité plutôt qu’à une simple expansion à grande échelle.
De nouvelles avancées technologiques ont apporté de nouvelles opportunités de développement à l’industrie de l’IA et ont également proposé une nouvelle réflexion sur l’orientation future du développement de l’IA. L'éditeur de Downcodes estime qu'à l'avenir, des technologies plus innovantes continueront d'émerger dans le domaine de l'IA, favorisant le développement de la technologie de l'IA à un niveau plus profond et bénéficiant en fin de compte à la société humaine.