Le cofondateur d'Anthropic, Jack Clark, a récemment souligné dans son bulletin d'information "Import AI" que le développement de l'intelligence artificielle ne ralentit pas, mais s'accélère. Il a pris le modèle o3 d'OpenAI comme exemple pour illustrer que les progrès de l'IA ne reposent plus uniquement sur l'expansion de la taille du modèle, mais se tournent vers un nouveau modèle de « penser en courant » qui combine l'apprentissage par renforcement avec une puissance de calcul plus puissante. Cela marque une nouvelle étape dans le développement de l’IA, et l’intégration des méthodes traditionnelles et des technologies émergentes deviendra une tendance de développement future.
Récemment, une autre grande nouvelle qui a attiré l’attention dans le domaine de l’intelligence artificielle vient de Jack Clark, le co-fondateur d’Anthropic. Dans sa newsletter Import AI, il réfute les affirmations précédentes selon lesquelles les progrès de l’IA ralentissent, arguant que son développement s’accélère en fait. Clark a mentionné que le modèle o3 récemment lancé par OpenAI montre que l'IA a encore beaucoup de marge de croissance, mais que ses méthodes de mise en œuvre évoluent.
Contrairement aux méthodes traditionnelles, le modèle o3 ne se contente pas de stimuler le progrès en augmentant la taille du modèle, mais utilise l'apprentissage par renforcement et une puissance de calcul plus puissante. Pendant le processus d'exécution du modèle, o3 a la capacité de « réfléchir en cours d'exécution », ce qui ouvre de nouvelles possibilités d'expansion ultérieure. Clark prédit que cette tendance à combiner les méthodes traditionnelles avec les technologies émergentes s'accélérera en 2025, lorsque davantage d'entreprises combineront de grands modèles de base avec de nouvelles méthodes informatiques pour promouvoir les progrès de l'IA.
Cependant, Clark a également souligné que derrière ce développement rapide se cache un défi qui ne peut être ignoré : le coût informatique. Il a déclaré que la version avancée d'o3 nécessite 170 fois la puissance de calcul de la version de base, tandis que la consommation de ressources de la version de base a dépassé celle de o1 et que la consommation d'énergie de o1 elle-même est également supérieure à celle de GPT-4o. Les besoins en ressources de ces nouveaux systèmes varient d'une tâche à l'autre, ce qui rend les prévisions de coûts de plus en plus complexes. Dans le passé, la surcharge du modèle était principalement liée à la taille du modèle et à la longueur de sortie, mais la flexibilité d'o3 rend cela beaucoup moins prévisible.
Néanmoins, Clark croit fermement que grâce à la combinaison de méthodes de mise à l’échelle traditionnelles et de nouvelles méthodes, le développement de l’IA en 2025 sera plus important qu’auparavant. En ce qui concerne les projets futurs d'Anthropic, la prédiction de Clark a suscité beaucoup de buzz. Anthropic n'a pas encore publié de modèle « d'inférence » ou de « temps de test » qui concurrence la série o d'OpenAI ou le Gemini Flash Thinking de Google. Le modèle phare de l'entreprise, Opus3.5, a été temporairement abandonné en raison d'une amélioration insuffisante des performances. Cependant, la recherche et le développement de ce modèle n'ont pas complètement échoué, mais ont joué un rôle important dans la formation du nouveau modèle Sonnet3.5, qui est devenu le modèle phare. modèle le plus populaire sur le marché.
Souligner:
Le développement de l’IA ne ralentit pas, mais s’accélère, en particulier les modèles combinant méthodes informatiques traditionnelles et émergentes.
La capacité « penser en courant » du modèle o3 ouvre de nouvelles possibilités d'expansion et injecte de la puissance dans le développement futur de l'IA.
Malgré des progrès rapides, l’incertitude relative aux coûts de calcul reste un défi pour le développement futur.
Dans l'ensemble, l'analyse de Clark nous montre une nouvelle direction dans le développement de l'IA : tout en recherchant des performances plus élevées, nous devons prêter attention au contrôle des coûts informatiques. Le développement futur de l’IA accordera davantage d’attention à l’équilibre entre efficacité et coût, qui deviendra l’un des facteurs clés du progrès de la technologie de l’IA. Même si des défis subsistent, le rythme de l’innovation dans le domaine de l’IA ne s’arrêtera pas.