Récemment, le Wall Street Journal a rapporté que le projet GPT-5 (nom de code Orion) d’OpenAI ne progressait pas comme prévu et était confronté à de nombreux défis. Le projet a duré 18 mois et a permis de réaliser au moins deux cycles de formation à grande échelle, mais le rythme de formation a été plus lent que prévu, ce qui a entraîné des coûts élevés. Bien que les performances de GPT-5 aient été améliorées, ses coûts d'exploitation élevés ne correspondent pas aux progrès actuels. L'orientation et la stratégie de recherche et développement d'OpenAI devront peut-être être reconsidérées.
Selon le dernier rapport du Wall Street Journal, le développement du très attendu modèle d’intelligence artificielle de nouvelle génération d’OpenAI, GPT-5 (nom de code Orion), ne progresse pas comme prévu et le projet est confronté à des défis majeurs.
Des rapports ont révélé qu'au cours du processus de développement de 18 mois, OpenAI a réalisé au moins deux cycles de formation à grande échelle. Cependant, la vitesse de formation initiale était plus lente que prévu, ce qui rendait la formation ultérieure à grande échelle longue et coûteuse. Bien que les performances du GPT-5 se soient améliorées par rapport à son prédécesseur, les progrès actuels ne suffisent pas à justifier ses énormes coûts d'exploitation.
Pour faire avancer le projet, OpenAI a adopté une stratégie d'acquisition de données à plusieurs volets. En plus d'exploiter les données publiques et le contenu sous licence, l'entreprise embauche également des personnes spécifiquement chargées de créer de nouvelles données, notamment en écrivant du code et en résolvant des problèmes mathématiques. Parallèlement, OpenAI utilise également un autre de ses modèles, o1, pour générer des données synthétiques.
Cette nouvelle fait écho aux rapports précédents du média technologique The Information, qui soulignaient que GPT-5 pourrait ne pas être en mesure de réaliser des avancées majeures comme les modèles précédents, ce qui a incité OpenAI à commencer à rechercher de nouvelles stratégies de développement. OpenAI n'a pas encore répondu à cette question, mais a confirmé qu'elle ne publierait pas de modèle nommé Orion cette année.
Le retard des progrès du projet GPT-5 a amené l'industrie à prêter attention aux coûts de recherche et développement et aux avantages attendus des modèles de langage à grande échelle, et a également fourni une référence pour d'autres sociétés d'IA. La manière dont OpenAI ajustera sa stratégie à l'avenir, si elle pourra surmonter les défis et enfin lancer GPT-5, mérite une attention continue.