Cet article rapporte la nouvelle selon laquelle Microsoft et l'ancien PDG de Google ont investi conjointement dans Synth Labs, qui se consacre à résoudre le problème des systèmes d'intelligence artificielle s'écartant des intentions humaines. La société est née d'EleutherAI Labs et se concentre sur le défi des modèles de langage, en développant des outils pour évaluer les modèles et guider l'IA afin d'éviter les sujets sensibles, ce qui est crucial pour créer une IA sûre et fiable. Cet investissement met en évidence l’importance accordée par l’industrie à la résolution des problèmes de sécurité et d’alignement de l’IA.
Microsoft et l'ancien PDG de Google ont uni leurs forces pour soutenir Synth Labs afin de résoudre le problème des systèmes d'intelligence artificielle qui n'agissent pas selon les intentions humaines. Synth Labs est originaire d'EleutherAI Labs et se concentre sur les défis des modèles de langage. L'entreprise développe des outils pour évaluer les modèles et guider l'IA afin d'éviter les sujets sensibles.
Les travaux de Synth Labs revêtent une grande importance pour le développement du domaine de l’intelligence artificielle. Les questions de sécurité et de contrôlabilité de l’IA sur lesquelles il se concentre sont l’un des défis clés auxquels est confronté le développement actuel de l’IA. À l’avenir, nous espérons que Synth Labs réalisera davantage de percées dans la résolution des problèmes d’alignement de l’IA et contribuera à créer une intelligence artificielle plus sûre et plus fiable.