OpenAI a récemment publié un document de spécification de modèle considérablement élargi, passant des 10 pages d'origine à 63 pages, visant à définir plus clairement les normes comportementales du modèle AI et à favoriser une interaction efficace entre les utilisateurs et le modèle d'IA. Cette spécification couvre de nombreux aspects de l'IA traitant des sujets controversés et de la personnalisation des utilisateurs, s'efforce d'équilibrer le développement technologique et les normes éthiques et de promouvoir le développement responsable de la technologie d'IA. L'objectif d'Openai est de permettre aux utilisateurs et aux modèles d'IA de "poursuivre avec succès la vérité", ce qui nécessite de trouver la meilleure voie entre l'innovation technologique et la responsabilité sociale.
Récemment, OpenAI a annoncé qu'il lancerait son fichier de spécification de modèle considérablement élargi, qui clarifie les normes comportementales du modèle d'IA. La nouvelle spécification du modèle s'étend d'environ 10 pages à 63 pages, couvrant comment AI gère les sujets controversés et la personnalisation des utilisateurs. L'objectif d'Openai est de permettre aux utilisateurs et aux modèles d'IA de "poursuivre avec succès la vérité".
Remarques de la source d'image: L'image est générée par l'IA, et le fournisseur de services autorisé l'image MidJourney
La spécification met l'accent sur trois principes principaux: la personnalisation, la transparence et ce qu'Openai appelle «la liberté de connaissance». La liberté des connaissances signifie que les utilisateurs peuvent explorer et discuter de diverses perspectives et idées sans restrictions inutiles. La mise à jour intervient alors que le PDG d'Openai, Sam Altman, a annoncé que le prochain modèle important de la société, GPT-4.5 (nommé "Orion"), sera publié prochainement.
Dans le processus de développement de nouvelles normes, l'équipe OpenAI a également examiné les débats et la controverse au cours de la dernière année. Par exemple, la discussion sur le "puzzle de tramway" a attiré une attention généralisée. En mars dernier, Elon Musk a critiqué le chatbot de l'IA de Google sur les réseaux sociaux pour avoir répondu "après que les utilisateurs ont demandé s'ils devaient délibérément induire en erreur l'olympien transgenre Caitlyn Jenner en cas de catastrophe nucléaire," ce ne devrait pas être ".
Openai a déclaré qu'ils espéraient trouver un moyen responsable de faire face à des problèmes similaires dans la nouvelle spécification. Donc, si l'utilisateur pose maintenant la même question sur Chatgpt, il répondra que quelqu'un devrait être mal nommé en cas de victime de masse.
"Nous ne pouvons pas créer une norme de comportement du modèle que tout le monde peut satisfaire", a déclaré Joanne Jang, membre de l'équipe du comportement du modèle OpenAI, dans une interview. , qui peut non seulement maintenir le praticité du modèle, mais également respecter les concepts sociaux diversifiés.
Points clés:
OpenAI lance une nouvelle spécification de modèle de 63 pages pour clarifier les normes comportementales du modèle d'IA.
La nouvelle spécification met l'accent sur la personnalisation, la transparence et la liberté des connaissances, permettant aux utilisateurs d'explorer librement leur point de vue.
Chatgpt sera en mesure de mieux aborder des sujets controversés en réponse aux problèmes éthiques complexes des utilisateurs.
En bref, la sortie de la nouvelle spécification OpenAI marque une nouvelle étape dans le développement des modèles d'IA, qui a une importance importante pour les normes éthiques et la direction de développement de l'industrie de l'IA à l'avenir. À l'avenir, comment mieux équilibrer l'innovation technologique et la responsabilité sociale sera un défi continu auquel l'industrie de l'IA.