Operai lanzó recientemente un documento de especificación de modelo significativamente ampliado, expandiéndose de las 10 páginas originales a 63 páginas, con el objetivo de definir más claramente los estándares de comportamiento del modelo AI y promover una interacción efectiva entre los usuarios y el modelo de IA. Esta especificación cubre muchos aspectos de la IA que se ocupa de temas controvertidos y personalización del usuario, se esfuerza por equilibrar el desarrollo tecnológico y las normas éticas y promover el desarrollo responsable de la tecnología de IA. El objetivo de Openai es permitir que los usuarios y los modelos de IA "persigan con éxito la verdad", lo que requiere encontrar el mejor camino entre la innovación tecnológica y la responsabilidad social.
Recientemente, Openai anunció que lanzará su archivo de especificación de modelo significativamente ampliado, lo que aclara los estándares de comportamiento del modelo AI. La nueva especificación del modelo se extiende desde aproximadamente 10 páginas hasta 63 páginas, cubriendo cómo la IA maneja temas controvertidos y personalización del usuario. El objetivo de Openai es permitir que los usuarios y los modelos de IA "persigan con éxito la verdad".
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
La especificación enfatiza tres principios principales: personalización, transparencia y lo que Operai llama "libertad de conocimiento". La libertad de conocimiento significa que los usuarios pueden explorar y discutir varias perspectivas e ideas sin restricciones innecesarias. La actualización se produce cuando el CEO de OpenAI, Sam Altman, anunció que el próximo modelo importante de la compañía, GPT-4.5 (con nombre en código "Orión"), se lanzará pronto.
En el proceso de desarrollo de nuevas normas, el equipo de Operai también consideró los debates y la controversia durante el año pasado. Por ejemplo, la discusión sobre el "rompecabezas de tranvía" ha atraído una atención generalizada. En marzo pasado, Elon Musk criticó el chatbot de AI de Google en las redes sociales por responder "después de que los usuarios preguntaran si deberían nombrar deliberadamente el famoso olímpico transgénero Caitlyn Jenner en caso de un desastre nuclear," no debería ser ".
Operai dijo que esperan encontrar una forma responsable de lidiar con problemas similares en la nueva especificación. Entonces, si el usuario ahora hace la misma pregunta en ChatGPT, responderá que alguien deba ser nombrado incorrecto en caso de prevenir víctimas masivas.
"No podemos crear un estándar de comportamiento modelo que todos puedan satisfacer", dijo Joanne Jang, miembro del equipo de comportamiento del modelo OpenAI, en una entrevista. , que no solo puede mantener la practicidad del modelo, sino también respetar conceptos sociales diversificados.
Puntos clave:
Operai lanza una nueva especificación del modelo de 63 páginas para aclarar los estándares de comportamiento del modelo AI.
La nueva especificación enfatiza la personalización, la transparencia y la libertad del conocimiento, lo que permite a los usuarios explorar libremente sus puntos de vista.
ChatGPT podrá abordar mejor temas controvertidos en respuesta a los complejos problemas éticos de los usuarios.
En resumen, el lanzamiento de la nueva especificación OpenAI marca una nueva etapa en el desarrollo de modelos de IA, que tiene una importante importancia guía para las normas éticas y la dirección de desarrollo de la industria de la IA en el futuro. En el futuro, cómo equilibrar mejor la innovación tecnológica y la responsabilidad social será un desafío continuo que enfrente la industria de la IA.