Anthrope ha lanzado una nueva característica llamada "citas" para su familia de modelos Claude AI para mejorar la transparencia y la trazabilidad de las respuestas generadas por AI. Las "citas" pueden proporcionar automáticamente la fuente de respuestas de IA, incluidas oraciones precisas y citas de párrafos, mejorando así la credibilidad de las respuestas y reduciendo el fenómeno de "ilusión" de los modelos de IA. Esta nueva característica se ha lanzado en la API de Anthrope y la plataforma Vertex AI de Google, proporcionando a los desarrolladores herramientas de IA más confiables.
Para mejorar la transparencia y la trazabilidad de su modelo de IA, Anthrope anunció una nueva característica, las citas, el jueves. Esta característica está diseñada para ayudar a los desarrolladores a proporcionar referencias precisas de los documentos fuente, incluidas las oraciones y los párrafos, en respuestas generadas a través de la serie Claude AI. Esta característica innovadora estuvo disponible de inmediato en la API de Anthrope y la plataforma Vertex AI de Google después de su primer lanzamiento.
Característica de citas: mejorar la transparencia y precisión del documento
Según Anthrope, la función de citas puede proporcionar automáticamente a los desarrolladores la fuente de respuestas generadas por los modelos de IA, citando las oraciones y los párrafos exactas en el documento de origen. Esta característica es especialmente adecuada para un resumen de documentos, sistemas de preguntas y respuestas y aplicaciones de atención al cliente, y puede mejorar la credibilidad y la transparencia de sus respuestas. Al introducir la literatura fuente, los desarrolladores pueden tener una comprensión más clara del proceso de razonamiento de los modelos de IA y reducir los fenómenos de "ilusión" (es decir, infundadas o malinformación generada por la IA).
Alcance de la aplicación y los precios
Aunque el lanzamiento de la función de citas ha atraído una atención generalizada, actualmente se limita a los modelos Claude3.5sonnet y Claude3.5haiku de Anthrope. Además, esta característica no es gratuita, y Anthrope cobrará una tarifa correspondiente basada en la longitud y la cantidad del documento de origen. Por ejemplo, un documento fuente de aproximadamente 100 páginas cuesta aproximadamente $ 0.30 cuando se usa Claude3.5sonnet y $ 0.08 cuando se usa Claude3.5haiku. Esta puede ser una opción que valga la pena invertir para los desarrolladores que desean reducir los errores de generación de IA y el contenido inexacto.
Citas: una herramienta efectiva para lidiar con alucinaciones y errores de IA
El lanzamiento de citas ha mejorado sin duda la competitividad de Anthrope en el campo del contenido generado por IA, especialmente para resolver el problema de "ilusión" de los modelos de IA. La ilusión de la IA siempre ha sido uno de los desafíos que enfrentan los desarrolladores y usuarios, y la función de citas proporciona más garantías para la confiabilidad del contenido generado por la IA, asegurando que los desarrolladores puedan ver claramente la fuente de contenido generado por IA. De esta manera, Anthrope no solo mejora la transparencia del producto, sino que también proporciona a los desarrolladores más herramientas para garantizar que el contenido generado sea más preciso y verificable.
Resumir
Con el desarrollo continuo de la tecnología de IA, la transparencia y la trazabilidad se están volviendo cada vez más el foco de usuarios y desarrolladores. La característica de citas lanzada por Anthrope responde a esta demanda y proporciona a los desarrolladores niveles de control más altos y la capacidad de garantizar la corrección del contenido de IA. En el futuro, esta función puede convertirse en la configuración estándar en las herramientas de desarrollo de inteligencia artificial, empujando a toda la industria a desarrollarse en una dirección más confiable.
En general, la característica de citas de Anthrope es un paso importante para mejorar la transparencia y la confiabilidad de los modelos de IA, ayudar a reducir las ilusiones de IA y proporcionar a los desarrolladores herramientas más confiables. Esto ayudará a promover el desarrollo saludable de la tecnología de IA.