La startup francesa de IA Mistral lanzó recientemente "Les Ministraux", una serie de modelos de IA generativa diseñados para dispositivos de borde, incluidos Ministral3B y Ministral8B, que están diseñados para satisfacer las necesidades de procesamiento local y prioridad de privacidad. El editor de Downcodes explicará en detalle este último logro de Mistral y su estrategia de desarrollo en el campo de la IA.
La startup francesa de IA Mistral anunció recientemente el lanzamiento de una nueva serie de modelos de IA generativa diseñados para dispositivos de vanguardia, como computadoras portátiles y teléfonos móviles. Mistral ha denominado esta serie de modelos "Les Ministraux" y pretende satisfacer en primer lugar la necesidad del mercado de procesamiento local y privacidad.
La recién lanzada serie Les Ministraux incluye dos modelos: Ministral3B y Ministral8B. Vale la pena señalar que la ventana de contexto de ambos modelos alcanza los 128.000 tokens y es capaz de manejar la longitud del texto de aproximadamente 50 páginas de un libro. Esto significa que ya sea que se trate de generación de texto, traducción en el dispositivo o prestación de servicios de asistente inteligente fuera de línea, estos modelos pueden manejarlo con facilidad.
Mistral dijo en su blog que cada vez más clientes y socios buscan soluciones que puedan realizar inferencias localmente, lo que involucra escenarios de aplicaciones importantes como traducción en dispositivos, análisis local y robots autónomos. Les Ministraux fue desarrollado para proporcionar soluciones computacionalmente eficientes y de baja latencia en estos escenarios.
Actualmente, Ministral8B está disponible para descargar, pero sólo con fines de investigación. Los desarrolladores y empresas que deseen obtener una licencia para uso comercial de Ministral3B o Ministral8B deben comunicarse directamente con Mistral. Al mismo tiempo, los desarrolladores también podrán utilizar estos dos modelos a través de la plataforma en la nube La Platforme de Mistral, así como otros servicios en la nube con los que cooperará en las próximas semanas. Ministral8B cobra 10 centavos por millón de tokens de entrada/salida, mientras que Ministral3B cobra 4 centavos.
Recientemente, ha habido una tendencia creciente hacia modelos más pequeños porque son más baratos y más rápidos de entrenar, ajustar y ejecutar. Google continúa agregando nuevos modelos a su línea Gemma de modelos pequeños, mientras que Microsoft ha lanzado su línea de modelos Phi. Meta también lanzó varios modelos pequeños optimizados para hardware de vanguardia en la última actualización de la serie Llama.
Mistral afirma que Ministral3B y Ministral8B superaron a modelos similares Llama y Gemma, así como a su propio modelo Mistral7B, en múltiples puntos de referencia de IA diseñados para evaluar el seguimiento de instrucciones y las habilidades de resolución de problemas. Con sede en París, Mistral recaudó recientemente 640 millones de dólares y está ampliando gradualmente su cartera de productos de IA. En los últimos meses, la compañía lanzó un servicio gratuito que permite a los desarrolladores probar sus modelos y lanzó un SDK para que los clientes puedan ajustar esos modelos. Además, se introdujo un modelo de generación de código llamado Codestral.
Los cofundadores de Mistral provienen de Meta y DeepMind de Google, y el objetivo de la compañía es crear modelos emblemáticos que puedan competir con los mejores modelos como el GPT-4o de OpenAI y el Claude de Anthropic, y volverse rentables en el proceso. Si bien obtener ganancias es un objetivo desafiante para muchas nuevas empresas de IA generativa, se informa que Mistral comenzó a generar ingresos este verano.
Destacar:
1. La serie de modelos Les Ministraux lanzada por Mistral está diseñada para dispositivos perimetrales y admite el procesamiento de privacidad local.
2. El nuevo modelo incluye Minor3B y Ministral8B, que tienen sólidas capacidades de procesamiento de contexto y son adecuados para una variedad de escenarios de aplicación.
3. Mistral se ha vuelto rentable y continúa ampliando su cartera de productos de IA para competir con los mejores modelos de la industria.
La serie de modelos Les Ministraux de Mistral ofrece nuevas posibilidades para aplicaciones locales de IA con su potente rendimiento y optimización para dispositivos de borde. En el futuro, el desarrollo de Mistral merece una atención continua y esperemos y veamos cómo crea más avances en el campo de la IA.