gpt j
1.0.0
GPT-J es una alternativa de código abierto de EleutherAI al GPT-3 de OpenAI. Disponible para que cualquiera lo descargue, GPT-J se puede ajustar con éxito para que funcione tan bien como modelos grandes en una variedad de tareas de PNL que incluyen respuesta a preguntas, análisis de sentimientos y reconocimiento de entidades nombradas.
Intente ejecutar GPT-J usted mismo en Paperspace con la IPU (Unidad de procesamiento de inteligencia) de Graphcore, un tipo completamente nuevo de procesador masivamente paralelo para acelerar la inteligencia de las máquinas. Acceda a computación IPU avanzada y rentable bajo demanda en la nube en Paperspace para crear, ajustar e implementar modelos de IA como GPT-J.
| Computadora portátil | Estructura | Tipo | Pruébalo gratis |
|---|---|---|---|
| Vinculación textual en IPU usando GPT-J: ajuste fino | abrazando la cara | Sintonia FINA | |
| Generación de texto con GPT-J 6B | abrazando la cara | Inferencia | |
| Generación de texto más rápida con GPT-J usando cuantificación de peso de 4 bits en IPU | abrazando la cara | Inferencia |
En el enlace textual sobre IPU usando GPT-J: cuaderno de ajuste fino , mostramos cómo ajustar un modelo GPT-J previamente entrenado que se ejecuta en un sistema de 16 IPU en Paperspace. Explicaremos cómo se puede ajustar GPT-J para la vinculación de texto en el conjunto de datos GLUE MNLI para alcanzar el rendimiento SOTA, siendo mucho más rentable que sus primos más grandes.
En la generación de texto con la computadora portátil GPT-J 6B , demostramos lo fácil que es ejecutar GPT-J en la IPU Graphcore usando esta implementación del modelo y ? Puntos de control del cubo de los pesos del modelo.
En la generación de texto más rápida con GPT-J usando cuantificación de peso de 4 bits en portátiles IPU , mostramos cómo usar la cuantificación de grupo para comprimir los parámetros del modelo a 4 bits sin ajuste fino, usando 4 veces menos memoria y acelerando la inferencia en GPT-J. J en ~1,5x.
Para ampliar su uso de GPT-J en IPU o hablar con un experto, no dude en contactarnos.
Únase a nuestra creciente comunidad e interactúe con expertos en inteligencia artificial, desarrolladores e investigadores de IPU. Escuche las últimas noticias de la IPU y obtenga acceso a nuestros modelos más nuevos.
El contenido de este repositorio está disponible de acuerdo con los términos de la licencia MIT. Consulte el archivo de LICENCIA incluido para obtener más detalles.
