Homemade GPT
1.0.0
Este repositorio contiene una implementación en Python de la parte Decoder de la arquitectura Tranformer presentada en el artículo fundamental: todo lo que necesita es atención. La Figura 1 muestra la arquitectura completa del Transformador con el bloque codificador a la izquierda y el bloque decodificador a la derecha.
El modelo se ajusta en el conjunto de datos de instrucciones de Alpaca utilizando el estilo de solicitud de Alpaca.