eternal

Eterno

Eternal es una plataforma experimental para flujos de trabajo de aprendizaje automático.

NOTA: Esta aplicación es un trabajo en progreso y no es estable. Considere este repositorio como referencia. Damos la bienvenida a los contribuyentes y comentarios constructivos. También puedes utilizarlo como referencia para tus propios proyectos.

Eternal integra varios proyectos como llama.cpp , ComfyUI y codapi entre muchos otros proyectos cuyos desarrolladores tuvieron la amabilidad de compartir con el mundo. Todo el crédito pertenece a los respectivos contribuyentes de todas las dependencias de las que depende este repositorio. Gracias por compartir tus proyectos con el mundo.

La interfaz de Eternal se presenta con el legendario marco HTMX .

IMPORTANTE:

Configure el nivel cuantitativo de los modelos en su config.yml de forma adecuada para las especificaciones de su sistema. Si un modelo local no se ejecuta, investigue el motivo consultando el archivo main.log generado. La razón más común es RAM insuficiente o plantilla de aviso incorrecta. Implementaremos un manejo de errores y un registro más sólidos en una confirmación futura.

Características

• Fácil configuración y descarga del modelo ML. Vea el ejemplo del catálogo de modelos predeterminado en .config.yml
• Generación de texto utilizando modelos de lenguaje local como Llama-3-8b-Instruct de Meta, Codestral de Mistral AI y el potente OpenAI GPT-4o público, Anthropic Sonnet 3.5, Google Gemini. (Los modelos públicos requieren sus propias claves API)
• Recuperación web que recupera contenido URL para que LLM haga referencia.
• Búsqueda web para recuperar automáticamente los mejores resultados para la solicitud de un usuario de LLM como referencia. Requiere la instalación del navegador Chrome. No es necesario abrir el navegador ya que Eternal gestionará una instancia sin cabeza automáticamente.
• Generación avanzada de imágenes utilizando el backend ComfyUI con flujos de trabajo personalizados. Eternal implementará y administrará ComfyUI automáticamente.

Empezando

La documentación básica se proporciona en la carpeta docs de este repositorio.

Escaparate

Recuperación web: búsqueda

• webget : intenta recuperar una URL pasada como parte del mensaje.
• websearch : busca en la web pública páginas relacionadas con su mensaje.

Requiere la instalación del navegador Chrome.

Ejecución de código

Ejecute y edite el código generado por LLM en la vista de chat en un entorno limitado seguro. Por ahora, JavaScript se implementa mediante WASM. ¡Más idiomas próximamente!

Generación de imágenes

Eternal puede generar imágenes utilizando potentes flujos de trabajo personalizados de ComfyUI que se administran y ajustan automáticamente para obtener resultados de alta calidad. No más ajustes de cientos de parámetros. Describir y generar. Establezca el rol en image_bot y seleccione cualquier LLM local o público para mejorar sus indicaciones.

Mensaje de imagen básica

Mensaje mejorado del modelo de lenguaje grande

Configuración

Cambie el nombre del archivo .config.yml proporcionado a config.yml y colóquelo en la misma ruta que el binario de la aplicación. Modifique el contenido para su entorno y caso de uso.

Construir

Actualmente, Eternal admite la compilación en Linux o Windows WSL mediante CUDA (se requiere GPU nVidia) o MacOS/Metal (se requiere Mac serie M).

Para construir la aplicación:

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

Envíe un problema si encuentra algún problema con el proceso de compilación.

Solución de problemas

Se recomienda crear un nuevo entorno conda y entorno virtual de Python 3.10 antes del lanzamiento inicial de la aplicación. Esto evitará mensajes de error relacionados con las instalaciones de paquetes requeridas, como error: externally-managed-environment .

Si Eternal no se inicia, ejecute los siguientes comandos para configurar un nuevo entorno Conda y Python venv:

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

NOTA: Recuerde cambiar el nombre del .config.yml incluido a config.yml , modificar la configuración de su entorno y guardar el archivo en la misma ruta que el binario Eternal.

Descargo de responsabilidad

Este README es una descripción general de alto nivel de la aplicación Eternal. Se deben consultar instrucciones de configuración detalladas y una lista completa de características, dependencias y configuraciones en la documentación de la aplicación real.