p8hub

Centro privado de IA (P8Hub)

+ Siga a vietanhdev para obtener actualizaciones del proyecto.

"Hospede y utilice sus propios servicios de IA. Mantenga todo sencillo y privado".

En una era en la que la IA está transformando todos los aspectos de nuestras vidas, reconocí la necesidad de una plataforma privada y fácil de usar donde las personas y los equipos pequeños pudieran alojar y utilizar sus propios servicios de IA. La inspiración para P8Hub surgió del deseo de hacer que las tecnologías de IA sean accesibles y privadas, democratizándolas para todos.

La arquitectura de P8Hub consta de dos componentes principales: un backend FastAPI y un frontend Next.js. El backend y el frontend se comunican entre sí a través de la API REST. Para facilitar la implementación, construyo el frontend en archivos estáticos y los sirvo desde el backend. La interacción con Docker (ejecutar, detener y monitorear servicios) se realiza a través del paquete Python on Whales.

Características

Algunas características aún están en desarrollo. Puedes consultar el progreso aquí.

• Supervisar los recursos de hardware.
• Gestión de servicios (iniciar, detener/eliminar).
• Visor de registros de servicio.
• OllamaLLM - Servicio general de chatbot.
• IA enseñable : enseñe a la computadora a clasificar imágenes: STEAM.
• docTR - Reconocimiento de texto de documentos.
• Whishper: servicio de texto a voz.
• Generación TTS (solo GPU)
• Extensión de Docker.
• Servicio de generación de imágenes.
• Agregar documentación.
• Agregar pruebas.
• Editor de aplicaciones.

Las solicitudes no fueron seleccionadas cuidadosamente debido al tiempo limitado. Creo que se pueden integrar muchas más aplicaciones de IA interesantes en P8Hub. Si tiene alguna sugerencia, hágamela saber o cree una solicitud de extracción.

I. Instalación y uso

1. Instalación

• Python 3.9 o superior.
• Instalar p8hub :

pip install p8hub

2. Uso

• Ejecute la aplicación:

python -m p8hub.app

o simplemente:

p8hub

• Vaya a http://localhost:5678/ para ver la interfaz de usuario.

También puede ejecutar Private AI Hub públicamente en su red o cambiar el puerto con parámetros. Ejemplo:

p8hub --host 0.0.0.0 --port 8080

3. Extensión de Docker (experimental)

Docker Extension permite ampliar la funcionalidad de Docker Desktop. Hemos desarrollado una extensión Docker para P8Hub. Puedes instalarlo ejecutando:

make install-extension

Debería ver la extensión en la interfaz de usuario de Docker Desktop.

II. Desarrollo

1. Clonar el código fuente

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. Ejecute su backend

• Python 3.9 o superior.
• Para instalar desde el código fuente, desde el directorio de código fuente p8hub , ejecute:

pip install -e .

• Ejecute la aplicación:

python -m p8hub.app

• Vaya a http://localhost:5678/ para ver la interfaz de usuario.

2. Ejecute su interfaz

• Instale las dependencias:

 cd frontend
npm install

• Ejecute la aplicación:

npm run dev

• Vaya a http://localhost:3000/ para ver la interfaz de usuario. Utilice esta dirección para desarrollar la interfaz.

Referencias

• Siguiente plantilla: https://github.com/shadcn-ui/next-template.
• PAutoBot: https://github.com/nrl-ai/pautobot.

Este proyecto fue creado para Docker AI/ML Hackathon 2023.