p8hub

Hub privado de IA (P8Hub)

+ Siga vietanhdev para atualizações do projeto.

"Hospede e use seus próprios serviços de IA. Mantenha tudo simples e privado."

Numa era em que a IA está a transformar todos os aspectos das nossas vidas, reconheci a necessidade de uma plataforma privada e fácil de usar onde indivíduos e pequenas equipas pudessem alojar e utilizar os seus próprios serviços de IA. A inspiração para o P8Hub veio do desejo de tornar as tecnologias de IA acessíveis e privadas, democratizando-as para todos.

A arquitetura do P8Hub consiste em dois componentes principais: um backend FastAPI e um frontend Next.js. O back-end e o front-end se comunicam por meio da API REST. Para facilitar a implantação, construo o front-end em arquivos estáticos e os sirvo no back-end. A interação com o Docker (serviços de execução, parada e monitoramento) é feita via pacote Python on Whales.

Características

Alguns recursos ainda estão em desenvolvimento. Você pode verificar o progresso aqui.

• Monitore os recursos de hardware.
• Gerenciamento de serviços (iniciar, parar/excluir).
• Visualizador de logs de serviço.
• OllamaLLM - Serviço geral de chatbot.
• IA ensinável - Ensine o computador a classificar imagens - STEAM.
• docTR - Reconhecimento de Texto de Documento.
• Whisper - serviço de conversão de texto em fala.
• Geração TTS (somente GPU)
• Extensão Docker.
• Serviço de geração de imagens.
• Adicione documentação.
• Adicione testes.
• Editor de aplicativos.

As inscrições não foram selecionadas com cuidado devido ao tempo limitado. Acho que muitos outros aplicativos de IA interessantes podem ser integrados ao P8Hub. Se você tiver alguma sugestão, por favor me avise ou crie uma solicitação pull.

I. Instalação e uso

1. Instalação

• Python 3.9 ou superior.
• Instale p8hub :

pip install p8hub

2. Uso

• Execute o aplicativo:

python -m p8hub.app

ou apenas:

p8hub

• Vá para http://localhost:5678/ para ver a interface do usuário.

Você também pode executar o Private AI Hub publicamente em sua rede ou alterar a porta com parâmetros. Exemplo:

p8hub --host 0.0.0.0 --port 8080

3. Extensão Docker (Experimental)

Docker Extension permite estender a funcionalidade do Docker Desktop. Desenvolvemos uma extensão Docker para P8Hub. Você pode instalá-lo executando:

make install-extension

Você deverá ver a extensão na IU do Docker Desktop.

II. Desenvolvimento

1. Clone o código-fonte

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. Execute seu back-end

• Python 3.9 ou superior.
• Para instalar a partir do código-fonte, no diretório do código-fonte p8hub , execute:

pip install -e .

• Execute o aplicativo:

python -m p8hub.app

• Vá para http://localhost:5678/ para ver a interface do usuário.

2. Execute seu front-end

• Instale as dependências:

 cd frontend
npm install

• Execute o aplicativo:

npm run dev

• Vá para http://localhost:3000/ para ver a interface do usuário. Use este endereço para desenvolver o frontend.

Referências

• Próximo modelo: https://github.com/shadcn-ui/next-template.
• PAutoBot: https://github.com/nrl-ai/pautobot.

Este projeto foi criado para o Docker AI/ML Hackathon 2023.