p8hub

Частный центр искусственного интеллекта (P8Hub)

+ Следите за обновлениями проекта vietanhdev.

«Размещайте и используйте свои собственные службы искусственного интеллекта. Сохраняйте все простым и конфиденциальным».

В эпоху, когда искусственный интеллект меняет все аспекты нашей жизни, я осознал необходимость в частной и простой в использовании платформе, где отдельные лица и небольшие команды могли бы размещать и использовать свои собственные сервисы искусственного интеллекта. Вдохновением для создания P8Hub послужило желание сделать технологии искусственного интеллекта доступными и конфиденциальными, демократизируя их для всех.

Архитектура P8Hub состоит из двух основных компонентов: бэкэнда FastAPI и внешнего интерфейса Next.js. Бэкэнд и интерфейс взаимодействуют друг с другом через REST API. Для простоты развертывания я объединяю интерфейс в статические файлы и обслуживаю их из серверной части. Взаимодействие с Docker (запуск, остановка и мониторинг служб) осуществляется через пакет Python on Whales.

Функции

Некоторые функции все еще находятся в разработке. Вы можете проверить прогресс здесь.

• Мониторинг аппаратных ресурсов.
• Управление службами (запуск, остановка/удаление).
• Просмотрщик журналов обслуживания.
• OllamaLLM — общий сервис чат-ботов.
• Обучаемый ИИ — Научите компьютер классифицировать изображения — STEAM.
• docTR - Распознавание текста документа.
• Wishper — сервис преобразования текста в речь.
• Генерация TTS (только графический процессор)
• Расширение докера.
• Сервис генерации изображений.
• Добавьте документацию.
• Добавьте тесты.
• Редактор приложений.

Заявки отбирались не тщательно из-за ограниченности времени. Я думаю, что в P8Hub можно интегрировать еще много интересных приложений искусственного интеллекта. Если у вас есть какие-либо предложения, дайте мне знать или создайте запрос на включение.

I. Установка и использование

1. Установка

• Python 3.9 или выше.
• Установите p8hub :

pip install p8hub

2. Использование

• Запустите приложение:

python -m p8hub.app

или просто:

p8hub

• Перейдите по адресу http://localhost:5678/, чтобы увидеть пользовательский интерфейс.

Вы также можете запустить Private AI Hub публично в своей сети или изменить порт с помощью параметров. Пример:

p8hub --host 0.0.0.0 --port 8080

3. Расширение Docker (экспериментальное)

Расширение Docker позволяет расширить функциональность Docker Desktop. Мы разработали расширение Docker для P8Hub. Вы можете установить его, запустив:

make install-extension

Вы должны увидеть расширение в пользовательском интерфейсе Docker Desktop.

II. Разработка

1. Клонируйте исходный код

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. Запустите свой бэкэнд

• Python 3.9 или выше.
• Чтобы установить из исходного кода, из каталога исходного кода p8hub запустите:

pip install -e .

• Запустите приложение:

python -m p8hub.app

• Перейдите по адресу http://localhost:5678/, чтобы увидеть пользовательский интерфейс.

2. Запустите свой интерфейс

• Установите зависимости:

 cd frontend
npm install

• Запустите приложение:

npm run dev

• Перейдите по адресу http://localhost:3000/, чтобы увидеть пользовательский интерфейс. Используйте этот адрес для разработки интерфейса.

Ссылки

• Следующий шаблон: https://github.com/shadcn-ui/next-template.
• PAutoBot: https://github.com/nrl-ai/pautobot.

Этот проект был создан для Docker AI/ML Hackathon 2023.