p8hub

프라이빗 AI 허브(P8Hub)

+ 프로젝트 업데이트를 보려면 vietanhdev를 팔로우하세요.

"자신만의 AI 서비스를 호스팅하고 사용하세요. 모든 것을 간단하고 비공개로 유지하세요."

AI가 우리 삶의 모든 측면을 변화시키는 시대에 저는 개인과 소규모 팀이 자체 AI 서비스를 호스팅하고 활용할 수 있는 사용하기 쉬운 프라이빗 플랫폼의 필요성을 인식했습니다. P8Hub의 영감은 AI 기술을 접근 가능하고 비공개로 만들어 모든 사람을 위해 민주화하려는 열망에서 나왔습니다.

P8Hub의 아키텍처는 FastAPI 백엔드와 Next.js 프런트엔드라는 두 가지 주요 구성 요소로 구성됩니다. 백엔드와 프론트엔드는 REST API를 통해 서로 통신합니다. 배포를 쉽게 하기 위해 프런트엔드를 정적 파일로 구축하고 이를 백엔드에서 제공합니다. Docker와의 상호 작용(서비스 실행, 중지 및 모니터링)은 Python on Whales 패키지를 통해 수행됩니다.

특징

일부 기능은 아직 개발 중입니다. 여기에서 진행 상황을 확인할 수 있습니다.

• 하드웨어 리소스를 모니터링합니다.
• 서비스 관리(시작, 중지/삭제).
• 서비스 로그 뷰어.
• OllamaLLM - 일반 챗봇 서비스입니다.
• Teachable AI - 컴퓨터에 이미지 분류 방법을 가르치세요 - STEAM.
• docTR - 문서 텍스트 인식.
• Wishper - 텍스트를 음성으로 변환하는 서비스입니다.
• TTS 생성(GPU 전용)
• 도커 확장.
• 이미지 생성 서비스.
• 문서를 추가하세요.
• 테스트를 추가합니다.
• 앱 편집기.

제한된 시간으로 인해 응용 프로그램을 신중하게 선택하지 않았습니다. P8Hub에는 더 많은 흥미로운 AI 애플리케이션이 통합될 수 있다고 생각합니다. 제안 사항이 있으면 알려주시거나 끌어오기 요청을 작성해 주세요.

I. 설치 및 사용

1. 설치

• 파이썬 3.9 이상.
• p8hub 설치:

pip install p8hub

2. 사용법

• 앱을 실행합니다.

python -m p8hub.app

아니면 그냥:

p8hub

• 사용자 인터페이스를 보려면 http://localhost:5678/로 이동하세요.

또한 Private AI Hub를 네트워크에 공개적으로 실행하거나 매개변수를 사용하여 포트를 변경할 수도 있습니다. 예:

p8hub --host 0.0.0.0 --port 8080

3. 도커 확장(실험적)

Docker Extension을 사용하면 Docker Desktop의 기능을 확장할 수 있습니다. 우리는 P8Hub용 Docker 확장을 개발했습니다. 다음을 실행하여 설치할 수 있습니다.

make install-extension

Docker Desktop의 UI에 확장이 표시되어야 합니다.

II. 개발

1. 소스코드 복제

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. 백엔드 실행

• 파이썬 3.9 이상.
• 소스에서 설치하려면 p8hub 소스 코드 디렉터리에서 다음을 실행합니다.

pip install -e .

• 앱을 실행합니다.

python -m p8hub.app

• 사용자 인터페이스를 보려면 http://localhost:5678/로 이동하세요.

2. 프런트엔드 실행

• 종속성을 설치합니다.

 cd frontend
npm install

• 앱을 실행합니다.

npm run dev

• 사용자 인터페이스를 보려면 http://localhost:3000/으로 이동하세요. 이 주소를 사용하여 프런트엔드를 개발하세요.

참고자료

• 다음 템플릿: https://github.com/shadcn-ui/next-template.
• PAutoBot: https://github.com/nrl-ai/pautobot.

이 프로젝트는 Docker AI/ML Hackathon 2023을 위해 만들어졌습니다.