superplatform
1.0.0
Superplatform은 AI 시대에 개발자에게 자신만의 AI 플랫폼을 호스트하는 힘을 돌려주는 것을 목표로 합니다!
Superplatform을 실행하는 가장 쉬운 방법은 Docker를 사용하는 것입니다. Docker가 없으면 설치하세요. repo 루트로 들어가서 다음을 수행하십시오.
docker compose up플랫폼을 전경에서 실행합니다. Ctrl+C를 누르면 실행이 중지됩니다. 백그라운드에서 실행하고 싶다면:
docker compose up -d이제 Superplatform이 실행되고 있으므로 상호 작용할 수 있는 몇 가지 옵션이 있습니다.
http://127.0.0.1:3901 로 이동하여 사용자 이름 singulatron 및 비밀번호 changeme 으로 로그인하고 ChatGPT를 사용하는 것처럼 사용을 시작할 수 있습니다.
큰 "AI" 버튼을 클릭하고 먼저 모델을 다운로드하세요. 걱정하지 마세요. 이 모델은 다시 시작해도 유지됩니다(docker-compose.yaml의 볼륨 참조).
간략하게 하기 위해 아래 예에서는 사용자가 UI로 이동하여 이미 모델을 다운로드했다고 가정합니다. (클라이언트에서도 수행할 수 있지만 시간이 더 길어질 수 있습니다).
JS에서 동기화 프롬프트를 실행해 보겠습니다. 프로젝트 실행에서
npm i -s @superplatform/client package.json 에 "type": "module" 포함되어 있는지 확인하고 다음 스니펫을 index.js 에 넣으세요.
import { UserSvcApi , PromptSvcApi , Configuration } from "@superplatform/client" ;
async function testDrive ( ) {
let userService = new UserSvcApi ( ) ;
let loginResponse = await userService . login ( {
request : {
slug : "singulatron" ,
password : "changeme" ,
} ,
} ) ;
const promptSvc = new PromptSvcApi (
new Configuration ( {
apiKey : loginResponse . token ?. token ,
} )
) ;
let promptRsp = await promptSvc . addPrompt ( {
request : {
sync : true ,
prompt : "Is a cat an animal? Just answer with yes or no please." ,
} ,
} ) ;
console . log ( promptRsp ) ;
}
testDrive ( ) ;그리고 달리다
$ node index.js
{
answer: ' Yes, a cat is an animal.n ' +
' n ' +
' But if you meant to ask whether cats are domesticated animals or pets, then the answer is also yes. Cats belong to the Felidae family and are common household pets around the world. They are often kept for companionship and to control rodent populations. ' ,
prompt: undefined
}시스템에 따라 AI가 응답하는 데 시간이 걸릴 수 있습니다. 백엔드 로그가 처리 중인지 확인하는 데 시간이 오래 걸리는 경우 다음과 같은 내용이 표시됩니다.
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:14.602762664Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :1, " totalResponses " :1}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:15.602328634Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :4, " totalResponses " :9}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:16.602428481Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :5, " totalResponses " :17}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:17.602586968Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :24}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:18.602583176Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :31}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:19.602576641Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :38}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:20.602284446Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :46}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:21.602178149Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :53}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:22.602470024Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :61}
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:23.174054316Z " , " level " : " INFO " , " msg " : " Saving chat message " , " messageId " : " msg_e3SARBJAZe " }
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:23.175854857Z " , " level " : " DEBUG " , " msg " : " Event published " , " eventName " : " chatMessageAdded " }
superplatform-backend-1 | { " time " : " 2024-11-27T17:27:23.176260122Z " , " level " : " DEBUG " , " msg " : " Finished streaming LLM " , " error " : " <nil> " }Superplatform은 제가 2013년 Hailo라는 Uber 경쟁사에서 일할 때 처음 떠올린 마이크로서비스 플랫폼입니다. 나는 다른 사람이 결국 그것을 만들 것이라고 생각하면서 아이디어를 보류했습니다. 이제 AI 붐과 우리가 곧 출시할 모든 AI 앱을 통해 다른 누구도 구축하지 않은 AI 앱을 직접 구축해야 한다는 것을 깨달았습니다.
서버이자 생태계를 통해 AI 모델을 자체 호스팅하고, 모든 언어로 해당 모델을 활용하는 앱을 구축하고, 다양한 프로젝트를 지원하도록 설계된 마이크로서비스 기반 공용 백엔드를 활용할 수 있습니다.
시작하는 데 도움이 되려면 이 페이지를 참조하세요.
https://superplatform.ai/docs/category/superplatform-api/를 참조하세요.
데스크톱 버전 배포를 일시적으로 중단했습니다. 소프트웨어를 실행하는 다른 방법은 이 페이지를 참조하십시오.
슈퍼플랫폼은 AGPL-3.0에 따라 라이센스가 부여됩니다.
