Descarga superplatform - descarga de código fuente superplatform

superplatform

Otro código fuente

1.0.0

Descargar

Superplataforma

Plataforma de IA local y ecosistema de microservicios.

superplataforma.ai

Superplatform tiene como objetivo devolver el poder a los desarrolladores en la era de la IA: ¡aloja tu propia plataforma de IA!

A partir de

La forma más sencilla de ejecutar Superplatform es con Docker. Instala Docker si no lo tienes. Ingrese a la raíz del repositorio y:

docker compose up

para ejecutar la plataforma en primer plano. Deja de ejecutarse si presionas Ctrl+C. Si desea ejecutarlo en segundo plano:

docker compose up -d

Usando

Ahora que la Superplataforma se está ejecutando, tienes algunas opciones para interactuar con ella.

interfaz de usuario

Puede ir a http://127.0.0.1:3901 e iniciar sesión con el nombre de usuario singulatron y la contraseña changeme y comenzar a usarlo tal como lo haría con ChatGPT.

Haga clic en el botón grande "AI" y descargue un modelo primero. No se preocupe, este modelo persistirá durante los reinicios (consulte los volúmenes en docker-compose.yaml).

Clientela

Para abreviar, el siguiente ejemplo supone que fue a la interfaz de usuario y ya descargó un modelo. (Eso también se podría hacer con clientes pero sería más largo).

Hagamos una solicitud de sincronización en JS. En la ejecución de su proyecto

npm i -s @superplatform/client

Asegúrese de que su package.json contenga "type": "module" , coloque el siguiente fragmento en index.js

 import { UserSvcApi , PromptSvcApi , Configuration } from "@superplatform/client" ;

async function testDrive ( ) {
  let userService = new UserSvcApi ( ) ;
  let loginResponse = await userService . login ( {
    request : {
      slug : "singulatron" ,
      password : "changeme" ,
    } ,
  } ) ;

  const promptSvc = new PromptSvcApi (
    new Configuration ( {
      apiKey : loginResponse . token ?. token ,
    } )
  ) ;

  let promptRsp = await promptSvc . addPrompt ( {
    request : {
      sync : true ,
      prompt : "Is a cat an animal? Just answer with yes or no please." ,
    } ,
  } ) ;

  console . log ( promptRsp ) ;
}

testDrive ( ) ;

y correr

$ node index.js 
{
  answer: ' Yes, a cat is an animal.n ' +
    ' n ' +
    ' But if you meant to ask whether cats are domesticated animals or pets, then the answer is also yes. Cats belong to the Felidae family and are common household pets around the world. They are often kept for companionship and to control rodent populations. ' ,
  prompt: undefined
}

Dependiendo de su sistema, la IA puede tardar un poco en responder. En caso de que tarde mucho en verificar los registros del backend si se está procesando, debería ver algo como esto:

superplatform-backend-1   | { " time " : " 2024-11-27T17:27:14.602762664Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :1, " totalResponses " :1}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:15.602328634Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :4, " totalResponses " :9}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:16.602428481Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :5, " totalResponses " :17}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:17.602586968Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :24}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:18.602583176Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :31}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:19.602576641Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :38}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:20.602284446Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :46}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:21.602178149Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :53}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:22.602470024Z " , " level " : " DEBUG " , " msg " : " LLM is streaming " , " promptId " : " prom_e3SA9bJV5u " , " responsesPerSecond " :6, " totalResponses " :61}
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:23.174054316Z " , " level " : " INFO " , " msg " : " Saving chat message " , " messageId " : " msg_e3SARBJAZe " }
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:23.175854857Z " , " level " : " DEBUG " , " msg " : " Event published " , " eventName " : " chatMessageAdded " }
superplatform-backend-1   | { " time " : " 2024-11-27T17:27:23.176260122Z " , " level " : " DEBUG " , " msg " : " Finished streaming LLM " , " error " : " <nil> " }

Contexto

Superplatform es una plataforma de microservicios que me vino a la mente por primera vez en 2013, cuando trabajaba para un competidor de Uber llamado Hailo. Dejé de lado la idea, pensando que alguien más eventualmente la construiría. Ahora, con el auge de la IA y todas las aplicaciones de IA que estamos a punto de implementar, me he dado cuenta de que tendré que crearla yo mismo, ya que nadie más lo ha hecho.

Es un servidor y un ecosistema que le permite alojar usted mismo modelos de IA, crear aplicaciones que aprovechen esos modelos en cualquier idioma y utilizar un backend comunitario basado en microservicios diseñado para respaldar una amplia gama de proyectos.

Casos de uso primario

Ejecute modelos de IA de código abierto de forma privada en su propia infraestructura, garantizando que sus datos y operaciones permanezcan totalmente bajo su control.
Cree una aplicación sin fin utilizando Superplatform como base de datos y API de solicitud de IA. Como Firebase, pero centrado en la IA.
Cree sus propios servicios backend en torno a Superplatform. Ejecute estos servicios fuera o dentro de la plataforma Superplatform.
Superplatform está diseñado para simplificar la implementación de aplicaciones de IA de terceros. Con su enfoque en virtualización y contenedores (principalmente Docker) y un enfoque de microservicios, primero API (usando OpenAPI), Superplatform integra perfectamente otras aplicaciones en su ecosistema.

Ejecute en sus servidores

Consulte esta página para ayudarle a comenzar.

Servicios

Consulte https://superplatform.ai/docs/category/superplatform-api/

Ejecute en su computadora portátil/PC

Hemos interrumpido temporalmente la distribución de la versión de escritorio. Consulte esta página para conocer métodos alternativos para ejecutar el software.