watsonx go

watsonx-go

watsonx-go é um cliente watsonx para Go

Instalar

go get -u github.com/IBM/watsonx-go

Uso

 import (
  wx "github.com/IBM/watsonx-go/pkg/models"
)

Exemplo de uso

 export WATSONX_API_KEY= " YOUR WATSONX API KEY "
export WATSONX_PROJECT_ID= " YOUR WATSONX PROJECT ID "

Crie um cliente:

 client , _ := wx . NewClient ()

Ou passe diretamente os segredos necessários:

 client , err := wx . NewClient (
  wx . WithWatsonxAPIKey ( apiKey ),
  wx . WithWatsonxProjectID ( projectID ),
)

Gerar texto

Geração:

 result , _ := client . GenerateText (
  "meta-llama/llama-3-1-8b-instruct" ,
  "Hi, who are you?" ,
  wx . WithTemperature ( 0.4 ),
  wx . WithMaxNewTokens ( 512 ),
)

println ( result . Text )

Geração de fluxo:

 dataChan , _ := client . GenerateTextStream (
  "meta-llama/llama-3-1-8b-instruct" ,
  "Hi, who are you?" ,
  wx . WithTemperature ( 0.4 ),
  wx . WithMaxNewTokens ( 512 ),
)

for data := range dataChan {
  print ( data . Text ) // print the result as it's being generated
}

Gerar incorporações

Incorporação | Consulta única:

 result , _ := client . EmbedQuery (
	"ibm/slate-30m-english-rtrvr" ,
	"Hello, world!" ,
	wx . WithEmbeddingTruncateInputTokens ( 2 ), 
	wx . WithEmbeddingReturnOptions ( true ),
)

embeddingVector := result . Results [ 0 ]. Embedding

Incorporação | Vários documentos:

 result , _ := clientl . EmbedDocuments (
    "ibm/slate-30m-english-rtrvr" ,
    [] string { "Hello, world!" , "Goodbye, world!" },
    wx . WithEmbeddingTruncateInputTokens ( 2 ), 
    wx . WithEmbeddingReturnOptions ( true ),
)

for _ , doc := range result . Results {
    fmt . Println ( doc . Embedding )
}

Configuração de desenvolvimento

Testes

Configurar

 export WATSONX_API_KEY= " YOUR WATSONX API KEY "
export WATSONX_PROJECT_ID= " YOUR WATSONX PROJECT ID " 

Correr

go test ./...

Ganchos de pré-confirmação

Execute o seguinte comando para executar a formatação pré-confirmação:

git config --local core.hooksPath .githooks/

Usando ambiente de teste

Existem dois métodos para configurar o cliente watsonx a ser usado com o ambiente de teste:

Opção 1: usando variáveis ​​de ambiente

Especifique a URL do Watsonx e o terminal IAM usando variáveis ​​de ambiente:

 export WATSONX_URL_HOST= " us-south.ml.test.cloud.ibm.com "
export WATSONX_IAM_HOST= " iam.test.cloud.ibm.com " 

Opção 2: usando os parâmetros da função NewClient

Especifique a URL do Watsonx e o terminal IAM por meio dos parâmetros da função NewClient:

 client , err := wx . NewClient (
  wx . WithURL ( "us-south.ml.test.cloud.ibm.com" ),
  wx . WithIAM ( "iam.test.cloud.ibm.com" ),
  wx . WithWatsonxAPIKey ( apiKey ),
  wx . WithWatsonxProjectID ( projectID ),
)

---

Recursos

• Documentos da API REST watsonx
• Documentos do SDK Python do watsonx