watsonx go

Watsonx-aller

watsonx-go est un client watsonx pour Go

Installer

go get -u github.com/IBM/watsonx-go

Usage

 import (
  wx "github.com/IBM/watsonx-go/pkg/models"
)

Exemple d'utilisation

 export WATSONX_API_KEY= " YOUR WATSONX API KEY "
export WATSONX_PROJECT_ID= " YOUR WATSONX PROJECT ID "

Créez un client :

 client , _ := wx . NewClient ()

Ou transmettez directement les secrets requis :

 client , err := wx . NewClient (
  wx . WithWatsonxAPIKey ( apiKey ),
  wx . WithWatsonxProjectID ( projectID ),
)

Générer du texte

Génération:

 result , _ := client . GenerateText (
  "meta-llama/llama-3-1-8b-instruct" ,
  "Hi, who are you?" ,
  wx . WithTemperature ( 0.4 ),
  wx . WithMaxNewTokens ( 512 ),
)

println ( result . Text )

Génération de flux :

 dataChan , _ := client . GenerateTextStream (
  "meta-llama/llama-3-1-8b-instruct" ,
  "Hi, who are you?" ,
  wx . WithTemperature ( 0.4 ),
  wx . WithMaxNewTokens ( 512 ),
)

for data := range dataChan {
  print ( data . Text ) // print the result as it's being generated
}

Générer des intégrations

Intégration | Requête unique :

 result , _ := client . EmbedQuery (
	"ibm/slate-30m-english-rtrvr" ,
	"Hello, world!" ,
	wx . WithEmbeddingTruncateInputTokens ( 2 ), 
	wx . WithEmbeddingReturnOptions ( true ),
)

embeddingVector := result . Results [ 0 ]. Embedding

Intégration | Plusieurs documents :

 result , _ := clientl . EmbedDocuments (
    "ibm/slate-30m-english-rtrvr" ,
    [] string { "Hello, world!" , "Goodbye, world!" },
    wx . WithEmbeddingTruncateInputTokens ( 2 ), 
    wx . WithEmbeddingReturnOptions ( true ),
)

for _ , doc := range result . Results {
    fmt . Println ( doc . Embedding )
}

Configuration du développement

Essais

Installation

 export WATSONX_API_KEY= " YOUR WATSONX API KEY "
export WATSONX_PROJECT_ID= " YOUR WATSONX PROJECT ID " 

Courir

go test ./...

Hooks de pré-validation

Exécutez la commande suivante pour exécuter le formatage avant la validation :

git config --local core.hooksPath .githooks/

Utilisation de l'environnement de test

Il existe deux méthodes pour configurer le client Watsonx à utiliser avec l'environnement de test :

Option 1 : utilisation de variables d'environnement

Spécifiez l'URL Watsonx et le point de terminaison IAM à l'aide de variables d'environnement :

 export WATSONX_URL_HOST= " us-south.ml.test.cloud.ibm.com "
export WATSONX_IAM_HOST= " iam.test.cloud.ibm.com " 

Option 2 : utilisation des paramètres de la fonction NewClient

Spécifiez l'URL Watsonx et le point de terminaison IAM via les paramètres de la fonction NewClient :

 client , err := wx . NewClient (
  wx . WithURL ( "us-south.ml.test.cloud.ibm.com" ),
  wx . WithIAM ( "iam.test.cloud.ibm.com" ),
  wx . WithWatsonxAPIKey ( apiKey ),
  wx . WithWatsonxProjectID ( projectID ),
)

---

Ressources

• Documentation sur l'API REST Watsonx
• Documentation du SDK Python Watsonx