ecologits

Autre code source

0.5.2

Télécharger

? EcoLogits suit la consommation d'énergie et les impacts environnementaux de l'utilisation de modèles d'IA génératifs via des API.

EcoLogits a été créé et est activement maintenu par l'organisation à but non lucratif GenAI Impact . Lisez la documentation complète sur ecologits.ai .

Installation

pip install ecologits

Pour l'intégration avec un fournisseur spécifique, utilisez pip install ecologits[openai] . Nous prenons actuellement en charge les fournisseurs suivants : anthropic , cohere , google-generativeai , huggingface-hub , mistralai et openai . Consultez la liste complète des fournisseurs.

Usage

 from ecologits import EcoLogits
from openai import OpenAI

# Initialize EcoLogits
EcoLogits . init ()

client = OpenAI ( api_key = "<OPENAI_API_KEY>" )

response = client . chat . completions . create (
    model = "gpt-3.5-turbo" ,
    messages = [
        { "role" : "user" , "content" : "Tell me a funny joke!" }
    ]
)

# Get estimated environmental impacts of the inference
print ( f"Energy consumption: { response . impacts . energy . value } kWh" )
print ( f"GHG emissions: { response . impacts . gwp . value } kgCO2eq" )