ecologits

Outro código-fonte

0.5.2

Baixar

? EcoLogits rastreia o consumo de energia e os impactos ambientais do uso de modelos generativos de IA por meio de APIs.

EcoLogits foi criado e é mantido ativamente pela organização sem fins lucrativos GenAI Impact . Leia a documentação completa em ecologits.ai .

Instalação

pip install ecologits

Para integração com um provedor específico, use pip install ecologits[openai] . Atualmente oferecemos suporte aos seguintes provedores: anthropic , cohere , google-generativeai , huggingface-hub , mistralai e openai . Veja a lista completa de fornecedores.

Uso

 from ecologits import EcoLogits
from openai import OpenAI

# Initialize EcoLogits
EcoLogits . init ()

client = OpenAI ( api_key = "<OPENAI_API_KEY>" )

response = client . chat . completions . create (
    model = "gpt-3.5-turbo" ,
    messages = [
        { "role" : "user" , "content" : "Tell me a funny joke!" }
    ]
)

# Get estimated environmental impacts of the inference
print ( f"Energy consumption: { response . impacts . energy . value } kWh" )
print ( f"GHG emissions: { response . impacts . gwp . value } kgCO2eq" )