ecologits

Otro código fuente

0.5.2

Descargar

? EcoLogits rastrea el consumo de energía y los impactos ambientales del uso de modelos de IA generativa a través de API.

EcoLogits fue creado y mantenido activamente por la organización sin fines de lucro GenAI Impact . Lea la documentación completa en ecologits.ai .

Instalación

pip install ecologits

Para la integración con un proveedor específico, utilice pip install ecologits[openai] . Actualmente brindamos soporte a los siguientes proveedores: anthropic , cohere , google-generativeai , huggingface-hub , mistralai y openai . Vea la lista completa de proveedores.

Uso

 from ecologits import EcoLogits
from openai import OpenAI

# Initialize EcoLogits
EcoLogits . init ()

client = OpenAI ( api_key = "<OPENAI_API_KEY>" )

response = client . chat . completions . create (
    model = "gpt-3.5-turbo" ,
    messages = [
        { "role" : "user" , "content" : "Tell me a funny joke!" }
    ]
)

# Get estimated environmental impacts of the inference
print ( f"Energy consumption: { response . impacts . energy . value } kWh" )
print ( f"GHG emissions: { response . impacts . gwp . value } kgCO2eq" )