Загрузка OptimAI python - Загрузка исходного кода OptimAI python

OptimAI python

Питон

1.0.0

Скачать

ОптимАИ

OptimAI — это мощный модуль Python, предназначенный для оптимизации вашего кода путем анализа его производительности и предоставления практических рекомендаций. Он использует большую языковую модель (LLM), чтобы предоставить вам подробную информацию и рекомендации на основе данных профилирования, собранных во время выполнения вашего кода. Этот модуль поддерживает различные виды профилировщиков из пакета perfwatch.

Функции

Пользовательские декораторы для простой оптимизации функций.
Интеграция с perfwatch для профилирования производительности.
Собирайте и анализируйте стандартный вывод, время выполнения функции, использование сети, вызовы функций, использование ЦП/ГП и т. д. с помощью perfwatch.
Бесшовная интеграция с различными LLM для предложений по оптимизации кода.
Поддержка OpenAI, Google Gemini, HuggingFace (офлайн), ollama и Anthropic.
Оптимизированные подсказки для повышения производительности любого LLM с использованием dspy.

Установка

Вы можете установить OptimAI с помощью pip:

pip install optimizeai

Настраивать

Чтобы использовать OptimAI, вам необходимо настроить его с помощью предпочитаемого вами поставщика LLM и ключа API. Поддерживаемые поставщики LLM включают Google (модели Gemini), OpenAI, Ollama, HuggingFace и Anthropic. Для Ollama вам необходимо установить Ollama, а также предварительно загрузить артефакты модели.

Выберите поставщика LLM :
- Для моделей Google Gemini: llm = "google"
- Для моделей OpenAI: llm = "openai"
- Для Hugging Face в автономном режиме: llm = "huggingface"
- Для антропных моделей: llm = "anthropic"
- Для местных моделей Ollama: llm = "ollama"
Выберите модель :
- Пример: model = "gpt-4" , model = "gemini-1.5-flash" , model = "codegemma" или любая другая модель, специфичная для выбранного поставщика LLM.
Установите ключ API :
- Используйте соответствующий ключ API для выбранного поставщика LLM. Для локального вывода Huggingface и Ollama не требуется ключ API.

Пример кода

Вот базовый пример, демонстрирующий, как использовать OptimAI для оптимизации функции:

 from optimizeai . decorators . optimize import optimize
from optimizeai . config import Config
from dotenv import load_dotenv
import time
import os

# Load environment variables
load_dotenv ()
llm = os . getenv ( "LLM" )
key = os . getenv ( "API_KEY" )
model = os . getenv ( "MODEL" )

# Configure LLM
llm_config = Config ( llm = llm , model = model , key = key )
perfwatch_params = [ "line" , "cpu" , "time" ]

# Define a test function to be optimized
@ optimize ( config = llm_config , profiler_types = perfwatch_params )
def test ():
    for _ in range ( 10 ):
        time . sleep ( 0.1 )
        print ( "Hello World!" )
        pass

if __name__ == "__main__" :
    test ()

Установка переменных среды

Вы можете установить переменные среды ( LLM , API_KEY , MODEL ) в файле .env для простоты использования:

 LLM=google
API_KEY=your_google_api_key
MODEL=gemini-1.5-flash

Предстоящие функции

Улучшенный контекст для оптимизации кода . Улучшите контекст, предоставляемый LLM, для получения более точных и актуальных рекомендаций по оптимизации.
Генерация отчета : Будет создан правильный отчет об оптимизации.
Поддержка лучшей конфигурации : появится улучшенная поддержка конфигурации, благодаря которой вы сможете устанавливать различные параметры llm.

Содействие

Мы приветствуем вклад в OptimAI! Если у вас есть идея для новой функции или вы обнаружили ошибку, откройте проблему на GitHub. Если вы хотите добавить код, создайте репозиторий и отправьте запрос на включение.