OptimAI python

OptimAI

OptimAI는 성능을 분석하고 실행 가능한 제안을 제공하여 코드를 최적화하도록 설계된 강력한 Python 모듈입니다. LLM(대형 언어 모델)을 활용하여 코드 실행 중에 수집된 프로파일링 데이터를 기반으로 자세한 통찰력과 권장 사항을 제공합니다. 이 모듈은 perfwatch 패키지의 다양한 종류의 프로파일러를 지원합니다.

특징

• 기능을 쉽게 최적화하는 사용자 정의 데코레이터.
• 성능 프로파일링을 위해 perfwatch와 통합.
• perfwatch를 사용하여 stdout, 함수 실행 시간, 네트워크 사용량, 함수 호출, CPU/GPU 사용량 등을 캡처하고 분석합니다.
• 코드 최적화 제안을 위해 다양한 LLM과 원활하게 통합됩니다.
• OpenAI, Google Gemini, HuggingFace(오프라인), ollama 및 Anthropic을 지원합니다.
• dspy를 사용하여 모든 LLM에서 최고의 성능을 제공하도록 최적화된 프롬프트

설치

pip를 사용하여 OptimAI를 설치할 수 있습니다.

pip install optimizeai

설정

OptimAI를 사용하려면 선호하는 LLM 제공업체 및 API 키로 구성해야 합니다. 지원되는 LLM 제공업체에는 Google(Gemini 모델), OpenAI, Ollama, HuggingFace 및 Anthropic이 포함됩니다. Ollama의 경우 Ollama를 설치해야 하며 모델 아티팩트도 이전에 다운로드해야 합니다.

1. LLM 제공업체 선택 :

   • Google Gemini 모델의 경우: llm = "google"
   • OpenAI 모델의 경우: llm = "openai"
   • Hugging Face 오프라인의 경우: llm = "huggingface"
   • 인류 모델의 경우: llm = "anthropic"
   • 로컬 Ollama 모델의 경우: llm = "ollama"

2. 모델을 선택하십시오 :

   • 예: model = "gpt-4" , model = "gemini-1.5-flash" , model = "codegemma" 또는 선택한 LLM 제공업체와 관련된 기타 모델.

3. API 키 설정 :

   • 선택한 LLM 제공업체에 해당하는 API 키를 사용하세요. 로컬 Huggingface 추론 및 Ollama에는 API 키가 필요하지 않습니다.

샘플 코드

다음은 OptimAI를 사용하여 기능을 최적화하는 방법을 보여주는 기본 예입니다.

 from optimizeai . decorators . optimize import optimize
from optimizeai . config import Config
from dotenv import load_dotenv
import time
import os

# Load environment variables
load_dotenv ()
llm = os . getenv ( "LLM" )
key = os . getenv ( "API_KEY" )
model = os . getenv ( "MODEL" )

# Configure LLM
llm_config = Config ( llm = llm , model = model , key = key )
perfwatch_params = [ "line" , "cpu" , "time" ]

# Define a test function to be optimized
@ optimize ( config = llm_config , profiler_types = perfwatch_params )
def test ():
    for _ in range ( 10 ):
        time . sleep ( 0.1 )
        print ( "Hello World!" )
        pass

if __name__ == "__main__" :
    test ()

환경 변수 설정

사용 편의성을 위해 .env 파일에서 환경 변수( LLM , API_KEY , MODEL )를 설정할 수 있습니다.

 LLM=google
API_KEY=your_google_api_key
MODEL=gemini-1.5-flash

향후 기능

• 코드 최적화를 위한 향상된 컨텍스트 : 보다 정확하고 관련성이 높은 최적화 권장 사항을 위해 LLM에 제공되는 컨텍스트를 향상합니다.
• 보고서 생성 : 적절한 최적화 보고서가 생성됩니다.
• 더 나은 구성 지원 : 다양한 llm 매개변수를 설정할 수 있는 더 나은 구성 지원이 제공됩니다.

기여

OptimAI에 대한 기여를 환영합니다! 새로운 기능에 대한 아이디어가 있거나 버그를 발견한 경우 GitHub에서 문제를 열어주세요. 코드를 제공하려면 저장소를 포크하고 풀 요청을 제출하세요.

기여 단계

1. 저장소를 포크하십시오.
2. 새 브랜치를 만듭니다( git checkout -b feature-branch ).
3. 원하는 대로 변경하세요.
4. 변경 사항을 커밋합니다( git commit -m 'Add new feature' ).
5. 브랜치로 푸시합니다( git push origin feature-branch ).
6. 끌어오기 요청을 엽니다.

특허

OptimAI는 MIT 라이선스에 따라 라이선스가 부여됩니다. 자세한 내용은 LICENSE 파일을 참조하세요.