okahu demo lc openai

OpenAI + Langchain을 사용한 Okahu 데모

이 리포지토리에는 Okahu AI Observability 클라우드를 통한 관찰을 위해 사전 계측된 OpenAI 및 Langchain을 사용하여 구축된 데모 채팅 애플리케이션이 포함되어 있습니다. 이 리포지토리를 포크하고 Github Codespaces에서 앱을 실행하여 빠르게 시작할 수 있습니다.

OpenAI 앱으로 Okahu를 사용해 보세요

이 챗봇을 사용해 보려면

• 이 저장소를 포크하고 Github Codespace에서 실행하세요.
• Mac에서 실행하려면
  • Python 종속성 설치: pip install -r requirement.txt
  • libmagic 제거: pip uninstall python-magic
• Windows에서 실행하려면
  • Python 종속성 설치: pip install -r requirement.txt

당신은 필요합니다

• OpenAI 구독 및 OpenAI 개발자 플랫폼에 대한 API 키
• Okahu AI Observability Cloud의 Okahu 테넌트 및 API 키

데모 환경 구성

• botenv.sh.template 파일을 botenv.sh에 복사합니다.
• botenv.sh 파일을 편집하여 OpenAI API 키와 Okahu API 키를 추가하고 저장합니다.

대화형 챗봇 실행

이 애플리케이션은 커피에 대한 질문에 답변하고 RAG 디자인 패턴으로 구축된 대화형 챗봇입니다. 워크플로우는 Langchain LLM 오케스트레이션 프레임워크를 사용하는 Python 프로그램입니다. 벡터 데이터세트는 커피에 대한 로컬 데이터세트에서 OpenAI의 text-embedding-3-large 임베딩 모델을 사용하여 구축되었습니다. 벡터 데이터는 로컬 파일 기반 Chroma 벡터DB에 저장됩니다. 이 앱은 추론을 위해 OpenAI gpt-4o-mini 모델을 사용합니다.

Github Codespace에서 Okahu를 사용해 보려면

1. 최상위 디렉터리에서 다음 명령을 사용하여 사전 계측된 챗봇 앱을 실행합니다.

   python lc-openai-with-okahu.py

2. Okahu API 키를 사용하여 다음 명령을 사용하여 Okahu AI Observability Cloud에서 검색한 워크플로를 확인하세요.

   • 모든 구성 요소 검색 curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • 검색된 구성 요소 가져 curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   여기에서 Okahu AI Observability Cloud API 문서를 확인하세요.

예제 출력

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

오카후 계측

Okahu 계측 없이 챗봇 앱을 실행하려면 python lc-openai.py 명령을 사용하세요.

Okahu 계측 작동 방식을 이해하려면 lc-openai.py 및 lc-openai-with-okahu.py를 비교하세요.