okahu demo lc openai

Demo Okahu dengan OpenAI + Langchain

Repo ini mencakup aplikasi obrolan demo yang dibuat menggunakan OpenAI & Langchain yang telah diinstrumentasi sebelumnya untuk observasi dengan cloud Okahu AI Observability. Anda dapat melakukan fork repo ini dan menjalankan aplikasi di Github Codespaces untuk memulai dengan cepat.

Coba Okahu dengan aplikasi OpenAI ini

Untuk mencoba chatbot ini

• Garpu repo ini dan jalankan di Github Codespace
• Untuk menjalankan ini di Mac
  • Instal dependensi python: pip install -r requirement.txt
  • Hapus libmagic: pip uninstall python-magic
• Untuk menjalankan ini di Windows
  • Instal dependensi python: pip install -r requirement.txt

Anda akan membutuhkannya

• Langganan OpenAI dan kunci API untuk platform pengembang OpenAI
• Penyewa Okahu dan kunci API untuk Okahu AI Observability Cloud

Konfigurasikan lingkungan demo

• Salin file botenv.sh.template ke botenv.sh
• Edit file botenv.sh untuk menambahkan Kunci API OpenAI dan kunci API Okahu dan simpan

Jalankan chatbot interaktif

Aplikasi ini merupakan chatbot interaktif yang menjawab pertanyaan seputar kopi dan dibangun dengan pola desain RAG. Alur kerja adalah program python menggunakan kerangka orkestrasi Langchain LLM. Dataset vektor dibangun menggunakan model penyematan text-embedding-3-large dari OpenAI dari dataset lokal tentang kopi. Data vektor disimpan dalam Chroma vectorDB berbasis file lokal. Aplikasi ini menggunakan model OpenAI gpt-4o-mini untuk inferensi.

Untuk mencoba Okahu dari Github Codespace

1. Jalankan aplikasi chatbot yang telah diinstrumentasi sebelumnya dengan perintah berikut dari direktori tingkat atas

   python lc-openai-with-okahu.py

2. Lihat alur kerja yang ditemukan oleh Okahu AI Observability Cloud dengan perintah berikut menggunakan kunci API Okahu Anda

   • Temukan semua komponen curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Dapatkan komponen yang ditemukan curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Lihat dokumen Okahu AI Observability Cloud API di sini

Contoh keluaran

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

Instrumentasi Okahu

Untuk menjalankan aplikasi chatbot tanpa instrumentasi Okahu, gunakan perintah python lc-openai.py

Untuk memahami cara kerja instrumentasi Okahu, bandingkan lc-openai.py dan lc-openai-with-okahu.py