hal9ダウンロード - hal9ソースコードのダウンロード

hal9

AI ソースコード

1.0.0

ダウンロード

Hal9: 生成アプリの作成と共有

生成 (LLM とディフューザー) アプリケーション (チャットボットと API) を数秒で作成してデプロイします。

オープン:任意のモデル (OpenAI、Llama、Groq、MidJourney) および任意のライブラリ (LangChain、DSPy) を使用します。
直感的:アプリのフレームワーク (Flask) を学ぶ必要はなく、単にinput()とprint()を使用するか、ファイルをディスクに書き込むだけです。
スケーラブル:エンジニアはアプリをスケーラブルなテクノロジー (Docker、Kubernetes など) と統合できます。
強力: OS プロセス (stdin、stdout、ファイル) をアプリのコントラクトとして使用することで、長時間実行されるエージェント、複数のプログラミング言語、および複雑なシステム依存関係が可能になります。

AI (RAG、微調整、調整、トレーニング) に集中し、エンジニアリングタスク (フロントエンド開発、バックエンド統合、展開、運用) をスキップします。

はじめる

次のようにチャットボットを数秒で作成して共有します。

pip install hal9

hal9 create chatbot
hal9 deploy chatbot

deploy hal9.com/devs から取得できる API トークンを含むHAL9_TOKEN環境変数が必要であることに注意してください。このトークンを使用して、ローカルコンピューター、ノートブックからデプロイしたり、GitHub から自動化したりできます。

HAL9_TOKEN=H9YOURTOKEN hal9 deploy chatbot --name my_first_chatbot

とても簡単に、最初のチャットボットが作成されました。

代替テキスト

/chatbot/app.py内のコードには、ユーザープロンプトを読み取り、結果をエコーバックする「Hello World」チャットボットが含まれています。

 prompt = input ()
print ( f"Echo: { prompt } " )

私たちはシンプルさを念頭に置いてこのパッケージを設計しました。コードの仕事は入力を読み取って出力を書き込むことだけです。とはいえ、LLM を使用するチャットボットを作成したり、画像を生成したり、データベースに接続するツールを使用したり、Web サイトやゲームを構築したりすることもできます。

創造

デフォルトでは、 hal9 create --template echoテンプレートをデフォルトとしますが、次のように別のテンプレートを選択することもできます。

hal9 create chatbot-openai --template openai
hal9 create chatbot-groq --template groq

テンプレートは、特定のテクノロジーとユースケースを備えたすぐに使用できるコードを提供します。 --template openaiを使用して OpenAI の ChatGPT に似たテンプレートを使用するのが非常に一般的です。生成されるコードは次のようになります。

 import hal9 as h9
from openai import OpenAI

messages = h9 . load ( "messages" , [])
prompt = h9 . input ( messages = messages )

completions = OpenAI (). chat . completions . create ( model = "gpt-4" , messages = messages , stream = True )

h9 . complete ( completions , messages = messages )
h9 . save ( "messages" , messages , hidden = True )

「学習」セクションでは、このコードがどのように機能するかについて詳しく説明しますが、概要も簡単に説明します。 hal9パッケージには、生成 AI コードを簡素化するヘルパー関数が含まれています。 hal9まったく使用せず、 input()およびprint()ステートメントを自分で使用するか、 langchainのようなツールを使用することもできます。 h9.load()とh9.save()関数は、チャットセッション全体でデータをロードおよび保存します。プラットフォームはデフォルトでステートレスです。 h9.input()関数は、 input()のスリムなラッパーであり、ユーザー入力をmessagesに保存します。 h9.complete()は、完了結果を解析し、結果をmessagesに保存するのに役立つヘルパー関数です。それくらいです！