エンドユーザーに対して透過的な方法で、プロンプトとコンテキストを使用して動作にバイアスをかける LLM のラッパー。
sh インストール.sh
テキスト-ダヴィンチ-003
Google を搭載したFlan-T5 。
有料 API を介したChatGPTおよびGPT4 。
現時点では、次の 3 種類のプロンプトをサポートしています。
手動プロンプト: これらのプロンプトはハードコーディングされており、このプロジェクトに最初に含まれていました。
素晴らしいチャット GPT プロンプト: 私たちのシステムは、この巨大な HF データセットも透過的な方法でサポートしています。
カスタム プロンプト: すべてのユーザーがファイルを介してカスタム プロンプトを追加できます。
(進行中) awesome-gpt4プロンプトのサポート。
ユーザーは、Open AI ベアラーを読み取るために、次のようなconfig.txtファイルを作成する必要があります。
[認証] api_key = xxxxxxxxxxxxxxxxxx
from Smartygpt import SmartyGPT, Modelsif __name__=="__main__":s = SmartyGPT(prompt="DoctorAdvice", config_file="/home/user/config.txt") result = s.wrapper("ビタミンDは新型コロナウイルス感染症を治療できるか?")print(結果)
他の例や機能については、 Colabまたは test フォルダーを確認してください。
このプロジェクトの主な目的は、LLM に関連するすべてのリソース (モデル、プロンプト、API など) を単一の環境に結合することです。
さらに、エンドユーザーの視点からも考えます。ユーザーがモデルの応答にバイアスをかけるためにクエリに複雑なコンテキストを導入する可能性はほとんどありません。このライブラリは、実装の詳細をエンドユーザーに隠してこの問題を解決しようとします。
さらに多くの機能/モデルが登場予定です。お気軽に PR したり、問題をオープンしたり、[email protected] までご連絡ください。
ソフトウェアは「現状のまま」かつ「すべての欠陥を伴う」状態で提供され、商品性、特定目的への適合性、および非侵害の黙示的な保証を含むがこれらに限定されない、明示的か黙示的かを問わず、いかなる種類の保証もありません。ソフトウェアに欠陥がないこと、またはソフトウェアの動作が中断されないことは保証されません。ソフトウェア、およびソフトウェアを通じてダウンロードまたは利用できるその他のマテリアルやサービスの使用は、お客様ご自身の裁量とリスクで行われ、その使用から生じる潜在的な損害についてはお客様が単独で責任を負います。