botastic

ボタスティック

クールなものを構築するための AI フレームワーク。

概要

モチベーション

• LLM は、公開されている大量のデータで事前トレーニングされているため、知識の生成と推論に最適です。

• 実際には、LLM が独自のデータについて推論できる必要があります。それらを微調整することは、多くの場合非現実的です。 LLM へのデータの埋め込みは実行可能な代替手段ですが、その分野の専門知識と、即時の制限に対処するための多大な労力が必要です。

• Botastic は、独自のデータを LLM に簡単に埋め込めるようにすることを目的としています。

• Botastic は、一般的なユースケースを満たすすぐに使えるソリューションを提供することも目指しています。

• 既存のシステムに簡単に統合でき、ビジネス要件に合わせて拡張可能です。

• 私たちは AI ベースのアプリケーションを構築していますが、プロセスを簡素化するには Botastic が必要です。

特徴

• OpenAIのLLMに接続する

• LLM の外部頭脳として独自のデータを保存および管理

• 安静な API

• 対話インターフェースベースのアプリケーションの構築を支援する会話管理

• ボット/アバター管理と組み込みの便利なボット: 感情認識、感情分析、スパム チェッカーなど。[未定] を参照してください。

• ミドルウェアをカスタマイズして Botastic の機能を拡張する

• Postgres およびその他のデータベースにベクターを保存する

• データを分割してテキスト チャンクを構築するためのより良い戦略

• データのエクスポート

• 他のLLMをサポートする

• 独自のモデルを微調整する

はじめる

1. https://developers.pando.im/console/botastic にアクセスして API キー/シークレットを取得し、新しいボットを作成します。

2. 次のコマンドを実行して Botastic と通信します。

 curl --location --request POST 'https://botastic-api.pando.im/api/conversations/oneway' --header 'X-BOTASTIC-APPID: YOUR_BOTASTIC_APP_ID' --header 'Content-Type: application/json ' --data-raw '{ "bot_id": YOUR_BOT_ID, "content": "ブロックチェーンの将来についてどう思いますか、またブロックチェーンにはどのような利点がありますか人間ですか？禅師のようにできるだけ短く答えてください。", "category": "plain-text"}'

ドキュメント

詳細については、ガイドと API リファレンスを参照してください。

ショーケース

• Ask Vitalik: Vitalik Buterin のデジタル アバター。

• Ask Scott Alexander: Scott Alexander のデジタル アバター。

• 著者は、それをどのように構築したかについてブログ投稿も書きました。

インストール

手動で

手動インストールについては、docs/install.md を参照してください。

ドッカー

未定