KoboldAI Client
Looking for our latest KoboldAI product?
KoboldAI は KoboldAI ソフトウェアにちなんで名付けられました。現在、最も新しくて人気のあるプログラムは KoboldCpp です。
このメッセージを読んでいるあなたは、オリジナルの KoboldAI ソフトウェアのページにアクセスしています。
GGUF モデルと最新の API 機能で KoboldCpp を使用することを好みますか? https://koboldai.org/cpp にアクセスしてください。
Huggingface / Exllama (safetensors/pytorch) プラットフォームを使用した Llama ベースのモデルなどの新しいモデルのサポートが必要ですか? https://koboldai.org/united で Koboldai の開発バージョン Koboldai United をチェックしてください。
これは、複数のローカルおよびリモート AI モデルを使用した AI 支援ライティングのためのブラウザベースのフロントエンドです。メモリ、作成者のノート、世界情報、保存とロード、調整可能な AI 設定、書式設定オプション、既存の AI ダンジョン アドベンチャーをインポートする機能など、標準的な一連のツールを提供します。アドベンチャー モードをオンにして、AI Dungeon Unleashed のようなゲームをプレイすることもできます。
ストーリーは、小説やテキスト アドベンチャー ゲームのようにプレイしたり、複数のゲームプレイ スタイルを簡単に切り替えてチャットボットとして使用したりできます。これにより、KoboldAI は執筆アシスタント、ゲーム、さらに多くのプラットフォームの両方になります。プレイ方法や AI の性能は、使用するモデルやサービスによって異なります。 Google Colab の無料で高速な機能、独自のハイエンド グラフィック カード、API キーを持っているオンライン サービス (OpenAI や Inferkit など) を使用したい場合でも、CPU 上で単に低速で実行したい場合でも、あなたに合ったKoboldAIの使い方を見つけてください。
デフォルトでは、KoboldAI は書き込み用に最適化された汎用モードで実行されますが、適切なモデルを使用すれば、これを AI ダンジョンのように問題なくプレイできます。設定でこれを有効にして独自のプロンプトを使用したり、ランダムなプロンプトを生成してみたり、/aids/ Prompts で利用可能なプロンプトの 1 つをダウンロードしたりすることができます。
ゲームプレイは AI ダンジョンのゲームプレイとは若干異なります。これは、Unleashed フォークのタイプを採用しており、舞台裏で文章を自動的に調整しないため、すべてのキャラクターを完全に制御できるためです。これは、自分ではないキャラクターをより確実に制御できることを意味します。
この結果、入力する必要がある内容が少し異なります。AI Dungeon ではtake the Swordと入力しますが、KoboldAI ではYou take the Swordのような文のように入力します。これは、単語の代わりに You という単語を使用するのが最適です。私。
簡単に言うと、「まず物資を集めるべきだろう」と入力します。
引用符を入力するだけでも機能するかもしれませんが、コマンドで誰が何を行うかを指定すると、AI が最大限の能力を発揮します。
友達と一緒にこれを行いたい場合は、メインキャラクターをあなたとして使用し、アドベンチャー用に訓練されたモデルでプレイしている場合は、他のキャラクターを名前で使用することをお勧めします。これらのモデルは、物語の中にあなたが存在することを前提としています。通常、このモードは Novel モデルではうまく機能しません。これは、AI と交替で行う通常のストーリー執筆に最適な入力の処理方法が分からないためです。
koboldAI を執筆アシスタントとして使用したい場合は、小説用に最適化されたモデルを使用して通常モードで行うのが最適です。これらのモデルは、あなたというキャラクターが存在することを前提としておらず、小説のような執筆に焦点を当てています。記述する場合、これらのモデルは、多くの場合、Adventure モデルや Generic モデルよりも優れた結果をもたらします。そうは言っても、ストーリーへの適切な導入を行っておけば、書きたい内容に対してより具体的なモデルが利用できない場合には、13B のような大規模な汎用モデルを使用できます。また、やりたいことに固有ではないモデルの使用を試みることもできます。たとえば、SFW モデルが利用できない場合は、SFW ストーリー用の NSFW Novel モデルを使用します。これは、モデルに偏りがあるため、より頻繁にモデルを修正する必要があることを意味しますが、モデルがトピックに十分に精通していれば、それでも十分な結果を生み出すことができます。
チャットボット モードでは、適切なモデルをチャットボットとして使用できます。このモードでは、文の先頭にあなたの名前が自動的に追加され、AI があなたとして話すのを防ぎます。これを適切に使用するには、次の形式で両方のキャラクターとしてストーリーの冒頭を記述する必要があります (独自のテキストを使用できます)。
Bot : Hey!
You : Hey Boyname, how have you been?
Bot : Been good! How about you?
You : Been great to, excited to try out KoboldAI
Bot : KoboldAI is really fun!
You : For sure! What is your favorite game?
特に最初は AI が名前を混同する可能性があるため、独自の入力を最後の入力にすることをお勧めします。その場合は、再試行するか、手動で名前を修正してください。この動作は、チャットが進むにつれて改善されます。一部のモデルは、ボットに定義した名前に似た別の名前の方がよく知られている場合、名前を交換することがあります。その場合は、時々手動で修正するか、AI が好むチャットボットの名前を選択することができます。
このモードは、汎用モデルまたは専用に設計されたチャットボット モデルのいずれかで最もよく機能します。AvrilAI モデルなどの一部のモデルは、代わりにアドベンチャー モードで使用するように設計されており、上記の形式に準拠していません。これらのモデルは通常、デフォルトでアドベンチャー モードが有効になった状態で出荷されるため、チャットボット モードに切り替えないでください。
Novel または Adventure モデルはこの機能には推奨されませんが、それでも動作する可能性はありますが、会話形式からすぐに脱線する可能性があります。
強力なコンピュータで KoboldAI をオンラインで無料でプレイしたい場合は、Google Colaborty を使用できます。 TPU エディションと GPU エディションの 2 つのエディションが用意されており、さまざまなモデルが利用可能です。これらは完全に Google のサーバー上で実行され、ストーリーを保存することを選択すると、保存内容が Google ドライブに自動的にアップロードされます (または、ストーリーが Google ドライブに保存されないように、代わりに保存内容をダウンロードすることを選択することもできます)。詳しい使用方法については、Colab の下部に記載されています。
各エディションには異なるモデルがあり、実行するために異なるハードウェアが必要です。つまり、TPU または GPU を入手できない場合でも、他のバージョンを使用できる可能性があります。使用できるモデルはエディションの下にリストされています。 Colab を開くには、エディション名が記載された大きなリンクをクリックします。
| モデル | スタイル | 説明 |
|---|---|---|
| ミスター・シーカーのネリス | 小説/アドベンチャー | Nerys は Pike (新しい Janeway) をベースにしたハイブリッド モデルで、Pike データセットに加えて、いくつかの Light Novels、Adventure モードのサポート、そして少しの Shinen もミックスに投入されています。最終結果は、SFW の小説執筆に大きく偏った非常に多様なモデルですが、小説のトレーニングを超えて、優れた冒険モデルを作成できるモデルです。アドベンチャー モードは二人称視点でプレイするのが最適ですが、一人称または三人称でもプレイできます。小説を書くには、一人称または三人称が最適です。 |
| ミスター・シーカーのエレバス | NSFW | Erebus は私たちのコミュニティの主力 NSFW モデルであり、Literotica、Shinen、Nerys のエロ小説を含む複数の大規模なデータセットを組み合わせたもので、徹底的なタグ付けサポートを特徴としており、エロティックな文章スタイルの大部分をカバーしています。このモデルは、内容とスタイルの点で Lit モデルと Shinen モデルの両方を置き換えることができ、最高の NSFW モデル (の 1 つ) として好評を博しています。このモデルを商用または非研究用途に使用したい場合は、制限的な OPT ライセンスの対象ではない 20B バージョンを選択することをお勧めします。 |
| ミスター・シーカーのジェインウェイ | 小説 | Janeway は、Picard のデータセットと電子書籍の新しいコレクションを組み合わせて作成されたモデルです。このモデルは、Picard よりも 20% 多いコンテンツでトレーニングされており、さまざまなジャンルの文学でトレーニングされています。モデルは主に SFW に焦点を当てていますが、ロマンチックなシーンにはある程度のヌードが含まれる場合があります。 |
| Shinen by Mr Seeker | NSFW | Shinen は、Web サイト Sexstories のさまざまなストーリーに基づいてトレーニングされた NSFW モデルであり、さまざまなねじれが含まれています。これは、より大きな (そしてより優れた) Erebus モデルに統合されました。 |
| かせ by VE_FORBRYDERNE | アドベンチャー | Skein は、Adventure モードを有効にして使用するのが最適で、Adventure モデルよりも 4 倍大きいアドベンチャー データセットで構成されており、テキスト アドベンチャー ゲームに最適です。それに加えて、知識と執筆能力をさらに高めるライトノベルのトレーニングも含まれます。 You フィルター バイアスを使用して小説を書きたい場合は、これを使用できますが、このタスクでは専用の Novel モデルの方がパフォーマンスが向上します。 |
| アドベンチャー by VE_FORBRYDERNE | アドベンチャー | Adventure は、AI Dungeon の動作を模倣するように設計された 6B モデルです。これはアドベンチャー モード専用で、AI ダンジョン プレイヤーが大好きな壮大で風変わりな冒険にあなたを連れて行くことができます。また、非常によく似たデータでトレーニングされているため、AI Dungeon の多くの比喩も特徴です。二人称 (あなた) で使用する必要があります。 |
| 点灯 (V2) by ハル | NSFW | Lit は、タグ付けのサポートとともに、Literotica ストーリーの大規模なセットと高品質の小説の両方について、Haru によってトレーニングされた優れた NSFW モデルです。 NSFW ストーリー用の高品質なモデルを作成します。このモデルはもっぱら斬新なモデルであり、三人称で使用するのが最適です。 |
| Metaseq による OPT | ジェネリック | OPT は、コンテンツに関する限り最高のベース モデルの 1 つと考えられており、その動作には GPT-Neo と Fairseq Dense の両方の長所があります。 Neo 重複と比較すると、不要なコンテンツは省略されていますが、Fairseq Dense モデルと同様に追加の文献が追加されています。ただし、Fairseq Dense モデルには、OPT が持つ広範なデータが欠けています。 OPT の最大の欠点はライセンスにあり、商用利用や研究目的を超えた利用は禁止されています。 |
| Neo(X) by EleutherAI | ジェネリック | NeoX は現在利用可能な最大の EleutherAI モデルであり、汎用モデルであるため特にトレーニングされておらず、さまざまな執筆、Q&A、コーディング タスクを実行できます。 20B のパフォーマンスは 13B モデルとほぼ同等であり、特に英語のライティングを必要としないタスクがある場合は、両方を試してみる価値があります。同じデータセットでトレーニングされているため、その動作は GPT-J-6B モデルに似ていますが、繰り返しペナルティに対する感度が高く、より多くの知識が必要です。 |
| フェアシークデンス | ジェネリック | Facebook 研究者によってトレーニングされたこのモデルは、Fairseq 内の MOE 研究プロジェクトから生まれました。この特定のバージョンは、KoboldAI で使用するために当社によって変換されました。これは、EleutherAI のより大きな 20B モデルと同等であることが知られており、ポップ カルチャーや言語タスクに適していると考えられています。モデルは新しい行 (入力) を一度も見たことがないため、書式設定や段落設定のパフォーマンスが低下する可能性があります。他のモデルと比較して、このデータセットは主に文献に焦点を当てており、他にはほとんど含まれていません。 |
| GPT-J-6B by EleutherAI | ジェネリック | このモデルは、他のほとんどの 6B モデルの基礎として機能します (一部は代わりに Fairseq Dense に基づいています)。 Pile でトレーニングされており、特に何かに偏っていないため、ライティング、Q&A、コーディングなどのさまざまなタスクに適しています。より大きな汎用モデルまたは微調整されたモデルを使用すると、より良い結果が得られる可能性があります。 |
| モデル | スタイル | 説明 |
|---|---|---|
| ミスター・シーカーのネリス | 小説/アドベンチャー | Nerys は Pike (新しい Janeway) をベースにしたハイブリッド モデルで、Pike データセットに加えて、いくつかの Light Novels、Adventure モードのサポート、そして少しの Shinen もミックスに投入されています。最終結果は、SFW の小説執筆に大きく偏った非常に多様なモデルですが、小説のトレーニングを超えて、優れた冒険モデルを作成できるモデルです。アドベンチャー モードは二人称視点でプレイするのが最適ですが、一人称または三人称でもプレイできます。小説を書くには、一人称または三人称が最適です。 |
| タイファイター 13B by KoboldAI | ハイブリッド | Tiefighter 13B は非常に多用途なフィクション ハイブリッドであり、アドベンチャー ゲームを書いたり、チャットしたり、プレイしたりすることができ、通常の指示に答えることもできます (ただし、このモデルはフィクションであるため、実際の使用はお勧めしません)。これは優れた開始モデルです。最良の結果を得るには、テキスト アドベンチャーにしたくない場合を除き、チャットで二人称の書き込みを使用しないでください。 |
| ミスター・シーカーのジェインウェイ | 小説 | Janeway は、Picard のデータセットと電子書籍の新しいコレクションを組み合わせて作成されたモデルです。このモデルは、Picard よりも 20% 多いコンテンツでトレーニングされており、さまざまなジャンルの文学でトレーニングされています。モデルは主に SFW に焦点を当てていますが、ロマンチックなシーンにはある程度のヌードが含まれる場合があります。 |
| ミスター・シーカーのピカード | 小説 | Picard は、Neo 2.7B に基づいて SFW Novels 用にトレーニングされたモデルです。 NSFWバイアスのない小説スタイルの執筆に焦点を当てています。名前は SF モデルを示唆していますが、このモデルはさまざまなジャンルの小説向けに設計されています。 KoboldAI の通常モードで使用することを目的としています。 |
| メラスタチョによるAID | アドベンチャー | Adventure 2.7B としても知られるこれは、AI Dungeon Classic モデルのクローンであり、AI Dungeon Classic プレイヤーが愛する壮大な風変わりな冒険で最もよく知られています。 |
| Metaseq による OPT | ジェネリック | OPT は、コンテンツに関する限り最高のベース モデルの 1 つと考えられており、その動作には GPT-Neo と Fairseq Dense の両方の長所があります。 Neo 重複と比較すると、不要なコンテンツは省略されていますが、Fairseq Dense モデルと同様に追加の文献が追加されています。ただし、Fairseq Dense モデルには、OPT が持つ広範なデータが欠けています。 OPT の最大の欠点はライセンスにあり、商用利用や研究目的を超えた利用は禁止されています。 |
| フェアシークデンス | ジェネリック | Facebook 研究者によってトレーニングされたこのモデルは、Fairseq 内の MOE 研究プロジェクトから生まれました。この特定のバージョンは、KoboldAI で使用するために当社によって変換されました。これは、EleutherAI のより大きなモデルと同等であることが知られており、ポップ カルチャーや言語タスクに適していると考えられています。モデルは新しい行 (入力) を一度も見たことがないため、書式設定や段落設定のパフォーマンスが低下する可能性があります。他のモデルと比較して、このデータセットは主に文献に焦点を当てており、他にはほとんど含まれていません。 |
| MythMax 13B by Gryphe | ロールプレイ | MythoMix の改良された、潜在的には完成されたバリアントである MythoLogic-L2 と Huginn は、非常に実験的な tensor タイプのマージ手法¹ を使用してマージされます。 |
| ホロマックス 13B by KoboldAI | アドベンチャー | これは、MrSeeker の KoboldAI Holodeck モデル (40%) を使用した、Gryphe の評判の高い MythoMax モデル (60%) への拡張マージです。このモデルの目標は、MythoMax モデルの望ましい特性を可能な限り維持しながら、ストーリー作成機能を強化することです (チャットの返信の長さは制限されています)。 |
| アイロボロス 13B by ジョン・ダービン | ジェネリック | これは、airoboros⁵ によって生成された合成命令を使用して、命令を微調整した llama-2 モデルです。 |
| エマヒスト 13B by Undi | ロールプレイ | BlockMerge_Gradient を使用してより良い結果を得る試み。さらに、LimaRP v3 が使用されました⁷。 |
| クロノス 13B by エリナス | ジェネリック | このモデルは主にチャット、ロールプレイ、ストーリーライティングに重点を置いていますが、単純な推論やコーディングなどの他のタスクも実行できます。 Chronos は、主にトレーニングされた人間の入力により、一貫したテキストを含む非常に長い出力を生成します。 |
| スプリングドラゴン by Henk717 | アドベンチャー | このモデルは、AI ダンジョン 2 ドラゴン モデルの再現を試みたものです。これを実現するために、オンライン サービスの前にオリジナルの AI Dungeon 2 GitHub リリースにバンドルされていた「text_adventures.txt」データセットが使用されました。同じデータセット ファイルがドラゴン モデルの作成に使用されたことは注目に値します。ドラゴンは 2020 年の GPT-3 175B Davinci モデルです。 |
| ホロデッキ By KoboldAI | アドベンチャー | LLAMA2 13B-Holodeck は、Meta の llama 2 モデルを使用して作成されたファインチューンです。トレーニング データには、さまざまなジャンルの約 3000 冊の電子書籍が含まれています。データセットのほとんどの部分には、次のテキストが先頭に追加されています: [ジャンル: 、 |
| Neo by EleutherAI | ジェネリック | これは、他のすべての 2.7B モデルの基本モデルであり、ブログ記事の作成やプログラミングなど、他に利用可能なモデルがないユースケースがある場合に最適です。また、あなたのソフトプロンプトが他のモデルがカバーする主題に関するものではない場合、いくつかのソフトプロンプトを体験するための良い基礎となることもあります。 |
| さまざまな2.7bモデル | さまざまな小さなモデルを GPU colab にロードすることも可能です。 |
| タイプ | 説明 |
|---|---|
| 小説 | 通常のストーリー執筆の場合、アドベンチャー モードやその他の専門モードとは互換性がありません。 |
| NSFW | モデルが NSFW コンテンツに強く偏っており、子供、職場環境、ライブストリーミングには適していないことを示します。ほとんどの NSFW モデルは本質的に Novel モデルでもあります。 |
| アドベンチャー | これらのモデルは、テキスト アドベンチャー ゲームのように KoboldAI をプレイしたい人にとって優れており、アドベンチャー モードを有効にして使用することを目的としています。ノベルタイプモデルとして使用したい場合でも、常にアドベンチャーモードをオンにし、ストーリーに設定する必要があります。これらのモデルは通常、「あなた」という単語の使用に強い偏見を持っており、アドベンチャー モードが有効になっていないと、ストーリー フローが中断され、あなたに代わってアクションが書き込まれます。 |
| ハイブリッド | ハイブリッド モデルは、異なるタイプ間のブレンドです。たとえば、小説ストーリーとアドベンチャー ストーリーの両方でトレーニングされます。これらのモデルは、複数の異なる playType やモードに使用できる多種多様なモデルですが、使用状況によっては、Adventure Mode または Youbias (ユーザースクリプトで) を有効にする必要がある場合があります。 |
| ジェネリック | 汎用モデルは特定のものに向けてトレーニングされておらず、通常は他のタスクやモデルの基礎として使用されます。他のモデルができることはすべてできますが、適切に動作するにはさらに多くの手を握る必要があります。汎用モデルは、特定のモデルがないタスクや、生の形式でソフトプロンプトを体験するための理想的な基盤です。 |
KoboldAI には、コンピューターにインストールする必要がある依存関係が多数あります。残念ながら、Python では、誰にとっても機能する手順を提供するのは簡単ではありません。以下の手順はほとんどのコンピューターで機能しますが、複数のバージョンの Python がインストールされている場合は競合が発生する可能性があります。
KoboldAI は github で段階的にリリースされており、表示されるコードもゲームです。ソフトウェアをダウンロードするには、ページ上部にある緑色の「コード」ボタンをクリックし、「Download ZIP」をクリックするか、代わりにgit cloneコマンドを使用します。次に、Windows では install_requirements.bat を実行する必要があります (エラーを避けるために管理者モードの使用が推奨されます)。それが完了したら、Linux の場合は play.bat/sh または Remote-play.bat/sh を実行します。それを実行します。
Windows ユーザーにとって最も簡単な方法は、以下のオフライン インストーラーを使用することです。
KoboldAI は依存関係を自動的に構成して起動するようになり、すべてが独自の conda ランタイムに含まれるため、システムが乱雑になることはありません。ファイルはランタイム サブフォルダーに配置されます。ランタイムの再インストールを強制したい場合は、install_requirements.sh ファイルを使用して実行できます。これを手動で実行することもできますが、必須ではありません。
既存のソフトウェア構成とユーザーのシステムには大きな違いがあるため、手動インストールに関するステップバイステップのガイドは提供できません。
KoboldAI を手動でインストールする場合は、次のいずれかの手順を手動で実行するために、Python/conda パッケージ管理の知識が必要になります。
AMD GPU のコンピューティング サポートはひどいものですが、これは現時点では Windows では機能せず、選ばれた少数の Linux GPU でのみ機能します。互換性のある GPU のリストはここで見つけることができます。リストにない GPU は KoboldAI で動作しないことが保証されており、必要な ROCm のバージョンと互換性のない GPU については適切なサポートを提供できません。まず、ディストリビューションのガイドを使用して Linux システムに ROCm をインストールしてください。その後は、上記の通常の Linux 手順に従うことができます。
Python がその依存関係を処理する方法には問題が発生する可能性が複数あります。残念ながら、すべてのシナリオに対応する直接的な段階的な解決策はありませんが、試すことができる一般的な解決策がいくつかあります。
これは常に、ダウンロード/インストールの失敗か、Python の他のバージョンとの競合のいずれかです。これは、パスにスペースが含まれる場所に KoboldAI を配置する際に、ユーザーがインストール中にサブフォルダー オプションを選択した場合に非常に一般的です。ウイルス対策ソフトがインストールをサンドボックス化するか、ダウンロードを妨害する場合、システムのディスク容量が少ない場合、またはオペレーティング システムが長いファイル パス用に構成されていない場合 (Windows 10 以降では、管理者として実行するとインストーラーがこれを実行します。その他の場合) Windows 10 よりもインストーラーはサポートしていません)。
インストールが失敗するもう 1 つの理由は、マシン上に競合する Python のインストールがある場合です。Windows キー + R を押して、実行ダイアログに %appdata% と入力すると、一部のシステムで Python が依存関係をインストールするフォルダーが開きます。この場所に Python フォルダーがある場合は、このフォルダーの名前を変更し、インストーラーを再度実行してみてください。これで、既存の依存関係にとらわれることはなくなりました。ゲームを試して、うまく動作するかどうかを確認してください。存在する場合は、フォルダーの名前を元に戻して、機能し続けるかどうかを確認してください。
インストールが失敗する可能性がある 3 番目の理由は、他の理由でシステム上に conda/mamba が存在する場合です。その場合、Python/conda の既存のインストールが必要ない場合は削除し、インストーラーを再度テストすることをお勧めします。または、conda 自体をバンドルされた環境ファイルとともに使用して、ランタイムを手動で作成できるようにします。手動ルートを選択する場合は、play.bat を決して使用せず、代わりに aiserver.py を直接実行する必要があることに注意してください。
一般に、システム上にある Python のバージョンが少ないほど、正しくインストールされる可能性が高くなります。私たちは、インストーラーでこれらのインストールの競合を軽減するよう常に努めていますが、一部のユーザーについては、まだすべての競合を回避することはできません。
GPU が見つからないエラーは、適切な Nvidia GPU がない (KoboldAI をプレイするには Compute Capability 5.0 以降が必要です) という 2 つの原因のいずれかが原因で発生する可能性があります。 Nvidia GPU は KoboldAI でサポートされていますが、最新バージョンの CUDA ではサポートされていません。お使いの Nvidia GPU が最新バージョンの CUDA でまだサポートされていないか、上記のような依存関係の競合があります。
Python のバージョンの競合と同様、CUDA を手動でインストールし、他に必要がない場合は、システムから CUDA をアンインストールし、再試行することをお勧めします。 GPU が機能するために CUDA10 が必要な場合は、environmentfinetuneanon.yml を開き、依存関係の下に - cudatoolkit=10.2 という行を追加します。この後、インストーラーを再度実行すると (既存のファイルを削除するオプションを選択します)、CUDA10 と互換性のあるバージョンがダウンロードされます。
CUDA10 以降で実行でき、コンピューティング機能 5.0 以降をサポートする適切な Nvidia GPU をお持ちでない場合、GPU でゲームを検出することはできません。互換性のある AMD GPU を使用して ROCm ガイドに従っている場合を除きます。
これらのエラーが発生した場合は、カスタム モデルに正しいフォルダーを選択しなかったか、ダウンロードしたモデルが KoboldAI と (まだ) 互換性がありません。互換性があり、pytorch_model.bin ファイルを提供するモデルがいくつか存在しますが、必要なファイルがすべて付属しているわけではありません。この場合、同じ種類の互換性のあるモデル (たとえば、GPT-Neo モデルをダウンロードした場合は別の GPT-Neo) をダウンロードして、pytorch_model.bin ファイルを実行しようとしているモデルに置き換えてみてください。おそらくこれはうまくいくでしょう。
ソフトプロンプト (他の製品ではモジュールとも呼ばれます) は、既存のモデルの出力を変更できるアドオンです。たとえば、お気に入りのテレビ番組のトランスクリプトなど、特定の主題やスタイルに AI を偏らせるソフトプロンプトをロードできます。
これらのソフトプロンプトは既存のフランチャイズに基づいていることが多いため、著作権上の懸念から、現時点ではそれらを KoboldAI にバンドルしていません (プロジェクト全体を危険にさらしたくありません)。代わりに、KoboldAI Discord の #softprompts やコミュニティがホストするミラーなどのコミュニティ リソースを参照してください。
そうすることで、Github 上で直接削除するよりも簡単に削除できるため、DMCA の申し立てからよりよく保護されます。既存の IP に基づいていない、ゼロから作成した著作権フリーのソフトプロンプトをお持ちで、それを KoboldAI に正式にバンドルしたい場合は、ソフトプロンプトでプル リクエストを発行してください。
ソフトプロンプトのトレーニングは、Easy Softprompt Tuner を使用して無料で実行できます。その場合、ほとんどの設定はデフォルトのままにすることができます。ソース データは、UTF-8 形式で Unix 行末を含むテキスト ファイルを含むフォルダーである必要があります。
ユーザースクリプトは、KoboldAIのタスクを自動化したり、AIの動作/入力/出力を変更したりできるスクリプトです。
スクリプトは LUA5.4 で実行され (Python の要件をすべて満たしている限り、Lua を個別にインストールする必要はありません)、悪意のある動作から保護するサンドボックス機能があります。これらの対策を講じたとしても、信頼できる、または理解している場所からのみユーザー スクリプトを実行することを強くお勧めします。それ以外の場合は、スクリプトの安全性についてコミュニティに相談してアドバイスを求めてください。
userscripts フォルダー内に kaipreset スクリプトがあります。これらはユーザーにとって役立つと思われるデフォルトのスクリプトです。これらのスクリプトは、KoboldAI を更新すると自動的に上書きされます。これらのスクリプトを変更する場合は、変更が失われないように、最初に kaipreset を含まない別の名前に変更してください。これらのスクリプトは、AI がキャラクターをあなたとしてアドレス指定するのを防ぐ You Bias フィルターに及びます。 AI が単語や単語の置換などを使用するのを防ぐ方法。
プリセット スクリプトに加えて、サンプル フォルダー内のサンプルも同梱されていますが、これは単にデモンストレーションとして機能するものであり、KoboldAI の使用法を強化するものではありません。これらのスクリプトを使用するには、スクリプトを使用または変更する前に、必ずサンプル フォルダーからスクリプトを移動してください。
最後に、userscript API のすべての機能は、userscripts フォルダー内の API ドキュメント ファイル内に文書化されています。
TPU バージョンの場合、AI の動作を変更するスクリプトは別の処理方法に依存しており、スクリプトでこの修飾子が散発的にしか使用されていない場合でも、これらのユーザー スクリプトを無効のままにした場合よりも遅くなることに注意してください。スクリプトを部分的にフルスピードで使用したい場合は、「No Gen Modifiers」を有効にして、TPU の速度を低下させる部分がアクティブにならないようにすることができます。
KoboldAI には、Kobold が提供する URL (例: http://127.0.0.1:5000/api) に /api を追加することでアクセスできる REST API があります。
ブラウザでこのリンクにアクセスすると、インタラクティブなドキュメントが表示されます。
このプロジェクトには、次の寄稿者による作品が含まれています。
モデルの近くにリストされるさまざまなモデルクリエイターと、これを可能にするすべてのテスターがあります！
私たちはあなたの貢献を逃しましたか？このリストに名前を追加するコミットを自由に発行してください。
KoboldaiにはAGPLライセンスが施されていますが、要するに、これは誰でもあらゆる目的で使用できることを意味します。ただし、ユーザーが作成したすべての変更（Webサイトのボタンなどのインターフェイスをトラフする必要がある）を含む、ユーザーがソースコードのコピーを受ける権利がある場合は、ユーザーがソースコードのコピーを受ける権利があります。このプロジェクトをソースコードを含まないフォームで配布しないでください（コードをコンパイル /暗号化したり、このバージョンを配布したりすることもありません。別のアーカイブも提供する場合ソースコード。）。
Umamba.exeは、ユーザーの多くがコマンドラインのダウンロード方法に問題があることを観察したため、利便性のためにバンドルされています。これはプロジェクトの一部ではなく、AGPLライセンスに該当しません。 BSD-3-Clauseライセンスの下でライセンスされています。ライセンスが異なる他のファイルには、ファイル内にこのライセンスの参照バージョンまたは埋め込みバージョンがあります。 https://anaconda.org/conda-forge/micromamba/filesから調達しており、そのソースコードはhttps://github.com/mamba-org/mamba/tree/master/micromamba
