微調整された Qlora falcon7b 医療

メンタルヘルス会話データセットで QLoRA を使用した Falcon-7B LLM の微調整

導入：

メンタルヘルスの問題は、一般の人々に誤解されたり、十分に理解されていないことがよくあります。この理解の欠如は、精神的健康状態に対する恐怖、不快感、否定的な認識につながる可能性があります。メンタルヘルスに関するメディアの描写は、多くの場合、否定的な固定観念を永続させ、誤解や恐怖を引き起こします。メンタルヘルスの偏見を克服するには、教育、意識の向上、共感と理解を促進すること、固定概念に挑戦すること、アクセスしやすい質の高いメンタルヘルスケアを確保することなど、多面的なアプローチが必要です。メンタルヘルスは、個人の全体的な幸福、生活の質、日常生活を効果的に機能させる能力に直接影響します。良好な精神的健康は、幸福、充実感、目的意識を経験するために不可欠です。精神的健康と身体的健康は密接に関係しています。精神的健康問題を治療しないと、心血管疾患、免疫力の低下、慢性疾患などの身体的健康問題を引き起こしたり、悪化させたりする可能性があります。

主な理論的根拠:

チャットボットは、サポートを求める個人にすぐに利用できるアクセス可能なプラットフォームを提供します。いつでもどこでもアクセスでき、困っている人にすぐに支援を提供できます。チャットボットは共感的で批判的ではない応答を提供し、ユーザーに精神的なサポートを提供できます。それらは人間の相互作用を完全に置き換えることはできませんが、特に苦痛の瞬間に役立つ補足となる可能性があります。

注:メンタルヘルス チャットボットは役立ちますが、専門的なメンタルヘルス ケアに代わるものではないことに注意することが重要です。追加のサポートとリソースを提供することで、既存のメンタルヘルス サービスを補完できます。

データセット:

このデータセットは、メンタルヘルスに関連するオンライン FAQ、WebMD、メイヨー クリニック、ヘルスラインなどの人気のヘルスケア ブログ、メンタルヘルスに関連するその他の Wiki 記事から厳選されました。データセットは、患者からの質問と医師からの回答の両方が同じテキストになるように、会話形式で前処理されています。このメンタルヘルス会話型 AI のデータセットは、heliosbrahma/mental_health_chatbot_dataset にあります。

注:すべての質問と回答は PII データを削除するために匿名化されており、不要な文字を削除するために前処理されています。

モデルの微調整:

これはプロジェクト全体の主要なステップです。私はシャードされた Falcon-7B の事前トレーニング済みモデルを使用し、カスタム メンタルヘルス データセットで QLoRA テクニックを使用するように微調整しました。微調整プロセス全体にかかる時間は 1 時間未満で、すべて Google Colab Pro の Nvidia A100 で微調整されました。ただし、Colab が提供する Nvidia T4 を使用して、無料層 GPU でトレーニングすることもできます。その場合、必ず 150 未満の max_steps を使用する必要があります。シャード化された事前トレーニング済みモデルを使用する背後にある理論的根拠は、私のブログ投稿「メンタルヘルス データセットで QLoRA を使用した Falcon-7B 大規模言語モデルの微調整」で説明されています。
180 ステップのトレーニング実行の WandB モニタリング ログからのトレーニング損失メトリクス追跡レポートをここに追加します: Falcon-7B PEFT のトレーニング/損失ログ

注:要件に基づいて、TrainingArguments と LoraConfig のハイパーパラメータを変更してみてください。ノートブックに記載されている設定では、320 ステップ後に 0.031 のトレーニング損失を達成しました。

モデル推論:

PEFT 微調整モデルはここで更新されました: heliosbrahma/falcon-7b-sharded-bf16-finetuned-mental-health-conversational。
gradio_chatbot_app.ipynbノートブックを実行して、デモ用のフロントエンドとして Gradio を使用するチャットボットのようなインターフェイスを取得します。応答生成用にさまざまなハイパーパラメータ構成設定を試し、複数のクエリを実行して、生成された応答の品質を確認します。

モデル応答の生成には 3 分もかかりません。 PEFT モデルの応答を、 funetuned_qlora_falcon7b.ipynbノートブック内の元のモデルの応答と比較します。

結論：

私は、QLoRA と PEFT 微調整方法の重要な概念を説明する詳細な技術ブログを書きました: メンタルヘルス データセットで QLoRA を使用した Falcon-7B 大規模言語モデルの微調整。まだご質問がある場合は、このリポジトリで問題をオープンするか、私のブログにコメントしてください。

このプロジェクトが気に入ったら、このリポジトリをどうぞ。