ファイ 3 クックブック

Phi-3 クックブック: Microsoft の Phi-3 モデルを使用した実践例

Phi は、Microsoft によって開発されたオープン AI モデルのファミリーです。 Phi モデルは、利用可能な中で最も高機能でコスト効率の高い小型言語モデル (SLM) であり、さまざまな言語、推論、コーディング、数学のベンチマークにわたって、同じサイズのモデルや次のサイズのモデルよりも優れたパフォーマンスを発揮します。 Phi-3 ファミリには、ミニ、小型、中型、およびビジョン バージョンが含まれており、さまざまなアプリケーション シナリオに対応するために、さまざまなパラメータ量に基づいてトレーニングされています。 Microsoft の Phi ファミリの詳細については、「Phi ファミリへようこそ」ページを参照してください。

次の手順に従います。

1. リポジトリをフォークする: このページの右上隅にある「フォーク」ボタンをクリックします。
2. リポジトリのクローンを作成します: git clone https://github.com/microsoft/Phi-3CookBook.git

目次

• 導入

  • 環境をセットアップする(✅)
  • ファイファミリーへようこそ(✅)
  • 主要テクノロジーを理解する(✅)
  • Phi モデルの AI 安全性(✅)
  • Phi-3 ハードウェアのサポート(✅)
  • Phi-3 モデルとプラットフォーム全体での可用性(✅)
  • Guide-ai と Phi の使用 (✅)
  • GitHub マーケットプレイス モデル
  • Azure AI モデル カタログ

• クイックスタート

  • GitHub モデル カタログで Phi-3 を使用する(✅)
  • 抱き顔にPhi-3を使用(✅)
  • OpenAI SDK で Phi-3 を使用する(✅)
  • HTTP リクエストで Phi-3 を使用する(✅)
  • Azure AI Studio で Phi-3 を使用する(✅)
  • Azure MaaS または MaaP での Phi-3 モデル推論の使用(✅)
  • GitHub および Azure AI を使用した Azure Inference API での Phi-3 の使用
  • Azure AI Studio で Phi-3 モデルをサーバーレス API としてデプロイする(✅)
  • オラマで Phi-3 を使用する(✅)
  • LM Studio で Phi-3 を使用する(✅)
  • AI ツールキット VSCode で Phi-3 を使用する(✅)
  • Phi-3 と LiteLLM の使用(✅)

• 推論ファイ-3

  • iOS での推論 Phi-3(✅)
  • Android での推論 Phi-3.5(✅)
  • Jetson での推論 Phi-3(✅)
  • AI PC での推論 Phi-3 (✅)
  • Apple MLX フレームワークを使用した推論 Phi-3 (✅)
  • ローカルサーバーでの Phi-3 の推論(✅)
  • AI Toolkitを使用したリモートサーバーでのPhi-3の推論(✅)
  • Rust による Phi-3 の推論(✅)
  • ローカルでの Phi-3-Vision の推論(✅)
  • Kaito AKS を使用した Inference Phi-3、Azure Containers (公式サポート)(✅)
  • ONNX ランタイム モデルの微調整を推論する(✅)

• Phi-3 の微調整

  • サンプルデータセットのダウンロードと作成(✅)
  • シナリオの微調整(✅)
  • 微調整 vs RAG(✅)
  • 微調整 Phi-3 を業界のエキスパートにしましょう(✅)
  • AI Toolkit for VS Code を使用した Phi-3 の微調整(✅)
  • Azure Machine Learning Service を使用した Phi-3 の微調整(✅)
  • Lora で Phi-3 を微調整する(✅)
  • QLora を使用した Phi-3 の微調整(✅)
  • Azure AI Studio を使用した Phi-3 の微調整(✅)
  • Azure ML CLI/SDK を使用した Phi-3 の微調整(✅)
  • Microsoft Olive による微調整(✅)
  • 重みとバイアスによる Phi-3 ビジョンの微調整(✅)
  • Apple MLX フレームワークを使用した Phi-3 の微調整(✅)
  • Phi-3-vision の微調整 (公式サポート)(✅)
  • Kaito AKS 、Azure Containers を使用した Phi-3 の微調整 (公式サポート)(✅)
  • Phi-3 および 3.5 ビジョンの微調整(✅)

• 評価ファイ-3

  • 責任あるAI入門(✅)
  • プロンプトフローの概要(✅)
  • 評価用の Azure AI Studio の紹介(✅)

• Phi-3-mini の E2E サンプル

  • エンドツーエンドサンプルの紹介(✅)
  • 業界データを準備する(✅)
  • Microsoft Olive を使用してプロジェクトを設計する(✅)
  • Phi-3、ONNXRuntime Mobile、ONNXRuntime Generate API を使用した Android 上のローカル チャットボット(✅)
  • Hugging Face Space WebGPU と Phi-3-mini のデモ - Phi-3-mini は、ユーザーにプライベート (そして強力な) チャットボット エクスペリエンスを提供します。ぜひお試しください(✅)
  • Phi3、ONNX Runtime Web、および WebGPU を使用したブラウザーのローカル チャットボット (✅)
  • OpenVino チャット(✅)
  • マルチモデル - インタラクティブ Phi-3-mini および OpenAI Whisper(✅)
  • MLFlow - ラッパーの構築とMLFlowでのPhi-3の使用(✅)
  • モデルの最適化 - Olive を使用して ONNX ランタイム Web の Phi-3-min モデルを最適化する方法(✅)
  • Phi-3 mini-4k-instruct-onnx を備えた WinUI3 アプリ(✅)
  • WinUI3 マルチモデル AI 搭載メモ アプリのサンプル(✅)
  • カスタム Phi-3 モデルを微調整してプロンプト フローと統合する(✅)
  • カスタム Phi-3 モデルを微調整し、Azure AI Studio のプロンプト フローと統合する(✅)
  • Microsoft の責任ある AI 原則に焦点を当てて、Azure AI Studio で微調整された Phi-3 / Phi-3.5 モデルを評価する(✅)
  • Phi-3.5-mini-instruct 言語予測サンプル (中国語/英語)(✅)

• Phi-3-vision の E2E サンプル

  • Phi-3-vision-画像テキストからテキストへ(✅)
  • ファイ-3-ビジョン-ONNX(✅)
  • Phi-3-vision CLIP 埋め込み(✅)
  • デモ: Phi-3 リサイクル(✅)
  • Phi-3-vision - Phi3-Vision と OpenVINO を使用したビジュアル言語アシスタント(✅)
  • Phi-3 ビジョン Nvidia NIM(✅)
  • Phi-3 ビジョン OpenVino(✅)
  • Phi-3.5 Vision マルチフレームまたはマルチ画像サンプル(✅)

• Phi-3.5-MoE の E2E サンプル

  • Phi-3.5 専門家混合モデル (MoE) ソーシャル メディア サンプル(✅)
  • NVIDIA NIM Phi-3 MOE、Azure AI Search、LlamaIndex を使用した検索拡張生成 (RAG) パイプラインの構築(✅)

• ラボとワークショップのサンプル Phi-3

  • C# .NET ラボ(✅)
  • 独自の Visual Studio コードを構築する GitHub Copilot Microsoft Phi-3 ファミリとチャットする(✅)
  • ローカル WebGPU Phi-3 Mini RAG チャットボット サンプルとローカル RAG ファイル(✅)
  • Phi-3 ONNX チュートリアル(✅)
  • Phi-3-vision ONNX チュートリアル(✅)
  • ONNX ランタイムのgenerate() APIを使用してPhi-3モデルを実行する(✅)
  • Phi-3 ONNX マルチモデル LLM チャット UI、これはチャット デモです(✅)
  • C# Hello Phi-3 ONNX の例 Phi-3(✅)
  • Phi3-Vision をサポートする C# API Phi-3 ONNX の例(✅)
  • CodeSpace で C# Phi-3 サンプルを実行する(✅)
  • Promptflow および Azure AI Search での Phi-3 の使用(✅)
  • Windows Copilot Library を使用した Windows AI-PC API

• ファイ-3.5の学習

  • 新機能 Phi-3.5 ファミリー(✅)
  • Phi-3.5 ファミリーの定量化(✅)
    • llama.cppを使用してPhi-3.5を量子化する(✅)
    • onnxruntime の Generative AI 拡張機能を使用した Phi-3.5 の量子化(✅)
    • Intel OpenVINO を使用した Phi-3.5 の量子化 (✅)
    • Apple MLX フレームワークを使用した Phi-3.5 の量子化(✅)
  • Phi-3.5 アプリケーションサンプル
    • Phi-3.5-WebGPU RAG チャットボットの指示(✅)
    • GitHub モデルの Phi-3.5 を使用して独自の Visual Studio Code Chat Copilot Agent を作成する(✅)
    • Windows GPU を使用して Phi-3.5-Instruct ONNX でプロンプト フロー ソリューションを作成する (✅)
    • Microsoft Phi-3.5 tflite を使用して Android アプリを作成する(✅)

Phi-3 モデルの使用

Azure AI Studio 上の Phi-3

Microsoft Phi-3 の使用方法と、さまざまなハードウェア デバイスで E2E ソリューションを構築する方法を学習できます。 Phi-3 を実際に体験するには、まずモデルを試し、Azure AI Studio の Azure AI モデル カタログを使用してシナリオに合わせて Phi-3 をカスタマイズします。詳細については、「Azure AI Studio の概要」を参照してください。

プレイグラウンド各モデルには、モデル Azure AI プレイグラウンドをテストするための専用のプレイグラウンドがあります。

GitHub モデルの Phi-3

Microsoft Phi-3 の使用方法と、さまざまなハードウェア デバイスで E2E ソリューションを構築する方法を学習できます。 Phi-3 を自分で体験するには、モデルを試して、GitHub モデル カタログを使用してシナリオに合わせて Phi-3 をカスタマイズすることから始めます。詳細については、「GitHub モデル カタログの開始」を参照してください。

プレイグラウンド各モデルには、モデルをテストするための専用のプレイグラウンドがあります。

抱き合う顔のファイ-3

ハグフェイスでもモデルを見つけることができます

遊び場ハグチャット遊び場

多言語サポート

注:これらの翻訳は、オープンソースの co-op-translator を使用して自動的に生成されたものであり、エラーや不正確な部分が含まれている可能性があります。重要な情報については、原文を参照するか、専門家による翻訳に相談することをお勧めします。翻訳を追加または更新したい場合は、co-op-translator リポジトリを参照してください。簡単なコマンドを使用して簡単に貢献できます。

言語	コード	翻訳された README へのリンク	最終更新日
中国語（簡体字）	zh	中国語翻訳	2024-10-04
中国語（繁体字）	二つ	中国語翻訳	2024-10-04
フランス語	フランス	フランス語翻訳	2024-10-04
日本語	じゃ	日本語翻訳	2024-10-04
韓国語	こ	韓国語翻訳	2024-10-04
スペイン語	エス	スペイン語翻訳	2024-10-04

商標

このプロジェクトには、プロジェクト、製品、またはサービスの商標またはロゴが含まれている場合があります。 Microsoft の商標またはロゴの許可された使用には、Microsoft の商標およびブランド ガイドラインが適用され、それに従わなければなりません。このプロジェクトの修正バージョンで Microsoft の商標またはロゴを使用することは、混乱を引き起こしたり、Microsoft のスポンサーであることを暗示したりしてはなりません。第三者の商標またはロゴの使用には、それらの第三者のポリシーが適用されます。