Phi 3CookBook

Phi-3 Cookbook：Microsoft Phi-3 模型的實作範例

Phi 是微軟開發的一系列開放式人工智慧模型。 Phi 模型是目前功能最強大、最具成本效益的小語言模型 (SLM)，在各種語言、推理、編碼和數學基準測試中，其效能優於相同大小和更高大小的模型。 Phi-3家族包括mini、小型、中型和視覺版本，根據不同的參數量進行訓練，以服務各種應用場景。有關 Microsoft Phi 系列的更多詳細信息，請訪問歡迎使用 Phi 系列頁面。

請依照下列步驟操作：

1. 分叉儲存庫：按一下此頁面右上角的「分叉」按鈕。
2. 複製儲存庫： git clone https://github.com/microsoft/Phi-3CookBook.git

目錄

• 介紹

  • 設定您的環境(✅)
  • 歡迎來到Phi大家庭(✅)
  • 了解關鍵技術(✅)
  • Phi 模型的人工智慧安全(✅)
  • Phi-3 硬體支援(✅)
  • Phi-3 模型和跨平台可用性(✅)
  • 使用 Guidance-ai 和 Phi(✅)
  • GitHub 市場模型
  • Azure AI 模型目錄

• 快速入門

  • 在 GitHub 模型目錄中使用 Phi-3(✅)
  • 使用 Phi-3 擁抱臉部(✅)
  • 將 Phi-3 與 OpenAI SDK 結合使用(✅)
  • 將 Phi-3 與 Http 請求結合使用(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 將 Phi-3 模型推理與 Azure MaaS 或 MaaP 結合使用(✅)
  • 將 Phi-3 與 Azure Inference API 以及 GitHub 和 Azure AI 結合使用
  • 在 Azure AI Studio 中將 Phi-3 模型部署為無伺服器 API(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)
  • 使用 Phi-3 和 LiteLLM(✅)

• 推理 Phi-3

  • iOS 中的推理 Phi-3(✅)
  • Android 中的推理 Phi-3.5(✅)
  • Jetson 中的推理 Phi-3(✅)
  • AI PC 中的推理 Phi-3(✅)
  • 使用 Apple MLX 框架進行推理 Phi-3(✅)
  • 本地伺服器中的推理 Phi-3(✅)
  • 使用 AI Toolkit 在遠端伺服器中推理 Phi-3(✅)
  • 使用 Rust 推理 Phi-3(✅)
  • 本地推理 Phi-3-Vision(✅)
  • 使用 Kaito AKS、Azure 容器進行推理 Phi-3（官方支持）(✅)
  • 推斷您微調的 ONNX 執行時間模型(✅)

• 微調 Phi-3

  • 下載並建立範例資料集(✅)
  • 微調場景(✅)
  • 微調與 RAG(✅)
  • 微調讓Phi-3成為業界專家(✅)
  • 使用 AI Toolkit for VS Code 微調 Phi-3(✅)
  • 使用 Azure 機器學習服務微調 Phi-3(✅)
  • 與 Lora 一起微調 Phi-3(✅)
  • 使用 QLora 微調 Phi-3(✅)
  • 使用 Azure AI Studio 微調 Phi-3(✅)
  • 使用 Azure ML CLI/SDK 微調 Phi-3(✅)
  • 使用 Microsoft Olive 進行微調(✅)
  • 使用權重和偏差微調 Phi-3-vision(✅)
  • 使用 Apple MLX 框架微調 Phi-3(✅)
  • 微調Phi-3-vision（官方支援）(✅)
  • 使用 Kaito AKS 、Azure 容器微調 Phi-3（官方支援）(✅)
  • 微調 Phi-3 和 3.5 視力(✅)

• 評估Phi-3

  • 負責任的人工智慧簡介(✅)
  • Promptflow簡介(✅)
  • 用於評估的 Azure AI Studio 簡介(✅)

• Phi-3-mini 的 E2E 樣品

  • 端到端範例簡介(✅)
  • 準備您的產業數據(✅)
  • 使用 Microsoft Olive 建立您的專案(✅)
  • Android 上的本機聊天機器人，帶有 Phi-3、ONNXRuntime Mobile 和 ONNXRuntime 生成 API(✅)
  • Hugging Face Space WebGPU 和 Phi-3-mini 演示 - Phi-3-mini 為用戶提供了私密（且功能強大）的聊天機器人體驗。你可以嘗試(✅)
  • 使用 Phi3、ONNX Runtime Web 和 WebGPU 的瀏覽器中的本機聊天機器人(✅)
  • OpenVino 聊天(✅)
  • 多模型 - 互動式 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 建立包裝器並將 Phi-3 與 MLFlow 結合使用(✅)
  • 模型最佳化 - 如何使用 Olive 最佳化 ONNX Runtime Web 的 Phi-3 分鐘模型（✅）
  • WinUI3 應用程式與 Phi-3 mini-4k-instruct-onnx(✅)
  • WinUI3 多模型 AI 支援的筆記應用程式範例(✅)
  • 透過提示流程微調和整合自訂 Phi-3 模型(✅)
  • 在 Azure AI Studio 中使用提示流程微調和整合自訂 Phi-3 模型(✅)
  • 評估 Azure AI Studio 中經過微調的 Phi-3 / Phi-3.5 模型，並專注於 Microsoft 負責任的 AI 原則(✅)
  • Phi-3.5-迷你指令語言預測樣本（中文/英文）(✅)

• Phi-3-vision 的 E2E 範例

  • Phi-3-vision-影像文字轉文字(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)
  • 示範：Phi-3 回收(✅)
  • Phi-3-vision - 使用 Phi3-Vision 和 OpenVINO 的視覺語言助理(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 多幀或多影像範例(✅)

• Phi-3.5-MoE 的 E2E 樣本

  • Phi-3.5 專家模型混合 (MoE) 社群媒體樣本(✅)
  • 使用 NVIDIA NIM Phi-3 MOE、Azure AI 搜尋和 LlamaIndex 建立檢索增強生成 (RAG) 管道(✅)

• 實驗室和研討會樣品 Phi-3

  • C# .NET 實驗室(✅)
  • 建立您自己的 Visual Studio Code GitHub Copilot 與 Microsoft Phi-3 Family 聊天(✅)
  • 帶有本地 RAG 檔案的本地 WebGPU Phi-3 Mini RAG 聊天機器人範例(✅)
  • Phi-3 ONNX 教學(✅)
  • Phi-3-vision ONNX 教程(✅)
  • 使用 ONNX Runtimegenerate() API 執行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天 UI，這是一個聊天演示(✅)
  • C# Hello Phi-3 ONNX 範例 Phi-3(✅)
  • 支援 Phi3-Vision 的 C# API Phi-3 ONNX 範例(✅)
  • 在 CodeSpace 中執行 C# Phi-3 範例(✅)
  • 將 Phi-3 與 Promptflow 和 Azure AI 搜尋結合使用(✅)
  • 帶有 Windows Copilot 庫的 Windows AI-PC API

• 學習 Phi-3.5

  • 最新消息 Phi-3.5 系列(✅)
  • 量化 Phi-3.5 家族(✅)
    • 使用 llama.cpp 量化 Phi-3.5(✅)
    • 使用 onnxruntime 的生成式 AI 擴充來量化 Phi-3.5(✅)
    • 使用 Intel OpenVINO 量化 Phi-3.5(✅)
    • 使用 Apple MLX 框架量化 Phi-3.5(✅)
  • Phi-3.5 應用範例
    • Phi-3.5-指示 WebGPU RAG 聊天機器人(✅)
    • 使用 GitHub Models 的 Phi-3.5 建立您自己的 Visual Studio Code Chat Copilot Agent(✅)
    • 使用 Windows GPU 透過 Phi-3.5-Instruct ONNX 建立提示流程解決方案 (✅)
    • 使用 Microsoft Phi-3.5 tflite 建立 Android 應用程式(✅)

使用 Phi-3 模型

Azure AI Studio 上的 Phi-3

您可以了解如何使用 Microsoft Phi-3 以及如何在不同的硬體設備中建置 E2E 解決方案。要親自體驗 Phi-3，請先使用模型進行操作，並使用 Azure AI Studio、Azure AI 模型目錄針對您的場景自訂 Phi-3，您可以在 Azure AI Studio 入門中了解更多信息

Playground每個模型都有一個專用的 Playground 來測試模型 Azure AI Playground。

GitHub 上的 Phi-3 模型

您可以了解如何使用 Microsoft Phi-3 以及如何在不同的硬體設備中建置 E2E 解決方案。要親自體驗 Phi-3，請先使用模型並使用 GitHub 模型目錄為您的場景自訂 Phi-3，您可以在 GitHub 模型目錄入門中了解更多信息

遊樂場每個模型都有一個專門的遊樂場來測試模型。

擁抱臉上的 Phi-3

您也可以在 Hugging Face 上找到該模型

遊樂場擁抱聊天遊樂場

多語言支援

注意：這些翻譯是使用開源合作翻譯器自動產生的，可能包含錯誤或不準確之處。對於重要訊息，建議參考原文或諮詢專業人工翻譯。如果您想新增或更新翻譯，請參閱合作翻譯器儲存庫，您可以在其中使用簡單的命令輕鬆做出貢獻。

語言	程式碼	連結到翻譯後的自述文件	最後更新
中文（簡體）	zh	中文翻譯	2024-10-04
中文（繁體）	TW	中文翻譯	2024-10-04
法語	FR	法文翻譯	2024-10-04
日本人	賈	日文翻譯	2024-10-04
韓國人	科	韓文翻譯	2024-10-04
西班牙語	英語	西班牙文翻譯	2024-10-04

商標

該項目可能包含項目、產品或服務的商標或標誌。 Microsoft 商標或標誌的授權使用須遵守且必須遵循 Microsoft 的商標和品牌指南。在此項目的修改版本中使用 Microsoft 商標或標誌不得混淆或暗示 Microsoft 贊助。任何對第三方商標或標誌的使用均須遵守這些第三方的政策。