Phi 3CookBook

Phi-3 Cookbook：Microsoft Phi-3 模型的实践示例

Phi 是微软开发的一系列开放人工智能模型。 Phi 模型是目前功能最强大、最具成本效益的小语言模型 (SLM)，在各种语言、推理、编码和数学基准测试中，其性能优于相同大小和更高大小的模型。 Phi-3家族包括mini、小型、中型和视觉版本，根据不同的参数量进行训练，以服务于各种应用场景。有关 Microsoft Phi 系列的更多详细信息，请访问欢迎使用 Phi 系列页面。

请按照下列步骤操作：

1. 分叉存储库：单击此页面右上角的“分叉”按钮。
2. 克隆存储库： git clone https://github.com/microsoft/Phi-3CookBook.git

目录

• 介绍

  • 设置您的环境(✅)
  • 欢迎来到Phi大家庭(✅)
  • 了解关键技术(✅)
  • Phi 模型的人工智能安全(✅)
  • Phi-3 硬件支持(✅)
  • Phi-3 模型和跨平台可用性(✅)
  • 使用 Guidance-ai 和 Phi(✅)
  • GitHub 市场模型
  • Azure AI 模型目录

• 快速入门

  • 在 GitHub 模型目录中使用 Phi-3(✅)
  • 使用 Phi-3 拥抱脸部(✅)
  • 将 Phi-3 与 OpenAI SDK 结合使用(✅)
  • 将 Phi-3 与 Http 请求结合使用(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 将 Phi-3 模型推理与 Azure MaaS 或 MaaP 结合使用(✅)
  • 将 Phi-3 与 Azure Inference API 以及 GitHub 和 Azure AI 结合使用
  • 在 Azure AI Studio 中将 Phi-3 模型部署为无服务器 API(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)
  • 使用 Phi-3 和 LiteLLM(✅)

• 推理 Phi-3

  • iOS 中的推理 Phi-3(✅)
  • Android 中的推理 Phi-3.5(✅)
  • Jetson 中的推理 Phi-3(✅)
  • AI PC 中的推理 Phi-3(✅)
  • 使用 Apple MLX 框架进行推理 Phi-3(✅)
  • 本地服务器中的推理 Phi-3(✅)
  • 使用 AI Toolkit 在远程服务器中推理 Phi-3(✅)
  • 使用 Rust 推理 Phi-3(✅)
  • 本地推理 Phi-3-Vision(✅)
  • 使用 Kaito AKS、Azure 容器进行推理 Phi-3（官方支持）(✅)
  • 推断您微调的 ONNX 运行时模型(✅)

• 微调 Phi-3

  • 下载并创建示例数据集(✅)
  • 微调场景(✅)
  • 微调与 RAG(✅)
  • 微调让Phi-3成为行业专家(✅)
  • 使用 AI Toolkit for VS Code 微调 Phi-3(✅)
  • 使用 Azure 机器学习服务微调 Phi-3(✅)
  • 与 Lora 一起微调 Phi-3(✅)
  • 使用 QLora 微调 Phi-3(✅)
  • 使用 Azure AI Studio 微调 Phi-3(✅)
  • 使用 Azure ML CLI/SDK 微调 Phi-3(✅)
  • 使用 Microsoft Olive 进行微调(✅)
  • 使用权重和偏差微调 Phi-3-vision(✅)
  • 使用 Apple MLX 框架微调 Phi-3(✅)
  • 微调Phi-3-vision（官方支持）(✅)
  • 使用 Kaito AKS 、Azure 容器微调 Phi-3（官方支持）(✅)
  • 微调 Phi-3 和 3.5 视力(✅)

• 评估Phi-3

  • 负责任的人工智能简介(✅)
  • Promptflow简介(✅)
  • 用于评估的 Azure AI Studio 简介(✅)

• Phi-3-mini 的 E2E 样品

  • 端到端示例简介(✅)
  • 准备您的行业数据(✅)
  • 使用 Microsoft Olive 构建您的项目(✅)
  • Android 上的本地聊天机器人，带有 Phi-3、ONNXRuntime Mobile 和 ONNXRuntime 生成 API(✅)
  • Hugging Face Space WebGPU 和 Phi-3-mini 演示 - Phi-3-mini 为用户提供了私密（且功能强大）的聊天机器人体验。你可以尝试一下(✅)
  • 使用 Phi3、ONNX Runtime Web 和 WebGPU 的浏览器中的本地聊天机器人(✅)
  • OpenVino 聊天(✅)
  • 多模型 - 交互式 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 构建包装器并将 Phi-3 与 MLFlow 结合使用(✅)
  • 模型优化 - 如何使用 Olive 优化 ONNX Runtime Web 的 Phi-3 分钟模型（✅）
  • WinUI3 应用程序与 Phi-3 mini-4k-instruct-onnx(✅)
  • WinUI3 多模型 AI 支持的笔记应用程序示例(✅)
  • 通过提示流程微调和集成自定义 Phi-3 模型(✅)
  • 在 Azure AI Studio 中使用提示流程微调和集成自定义 Phi-3 模型(✅)
  • 评估 Azure AI Studio 中经过微调的 Phi-3 / Phi-3.5 模型，重点关注 Microsoft 负责任的 AI 原则(✅)
  • Phi-3.5-迷你指令语言预测样本（中文/英文）(✅)

• Phi-3-vision 的 E2E 示例

  • Phi-3-vision-图像文字转文字(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)
  • 演示：Phi-3 回收(✅)
  • Phi-3-vision - 使用 Phi3-Vision 和 OpenVINO 的视觉语言助手(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 多帧或多图像示例(✅)

• Phi-3.5-MoE 的 E2E 样本

  • Phi-3.5 专家模型混合 (MoE) 社交媒体样本(✅)
  • 使用 NVIDIA NIM Phi-3 MOE、Azure AI 搜索和 LlamaIndex 构建检索增强生成 (RAG) 管道(✅)

• 实验室和研讨会样品 Phi-3

  • C# .NET 实验室(✅)
  • 构建您自己的 Visual Studio Code GitHub Copilot 与 Microsoft Phi-3 Family 聊天(✅)
  • 带有本地 RAG 文件的本地 WebGPU Phi-3 Mini RAG 聊天机器人示例(✅)
  • Phi-3 ONNX 教程(✅)
  • Phi-3-vision ONNX 教程(✅)
  • 使用 ONNX Runtimegenerate() API 运行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天 UI，这是一个聊天演示(✅)
  • C# Hello Phi-3 ONNX 示例 Phi-3(✅)
  • 支持 Phi3-Vision 的 C# API Phi-3 ONNX 示例(✅)
  • 在 CodeSpace 中运行 C# Phi-3 示例(✅)
  • 将 Phi-3 与 Promptflow 和 Azure AI 搜索结合使用(✅)
  • 带有 Windows Copilot 库的 Windows AI-PC API

• 学习 Phi-3.5

  • 最新消息 Phi-3.5 系列(✅)
  • 量化 Phi-3.5 家族(✅)
    • 使用 llama.cpp 量化 Phi-3.5(✅)
    • 使用 onnxruntime 的生成式 AI 扩展来量化 Phi-3.5(✅)
    • 使用 Intel OpenVINO 量化 Phi-3.5(✅)
    • 使用 Apple MLX 框架量化 Phi-3.5(✅)
  • Phi-3.5 应用示例
    • Phi-3.5-指示 WebGPU RAG 聊天机器人(✅)
    • 使用 GitHub Models 的 Phi-3.5 创建您自己的 Visual Studio Code Chat Copilot Agent(✅)
    • 使用 Windows GPU 通过 Phi-3.5-Instruct ONNX 创建提示流解决方案 (✅)
    • 使用 Microsoft Phi-3.5 tflite 创建 Android 应用程序(✅)

使用 Phi-3 模型

Azure AI Studio 上的 Phi-3

您可以了解如何使用 Microsoft Phi-3 以及如何在不同的硬件设备中构建 E2E 解决方案。要亲自体验 Phi-3，请首先使用模型进行操作，并使用 Azure AI Studio、Azure AI 模型目录针对您的场景自定义 Phi-3，您可以在 Azure AI Studio 入门中了解更多信息

Playground每个模型都有一个专用的 Playground 来测试模型 Azure AI Playground。

GitHub 上的 Phi-3 模型

您可以了解如何使用 Microsoft Phi-3 以及如何在不同的硬件设备中构建 E2E 解决方案。要亲自体验 Phi-3，请首先使用模型并使用 GitHub 模型目录为您的场景自定义 Phi-3，您可以在 GitHub 模型目录入门中了解更多信息

游乐场每个模型都有一个专门的游乐场来测试模型。

拥抱脸上的 Phi-3

您还可以在 Hugging Face 上找到该模型

游乐场拥抱聊天游乐场

多语言支持

注意：这些翻译是使用开源合作翻译器自动生成的，可能包含错误或不准确之处。对于重要信息，建议参考原文或咨询专业人工翻译。如果您想添加或更新翻译，请参阅合作翻译器存储库，您可以在其中使用简单的命令轻松做出贡献。

语言	代码	链接到翻译后的自述文件	最后更新
中文（简体）	zh	中文翻译	2024-10-04
中文（繁体）	TW	中文翻译	2024-10-04
法语	FR	法语翻译	2024-10-04
日本人	贾	日语翻译	2024-10-04
韩国人	科	韩语翻译	2024-10-04
西班牙语	英语	西班牙语翻译	2024-10-04

商标

该项目可能包含项目、产品或服务的商标或徽标。 Microsoft 商标或徽标的授权使用须遵守且必须遵循 Microsoft 的商标和品牌指南。在此项目的修改版本中使用 Microsoft 商标或徽标不得引起混淆或暗示 Microsoft 赞助。对第三方商标或徽标的任何使用均须遵守这些第三方的政策。