Фи 3Кулинарная книга

Поваренная книга Phi-3: практические примеры с моделями Microsoft Phi-3

Phi — это семейство открытых моделей искусственного интеллекта, разработанное Microsoft. Фи-модели являются наиболее функциональными и экономически эффективными доступными моделями малых языков (SLM), превосходящими модели того же размера и следующего размера по различным языковым, рассуждениям, кодированию и математическим тестам. Семейство Phi-3 включает мини-, малые, средние и машинные версии, обученные на основе различных величин параметров для обслуживания различных сценариев применения. Для получения более подробной информации о семействе Microsoft Phi посетите страницу «Добро пожаловать в семейство Phi».

Выполните следующие действия:

1. Форкнуть репозиторий : нажмите кнопку «Разветвить» в правом верхнем углу этой страницы.
2. Клонируйте репозиторий : git clone https://github.com/microsoft/Phi-3CookBook.git

Оглавление

• Введение

  • Настройка среды( ✅)
  • Добро пожаловать в семью Фи (❤)
  • Понимание ключевых технологий( ✅)
  • Безопасность искусственного интеллекта для фи-моделей( ✅)
  • Поддержка оборудования Phi-3( ✅)
  • Модели Phi-3 и доступность на разных платформах( ✅)
  • Использование Guidance-ai и Phi( ✅)
  • Модели торговой площадки GitHub
  • Каталог моделей искусственного интеллекта Azure

• Быстрый старт

  • Использование Phi-3 в каталоге моделей GitHub ( ✅)
  • Использование Фи-3 в обнимании лица ( ✅)
  • Использование Phi-3 с OpenAI SDK( ✅)
  • Использование Phi-3 с HTTP-запросами ( ✅)
  • Использование Phi-3 в Azure AI Studio( ✅)
  • Использование вывода модели Phi-3 с Azure MaaS или MaaP( ✅)
  • Использование Phi-3 с Azure Inference API с GitHub и Azure AI
  • Развертывание моделей Phi-3 в качестве бессерверных API в Azure AI Studio( ✅)
  • Использование Фи-3 в Олламе ( ✅)
  • Использование Phi-3 в LM Studio( ✅)
  • Использование Phi-3 в AI Toolkit VSCode( ✅)
  • Использование Phi-3 и LiteLLM( ✅)

• Вывод Фи-3

  • Вывод Phi-3 в iOS( ✅)
  • Вывод Phi-3.5 в Android( ✅)
  • Вывод Фи-3 в Джетсоне( ✅)
  • Вывод Фи-3 на ПК с искусственным интеллектом( ✅)
  • Вывод Phi-3 с помощью Apple MLX Framework( ✅)
  • Вывод Phi-3 на локальном сервере ( ✅)
  • Вывод Phi-3 на удаленном сервере с использованием AI Toolkit ( ✅)
  • Вывод Фи-3 с помощью Rust( ✅)
  • Вывод Фи-3-Видение в Локальном( ✅)
  • Inference Phi-3 с Kaito AKS, Azure Containers (официальная поддержка)( ✅)
  • Сделайте вывод о вашей точной настройке модели времени выполнения ONNX ( ✅)

• Точная настройка Фи-3

  • Загрузка и создание образца набора данных ( ✅)
  • Точная настройка сценариев( ✅)
  • Точная настройка против RAG( ✅)
  • Тонкая настройка Пусть Phi-3 станет отраслевым экспертом( ✅)
  • Точная настройка Phi-3 с помощью AI Toolkit для VS Code( ✅)
  • Точная настройка Phi-3 с помощью службы машинного обучения Azure( ✅)
  • Точная настройка Фи-3 с Лорой( ✅)
  • Точная настройка Phi-3 с помощью QLora( ✅)
  • Точная настройка Phi-3 с помощью Azure AI Studio( ✅)
  • Точная настройка Phi-3 с помощью Azure ML CLI/SDK( ✅)
  • Точная настройка с помощью Microsoft Olive( ✅)
  • Точная настройка Фи-3-видения с помощью весов и смещений ( ✅)
  • Точная настройка Phi-3 с помощью Apple MLX Framework( ✅)
  • Тонкая настройка Фи-3-видения (официальная поддержка)( ✅)
  • Точная настройка Phi-3 с помощью Kaito AKS, контейнеров Azure (официальная поддержка)( ✅)
  • Точная настройка Phi-3 и 3.5 Vision( ✅)

• Оценка Фи-3

  • Введение в ответственный ИИ( ✅)
  • Введение в Promptflow( ✅)
  • Знакомство с Azure AI Studio для ознакомительной версии( ✅)

• Образцы E2E для Phi-3-mini

  • Введение в сквозные образцы ( ✅)
  • Подготовьте данные по вашей отрасли ( ✅)
  • Используйте Microsoft Olive для разработки своих проектов( ✅)
  • Локальный чат-бот на Android с Phi-3, ONNXRuntime Mobile и ONNXRuntime Generate API( ✅)
  • Hugging Face Space WebGPU и демо-версия Phi-3-mini. Phi-3-mini предоставляет пользователю приватный (и мощный) опыт работы с чат-ботом. Вы можете попробовать (❤)
  • Локальный чат-бот в браузере с использованием Phi3, ONNX Runtime Web и WebGPU( ✅)
  • OpenVino Чат( ✅)
  • Мультимодель — Интерактивный Phi-3-mini и OpenAI Whisper( ✅)
  • MLFlow — Создание оболочки и использование Phi-3 с MLFlow( ✅)
  • Оптимизация модели. Как оптимизировать фи-3-минутную модель для ONNX Runtime Web с помощью Olive ( ✅)
  • Приложение WinUI3 с Phi-3 mini-4k-instruct-onnx( ✅)
  • Пример приложения заметок WinUI3 с несколькими моделями AI на базе искусственного интеллекта ( ✅)
  • Точная настройка и интеграция пользовательских моделей Phi-3 с помощью функции Prompt Flow( ✅)
  • Точная настройка и интеграция пользовательских моделей Phi-3 с помощью Prompt Flow в Azure AI Studio( ✅)
  • Оцените точно настроенную модель Phi-3/Phi-3.5 в Azure AI Studio, ориентируясь на принципы ответственного ИИ Microsoft ( ✅)
  • Образец прогноза языка Phi-3.5-mini-instruct (китайский/английский)( ✅)

• Образцы E2E для Phi-3-vision

  • Phi-3-vision-Изображение текста в текст( ✅)
  • Фи-3-видение-ONNX( ✅)
  • Встраивание CLIP Phi-3-vision( ✅)
  • ДЕМО: Переработка Фи-3( ✅)
  • Phi-3-vision - Визуальный языковой помощник с Phi3-Vision и OpenVINO( ✅)
  • Phi-3 Vision Nvidia NIM( ✅)
  • Фи-3 Видение OpenVino( ✅)
  • Образец многокадрового или многоизображения Phi-3.5 Vision( ✅)

• Образцы E2E для Phi-3,5-MoE

  • Phi-3.5 Смесь моделей экспертов (MoE) Образец социальных сетей ( ✅)
  • Создание конвейера расширенной генерации данных (RAG) с помощью NVIDIA NIM Phi-3 MOE, Azure AI Search и LlamaIndex( ✅)

• Образцы лабораторий и мастерских Фи-3

  • Лаборатория C# .NET( ✅)
  • Создайте свой собственный код Visual Studio. Чат для второго пилота GitHub с семейством Microsoft Phi-3 ( ✅)
  • Образцы локального чат-бота WebGPU Phi-3 Mini RAG с локальным файлом RAG ( ✅)
  • Учебное пособие по Phi-3 ONNX( ✅)
  • Учебное пособие Phi-3-vision ONNX( ✅)
  • Запустите модели Phi-3 с помощью API-интерфейса Generate() среды выполнения ONNX ( ✅)
  • Пользовательский интерфейс чата Phi-3 ONNX Multi Model LLM. Это демо-версия чата ( ✅)
  • C# Привет Phi-3 Пример ONNX Phi-3( ✅)
  • Пример C# API Phi-3 ONNX для поддержки Phi3-Vision( ✅)
  • Запустите примеры C# Phi-3 в CodeSpace( ✅)
  • Использование Phi-3 с Promptflow и поиском Azure AI ( ✅)
  • API Windows AI-PC с библиотекой Windows Copilot

• Изучение Фи-3.5

  • Что нового в семействе Фи-3.5( ✅)
  • Количественная оценка семейства Фи-3,5 ( ✅)
    • Квантование Фи-3,5 с использованием llama.cpp( ✅)
    • Квантование Phi-3.5 с использованием расширений Generative AI для onnxruntime( ✅)
    • Квантование Phi-3.5 с использованием Intel OpenVINO( ✅)
    • Квантование Phi-3.5 с использованием Apple MLX Framework( ✅)
  • Примеры приложений Phi-3.5
    • Phi-3.5-Instruct Чат-бот WebGPU RAG ( ✅)
    • Создайте свой собственный агент второго пилота Visual Studio Code Chat с Phi-3.5 от GitHub Models( ✅)
    • Использование графического процессора Windows для создания решения Prompt Flow с помощью Phi-3.5-Instruct ONNX ( ✅)
    • Использование Microsoft Phi-3.5 tflite для создания приложения для Android ( ✅)

Использование моделей Phi-3

Phi-3 в Azure AI Studio

Вы можете узнать, как использовать Microsoft Phi-3 и создавать решения E2E на различных аппаратных устройствах. Чтобы испытать Phi-3 на себе, начните с игры с моделью и настройки Phi-3 для своих сценариев с помощью Azure AI Studio, каталога моделей Azure AI. Дополнительные сведения можно узнать в разделе «Начало работы с Azure AI Studio».

Игровая площадка У каждой модели есть специальная игровая площадка для тестирования модели Azure AI Playground.

Phi-3 на моделях GitHub

Вы можете узнать, как использовать Microsoft Phi-3 и создавать решения E2E на различных аппаратных устройствах. Чтобы испытать Phi-3 на себе, начните с игры с моделью и настройки Phi-3 для своих сценариев с помощью каталога моделей GitHub. Дополнительную информацию можно узнать в разделе «Начало работы с каталогом моделей GitHub».

Игровая площадка У каждой модели есть специальная игровая площадка для ее тестирования.

Фи-3 на обнимающем лице

Вы также можете найти модель на Hugging Face.

Детская площадка для объятий и чата

Многоязычная поддержка

Примечание. Эти переводы были автоматически созданы с помощью кооперативного переводчика с открытым исходным кодом и могут содержать ошибки или неточности. Для получения важной информации рекомендуется обращаться к оригиналу или обращаться к профессиональному переводу, выполненному человеком. Если вы хотите добавить или обновить перевод, обратитесь к репозиторию co-op-translator, где вы можете легко внести свой вклад с помощью простых команд.

Язык	Код	Ссылка на переведенный README	Последнее обновление
Китайский (упрощенный)	ж	Китайский перевод	2024-10-04
Китайский (традиционный)	дважды	Китайский перевод	2024-10-04
Французский	пт	Французский перевод	2024-10-04
японский	да	Японский перевод	2024-10-04
корейский	ко	Корейский перевод	2024-10-04
испанский	эс	Испанский перевод	2024-10-04

Товарные знаки

Этот проект может содержать товарные знаки или логотипы проектов, продуктов или услуг. Разрешенное использование товарных знаков и логотипов Microsoft регулируется и должно соответствовать Руководству Microsoft по товарным знакам и брендам. Использование товарных знаков или логотипов Microsoft в измененных версиях этого проекта не должно вызывать путаницу или подразумевать спонсорство Microsoft. Любое использование товарных знаков или логотипов третьих лиц регулируется политикой этих третьих сторон.