파이 3쿡북

Phi-3 요리책: Microsoft Phi-3 모델을 사용한 실습 예제

Phi는 Microsoft가 개발한 개방형 AI 모델 제품군입니다. Phi 모델은 사용 가능한 가장 유능하고 비용 효율적인 소규모 언어 모델(SLM)로, 다양한 언어, 추론, 코딩 및 수학 벤치마크에서 동일한 크기 및 다음 크기의 모델보다 성능이 뛰어납니다. Phi-3 제품군에는 미니, 소형, 중형 및 비전 버전이 포함되어 있으며 다양한 애플리케이션 시나리오를 제공하기 위해 다양한 매개변수 양을 기반으로 훈련되었습니다. Microsoft의 Phi 제품군에 대한 자세한 내용을 보려면 Phi 제품군에 오신 것을 환영합니다 페이지를 방문하세요.

다음 단계를 따르세요.

1. 저장소 포크 : 이 페이지 오른쪽 상단에 있는 "포크" 버튼을 클릭하세요.
2. 리포지토리 복제 : git clone https://github.com/microsoft/Phi-3CookBook.git

목차

• 소개

  • 환경 설정(✅)
  • 피 패밀리에 오신 것을 환영합니다(✅)
  • 핵심기술 이해(✅)
  • Phi 모델을 위한 AI 안전(✅)
  • Phi-3 하드웨어 지원(✅)
  • Phi-3 모델 및 플랫폼 간 가용성(✅)
  • Guidance-ai와 Phi 사용하기(✅)
  • GitHub 마켓플레이스 모델
  • Azure AI 모델 카탈로그

• 빠른 시작

  • GitHub 모델 카탈로그에서 Phi-3 사용(✅)
  • 허깅페이스에 Phi-3 활용하기(✅)
  • OpenAI SDK와 함께 Phi-3 사용하기(✅)
  • HTTP 요청에 Phi-3 사용(✅)
  • Azure AI Studio에서 Phi-3 사용(✅)
  • Azure MaaS 또는 MaaP에서 Phi-3 모델 추론 사용(✅)
  • GitHub 및 Azure AI와 함께 Azure Inference API와 함께 Phi-3 사용
  • Azure AI Studio에서 Phi-3 모델을 서버리스 API로 배포(✅)
  • Ollama에서 Phi-3 사용하기(✅)
  • LM Studio에서 Phi-3 사용하기(✅)
  • AI Toolkit VSCode(✅)에서 Phi-3 사용하기
  • Phi-3 및 LiteLLM(✅) 사용

• 추론 파이-3

  • iOS의 Inference Phi-3(✅)
  • Android의 Inference Phi-3.5(✅)
  • Jetson의 Inference Phi-3(✅)
  • AI PC에서의 추론 Phi-3(✅)
  • Apple MLX Framework를 사용한 Inference Phi-3(✅)
  • 로컬 서버의 Phi-3 추론(✅)
  • AI Toolkit을 사용하여 원격 서버에서 Phi-3 추론(✅)
  • Rust를 사용한 추론 Phi-3(✅)
  • 로컬에서 Phi-3-Vision 추론(✅)
  • Kaito AKS, Azure Containers를 사용한 추론 Phi-3(공식 지원)(✅)
  • 미세 조정 ONNX 런타임 모델 추론(✅)

• Phi-3 미세 조정

  • 샘플 데이터 세트 다운로드 및 생성(✅)
  • 미세조정 시나리오(✅)
  • 미세 조정 vs RAG(✅)
  • 미세 조정 Phi-3를 업계 전문가로 만들어 보세요(✅)
  • VS Code용 AI 툴킷으로 Phi-3 미세 조정(✅)
  • Azure Machine Learning Service로 Phi-3 미세 조정(✅)
  • Lora와 함께 Phi-3 미세 조정하기(✅)
  • QLora(✅)로 Phi-3 미세 조정
  • Azure AI Studio로 Phi-3 미세 조정(✅)
  • Azure ML CLI/SDK를 사용하여 Phi-3 미세 조정(✅)
  • Microsoft Olive(✅)로 미세 조정하기
  • 가중치와 편향으로 Phi-3-vision 미세 조정(✅)
  • Apple MLX Framework(✅)로 Phi-3 미세 조정
  • Phi-3-vision 미세 조정(공식 지원)(✅)
  • Kaito AKS, Azure Containers를 사용하여 Phi-3 미세 조정(공식 지원)(✅)
  • Phi-3 및 3.5 Vision 미세 조정(✅)

• 평가 파이-3

  • 책임감 있는 AI 소개(✅)
  • 프롬프트플로우 소개(✅)
  • 평가를 위한 Azure AI Studio 소개(✅)

• Phi-3-mini용 E2E 샘플

  • End to End 샘플 소개(✅)
  • 업계 데이터 준비(✅)
  • Microsoft Olive를 사용하여 프로젝트 설계(✅)
  • Phi-3, ONNXRuntime Mobile 및 ONNXRuntime 생성 API를 사용하는 Android의 로컬 챗봇(✅)
  • Hugging Face Space WebGPU 및 Phi-3-mini 데모- Phi-3-mini는 사용자에게 개인적이고 강력한 챗봇 경험을 제공합니다. 시도해 볼 수 있습니다(✅)
  • Phi3, ONNX Runtime Web 및 WebGPU(✅)를 사용하는 브라우저의 로컬 챗봇
  • OpenVino 채팅(✅)
  • 다중 모델 - 대화형 Phi-3-mini 및 OpenAI Whisper(✅)
  • MLFlow - 래퍼 작성 및 MLFlow와 함께 Phi-3 사용(✅)
  • 모델 최적화 - Olive를 사용하여 ONNX 런타임 웹용 Phi-3분 모델을 최적화하는 방법(✅)
  • Phi-3 mini-4k-instruct-onnx가 포함된 WinUI3 앱(✅)
  • WinUI3 다중 모델 AI 기반 노트 앱 샘플(✅)
  • Prompt flow(✅)를 통해 맞춤형 Phi-3 모델을 미세 조정하고 통합합니다.
  • Azure AI Studio(✅)의 프롬프트 흐름을 통해 사용자 지정 Phi-3 모델을 미세 조정하고 통합합니다.
  • Microsoft의 책임 있는 AI 원칙에 중점을 두고 Azure AI Studio에서 미세 조정된 Phi-3/Phi-3.5 모델 평가(✅)
  • Phi-3.5-mini-instruct 언어 예측 샘플(중국어/영어)(✅)

• Phi-3-vision용 E2E 샘플

  • Phi-3-vision-이미지 텍스트를 텍스트로(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 임베딩(✅)
  • 데모: Phi-3 재활용(✅)
  • Phi-3-vision - Phi3-Vision 및 OpenVINO(✅)를 사용한 시각적 언어 도우미
  • Phi-3 비전 엔비디아 NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 다중 프레임 또는 다중 이미지 샘플(✅)

• Phi-3.5-MoE용 E2E 샘플

  • Phi-3.5 전문가 모델 혼합(MoE) 소셜 미디어 샘플(✅)
  • NVIDIA NIM Phi-3 MOE, Azure AI Search 및 LlamaIndex(✅)를 사용하여 검색 증강 세대(RAG) 파이프라인 구축

• 실험실 및 작업장 샘플 Phi-3

  • C# .NET 연구소(✅)
  • Microsoft Phi-3 제품군을 사용하여 나만의 Visual Studio Code GitHub Copilot 채팅 구축(✅)
  • 로컬 RAG 파일이 포함된 로컬 WebGPU Phi-3 미니 RAG 챗봇 샘플(✅)
  • Phi-3 ONNX 튜토리얼(✅)
  • Phi-3-vision ONNX 튜토리얼(✅)
  • ONNX Runtime generate() API를 사용하여 Phi-3 모델 실행(✅)
  • Phi-3 ONNX Multi Model LLM 채팅 UI, 채팅 데모입니다(✅)
  • C# Hello Phi-3 ONNX 예제 Phi-3(✅)
  • Phi3-Vision을 지원하는 C# API Phi-3 ONNX 예제(✅)
  • CodeSpace(✅)에서 C# Phi-3 샘플 실행
  • Promptflow 및 Azure AI Search와 함께 Phi-3 사용(✅)
  • Windows Copilot 라이브러리가 포함된 Windows AI-PC API

• Phi-3.5 학습

  • 새로운 기능 Phi-3.5 Family(✅)
  • Phi-3.5 제품군 정량화(✅)
    • llama.cpp(✅)를 사용하여 Phi-3.5 양자화
    • onnxruntime용 Generative AI 확장을 사용하여 Phi-3.5 양자화(✅)
    • Intel OpenVINO(✅)를 사용하여 Phi-3.5 양자화
    • Apple MLX Framework(✅)를 사용하여 Phi-3.5 양자화
  • Phi-3.5 애플리케이션 샘플
    • Phi-3.5-WebGPU RAG Chatbot 지시(✅)
    • GitHub Models의 Phi-3.5를 사용하여 나만의 Visual Studio Code Chat Copilot Agent 만들기(✅)
    • Windows GPU를 사용하여 Phi-3.5-Instruct ONNX로 프롬프트 흐름 솔루션 만들기(✅)
    • Microsoft Phi-3.5 tflite를 사용하여 Android 앱 만들기(✅)

Phi-3 모델 사용

Azure AI Studio의 Phi-3

Microsoft Phi-3을 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi-3을 직접 경험하려면 먼저 모델을 가지고 놀고 Azure AI Studio, Azure AI 모델 카탈로그를 사용하여 시나리오에 맞게 Phi-3을 사용자 지정하세요. Azure AI Studio 시작하기에서 자세히 알아볼 수 있습니다.

플레이그라운드 각 모델에는 모델 Azure AI 플레이그라운드를 테스트하기 위한 전용 플레이그라운드가 있습니다.

GitHub 모델의 Phi-3

Microsoft Phi-3을 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi-3을 직접 경험하려면 먼저 모델을 가지고 놀고 GitHub 모델 카탈로그를 사용하여 시나리오에 맞게 Phi-3을 사용자 지정하세요. GitHub 모델 카탈로그 시작하기에서 자세히 알아볼 수 있습니다.

플레이그라운드 각 모델에는 모델을 테스트하기 위한 전용 플레이그라운드가 있습니다.

포옹하는 얼굴의 파이-3

포옹 얼굴에서도 모델을 찾을 수 있습니다.

놀이터 포옹채팅 놀이터

다국어 지원

참고: 이러한 번역은 오픈 소스 공동 번역기를 사용하여 자동으로 생성되었으며 오류나 부정확한 내용이 포함될 수 있습니다. 중요한 정보는 원본을 참조하거나 전문 번역가에게 문의하는 것이 좋습니다. 번역을 추가하거나 업데이트하려면 간단한 명령을 사용하여 쉽게 기여할 수 있는 공동 번역가 저장소를 참조하세요.

언어	암호	번역된 README 링크	마지막 업데이트
중국어(간체)	zh	중국어 번역	2024-10-04
중국어(번체)	tw	중국어 번역	2024-10-04
프랑스 국민	정말로	프랑스어 번역	2024-10-04
일본어	자	일본어 번역	2024-10-04
한국인	코	한국어 번역	2024-10-04
스페인 사람	예	스페인어 번역	2024-10-04

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표나 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용에는 Microsoft의 상표 및 브랜드 지침이 적용되며 이를 따라야 합니다. 이 프로젝트의 수정된 버전에 Microsoft 상표 또는 로고를 사용하면 혼동을 일으키거나 Microsoft 후원을 암시해서는 안 됩니다. 제3자 상표 또는 로고의 사용에는 해당 제3자의 정책이 적용됩니다.