AI System
1.0.0
영어
이 강좌의 중국어 이름은 Artificial Intelligence System 이며, 주로 인공지능을 지원하는 컴퓨터 시스템의 설계를 설명합니다. 해당 영어 강좌 이름은 System for AI 입니다. 이 과정에서는 인공 지능 시스템 , AI 시스템 , AI용 시스템 이라는 용어를 같은 의미로 사용합니다.
본 강좌는 마이크로소프트 인공지능 교육 및 공동구축 커뮤니티에서 기획된 인공지능 관련 강좌 중 하나이며, 기본 강좌 모듈 아래 강좌번호와 명칭은 A6-Artificial Intelligence System 이다.
더 많은 관련 콘텐츠에 액세스하려면 Microsoft 인공지능 교육 및 공동 구축 커뮤니티의 A-Basic Tutorial 모듈을 방문해 주셔서 감사합니다.
최근 인공지능, 특히 딥러닝 기술이 급속도로 발전하고 있는데, 이는 컴퓨터 하드웨어와 소프트웨어 시스템의 지속적인 발전과 뗄래야 뗄 수 없는 관계입니다. 가까운 미래에도 인공지능 기술의 발전은 여전히 컴퓨터 시스템과 인공지능을 결합한 공동 혁신 모델에 의존할 것입니다. 이제 컴퓨터 시스템은 더 큰 규모와 더 높은 복잡성을 갖춘 인공 지능에 힘을 실어주고 있으며, 이는 더 많은 시스템 혁신뿐만 아니라 체계적인 사고와 방법론도 필요로 한다는 점에 유의해야 합니다. 동시에 인공지능은 복잡한 시스템의 설계도 지원하고 있습니다.
현재 인공지능 관련 강좌는 대부분, 특히 딥러닝과 머신러닝 관련 강좌는 주로 관련 이론이나 알고리즘이나 응용을 중심으로 진행되고, 시스템 관련 강좌는 드물다는 점을 확인했습니다. 인공지능 시스템 과정을 통해 인공지능 관련 교육이 더욱 포괄적이고 심도 있게 이루어지며, 인공지능과 시스템의 교차점에서 인재 양성을 공동으로 추진할 수 있기를 바랍니다.
이 과정은 주로 학부생 및 대학원생을 대상으로 다음과 같은 도움을 주기 위해 고안되었습니다.
딥러닝을 지원하는 컴퓨터 시스템 아키텍처를 완벽하게 이해하고, 딥러닝의 전체 라이프사이클에 따른 시스템 설계를 실무 문제를 통해 학습합니다.
시스템을 위한 AI, AI를 위한 시스템 등 시스템과 인공지능을 결합한 최첨단 연구 작업을 소개하여 학부생과 대학원생이 의미 있는 연구 질문을 더 잘 찾고 정의할 수 있도록 돕습니다.
체계적인 연구의 관점에서 실험과정을 설계합니다. 학생들이 단순히 도구 사용법을 이해하는 것이 아니라 실제 문제를 해결하는 능력을 향상시키기 위해 주류 및 최신 프레임워크, 플랫폼 및 도구를 운영하고 적용함으로써 시스템 모듈을 구현하고 최적화하도록 권장합니다.
선수과목 : C/C++/Python, 컴퓨터 아키텍처, 알고리즘 입문
이 과정은 주로 다음 세 가지 모듈로 구성됩니다.
첫 번째 부분은 인공 지능에 대한 기본 지식과 인공 지능 시스템의 전체 스택 개요, 딥 러닝 시스템의 체계적인 설계 및 방법론입니다.
두 번째 부분은 시스템과 인공 지능이 교차하는 최첨단 연구 분야를 포함하는 고급 과정입니다.
세 번째 부분은 가장 주류인 프레임워크, 플랫폼, 도구와 일련의 실험 프로젝트를 포함하는 지원 실험 과정입니다.
첫 번째 부분의 내용은 기본 지식에 초점을 맞추고, 나머지 두 부분의 내용은 학계와 산업계의 기술 발전에 따라 역동적으로 조정될 것입니다. 마지막 두 부분의 내용은 고급 강의 노트나 인턴십 프로젝트로 다른 CS 과정(예: 편찬 원리 등)과의 조정 또는 결합을 용이하게 하기 위해 모듈 형식으로 구성됩니다.
이 과정의 설계는 Microsoft와 연구소에서 개발한 일부 플랫폼과 도구를 포함하여 인공 지능과 시스템의 교차점에서 Microsoft Research Asia의 연구 결과와 경험을 활용합니다. 또한 이 과정에서는 다른 학교와 교사가 자신의 필요에 따라 고급 주제나 기타 실험을 추가하고 조정하도록 권장합니다.
기본 코스
| 강좌번호 | 유인물 이름 | 주목 |
| 1 | 코스 소개 | 과정 개요 및 시스템/AI 기초 |
| 2 | 인공지능 시스템 개요 | 인공지능 시스템의 발전사, 신경망의 기초, 인공지능 시스템의 기초 |
| 3 | 심층 신경망 컴퓨팅 프레임워크의 기본 | 역전파 및 자동 파생, 텐서, 방향성 비순환 그래프, 실행 그래프 문서 및 시스템: PyTorch, TensorFlow |
| 4 | 매트릭스 연산 및 컴퓨터 아키텍처 | 매트릭스 연산, CPU/SIMD, GPGPU, ASIC/TPU 논문 및 시스템: Blas, TPU |
| 5 | 분산 훈련 알고리즘 | 데이터 병렬성, 모델 병렬성, 분산 SGD 논문 및 시스템: PipeDream |
| 6 | 분산 훈련 시스템 | MPI, 매개변수 서버, 전체 감소, RDMA 논문 및 시스템: Horovod |
| 7 | 이기종 컴퓨팅 클러스터 스케줄링 및 자원 관리 시스템 | 클러스터에서 DNN 작업 실행: 컨테이너, 리소스 할당, 일정 문서 및 시스템: Kubeflow, OpenPAI, Gandiva |
| 8 | 딥러닝 도출 시스템 | 효율성, 대기 시간, 처리량, 배포 문서 및 시스템: TensorRT, TensorFlowLite, ONNX |
고급과정
| 강좌번호 | 유인물 이름 | 주목 |
| 9 | 계산 그래프의 편집 및 최적화 | IR, 하위 그래프 패턴 매칭, 행렬 곱셈 및 메모리 최적화 논문 및 시스템: XLA, MLIR, TVM, NNFusion |
| 10 | 신경망의 압축 및 희소화 최적화 | 모델 압축, 희소화, 가지치기 |
| 11 | 자동 기계 학습 시스템 | 하이퍼파라미터 튜닝, 신경망 구조 검색(NAS) 논문 및 시스템: Hyperband, SMAC, ENAX, AutoKeras, NNI |
| 12 | 강화 학습 시스템 | RL 이론, RL 시스템 논문 및 시스템: AC3, RLlib, AlphaZero |
| 13 | 보안 및 개인 정보 보호 | 연합 학습, 보안, 개인 정보 보호 문서 및 시스템: DeepFake |
| 14 | 인공 지능을 사용하여 컴퓨터 시스템 최적화 | 인공지능은 전통적인 시스템 문제에 적용되고, 인공지능은 시스템 알고리즘 논문 및 시스템에 적용됩니다: 스트리밍 미디어 시스템, 데이터베이스 인덱싱, 시스템 매개변수 튜닝, 칩 설계, 예측 자원 스케줄링 |
기초실험
| 실험번호 | 실험 이름 | 주목 |
| 실험 1 | 프레임워크 및 도구 시작의 예 | |
| 실험 2 | 새로운 텐서 작업 사용자 정의 | |
| 실험 3 | CUDA 구현 및 최적화 | |
| 실험 4 | AllReduce의 구현 또는 최적화 | |
| 실험 5 | 클라우드 교육 또는 추론 준비를 위한 컨테이너 구성 | |
고급 실험
| 실험 6 | 일정 관리 시스템 사용법 배우기 | |
| 실험 7 | 분산 훈련 과제 연습 | |
| 실험 8 | 자동 머신러닝 시스템 실습 | |
| 실험 9 | 강화 학습 시스템 실습 | |
교과서 '인공지능 시스템'은 마이크로소프트 인공지능 교육 및 공동구축 커뮤니티에서 기획한 인공지능 관련 교과서 중 하나이다. 현재 인공지능 관련 교과서의 대부분, 특히 딥러닝과 머신러닝 관련 강좌는 주로 관련 이론이나 알고리즘이나 응용에 초점을 맞추고 있으며, 시스템 관련 교과서는 드물다는 것을 알게 되었습니다. 인공지능 시스템 교과서가 인공지능 시스템 교육을 보다 체계적이고 보편적으로 만들어 인공지능과 시스템의 교차점에서 인재 양성을 공동으로 추진할 수 있기를 바랍니다.
"딥러닝 시스템 설계: 이론 및 실습" 교재의 종이 버전이 출판되었습니다.
<미정>
이 프로젝트는 기여와 제안을 환영합니다. 대부분의 기여에는 귀하가 기여를 사용할 권리가 있고 실제로 그렇게 한다는 것을 선언하는 기여자 라이센스 계약(CLA)에 동의해야 합니다. 자세한 내용은 https://를 참조하세요. cla.opensource.microsoft.com.
끌어오기 요청을 제출하면 CLA 봇이 CLA를 제공하고 PR을 적절하게 장식해야 하는지 자동으로 결정합니다(예: 상태 확인, 댓글). 봇이 제공하는 지침을 따르기만 하면 됩니다. CLA를 사용하여 모든 저장소에 대해 한 번.
이 프로젝트는 Microsoft 오픈 소스 행동 강령을 채택했습니다. 자세한 내용은 행동 강령 FAQ를 참조하거나 추가 질문이나 의견이 있는 경우 [email protected]으로 문의하세요.
Microsoft 및 모든 기여자는 Creative Commons Attribution 4.0 International Public License에 따라 귀하에게 Microsoft 문서 및 이 저장소의 기타 콘텐츠에 대한 라이센스를 부여합니다. LICENSE 파일을 참조하고, MIT 라이센스에 따라 저장소의 모든 코드에 대한 라이센스를 부여합니다. 라이센스 코드 파일.
문서에 언급된 Microsoft, Windows, Microsoft Azure 및/또는 기타 Microsoft 제품 및 서비스는 미국 및/또는 기타 국가에서 Microsoft의 상표 또는 등록 상표일 수 있습니다. Microsoft 이름, 로고 또는 상표 Microsoft의 일반 상표 지침은 https://go.microsoft.com/fwlink/?LinkID=254653에서 확인할 수 있습니다.
개인 정보 보호 정보는 https://privacy.microsoft.com/en-us/에서 확인할 수 있습니다.
Microsoft 및 모든 기여자는 묵시적, 금반언 또는 기타 방식으로 각자의 저작권, 특허 또는 상표에 따른 기타 모든 권리를 보유합니다.
