AI System
1.0.0
Inglés
El nombre chino de este curso es Sistema de Inteligencia Artificial , que explica principalmente el diseño de sistemas informáticos que soportan la inteligencia artificial. El nombre del curso en inglés correspondiente es Sistema para IA . Los siguientes términos se utilizarán indistintamente en este curso: sistema de inteligencia artificial , sistema de IA y sistema para IA .
Este curso es uno de los tutoriales relacionados con la inteligencia artificial planificados en la Comunidad de educación y co-construcción de inteligencia artificial de Microsoft. En el módulo de tutorial básico, el número y el nombre del curso es A6-Artificial Intelligence System .
Bienvenido a visitar el módulo Tutorial A-Basic de la Comunidad de Co-construcción y Educación en Inteligencia Artificial de Microsoft para acceder a más contenido relacionado.
En los últimos años, la inteligencia artificial, especialmente la tecnología de aprendizaje profundo, se ha desarrollado rápidamente, lo que es inseparable del progreso continuo de los sistemas de hardware y software de las computadoras. En el futuro previsible, el desarrollo de la tecnología de inteligencia artificial seguirá dependiendo del modelo de innovación conjunta que combina sistemas informáticos e inteligencia artificial. Cabe señalar que los sistemas informáticos ahora están potenciando la inteligencia artificial con mayor escala y mayor complejidad, lo que requiere no sólo una mayor innovación del sistema, sino también un pensamiento y una metodología sistemáticos. Al mismo tiempo, la inteligencia artificial también apoya el diseño de sistemas complejos.
Hemos notado que la mayoría de los cursos actuales relacionados con la inteligencia artificial, especialmente los cursos relacionados con el aprendizaje profundo y el aprendizaje automático, se centran principalmente en teorías, algoritmos o aplicaciones relacionados, y los cursos relacionados con sistemas son raros. Esperamos que el curso de sistemas de inteligencia artificial haga que la educación relacionada con la inteligencia artificial sea más completa y profunda, a fin de promover conjuntamente el cultivo de talentos en la intersección de la inteligencia artificial y los sistemas.
Este curso está diseñado principalmente para estudiantes de pregrado y posgrado para ayudar a los estudiantes a:
Comprender completamente la arquitectura del sistema informático que respalda el aprendizaje profundo y aprender el diseño del sistema durante el ciclo de vida completo del aprendizaje profundo a través de problemas prácticos.
Presenta un trabajo de investigación de vanguardia que combina sistemas e inteligencia artificial, incluida la IA para sistemas y Sistemas para IA, para ayudar a los estudiantes universitarios y de posgrado a encontrar y definir mejor preguntas de investigación significativas.
Diseñar cursos experimentales desde la perspectiva de la investigación sistemática. Anime a los estudiantes a implementar y optimizar módulos del sistema operando y aplicando marcos, plataformas y herramientas convencionales y más recientes para mejorar su capacidad para resolver problemas prácticos en lugar de simplemente comprender el uso de herramientas.
Cursos de requisitos previos: C/C++/Python, arquitectura informática, introducción a los algoritmos
El curso incluye principalmente los siguientes tres módulos:
La primera parte es el conocimiento básico de la inteligencia artificial y una descripción general completa de los sistemas de inteligencia artificial, así como el diseño sistemático y la metodología de los sistemas de aprendizaje profundo;
La segunda parte es un curso avanzado que incluye las áreas de investigación más vanguardistas en la intersección de sistemas e inteligencia artificial.
La tercera parte son los cursos experimentales de apoyo, incluidos los marcos, plataformas y herramientas más convencionales, así como una serie de proyectos experimentales.
El contenido de la primera parte se centrará en los conocimientos básicos, mientras que el contenido de las otras dos partes se ajustará dinámicamente a los avances tecnológicos en la academia y la industria. El contenido de las dos últimas partes se organizará en forma modular para facilitar el ajuste o la combinación con otros cursos de informática (como principios de compilación, etc.) como notas de conferencias avanzadas o proyectos de pasantías.
El diseño de este curso también se basará en los resultados de la investigación y la experiencia de Microsoft Research Asia en la intersección de la inteligencia artificial y los sistemas, incluidas algunas plataformas y herramientas desarrolladas por Microsoft y el instituto de investigación. El curso también anima a otras escuelas y profesores a añadir y ajustar temas más avanzados u otros experimentos según sus propias necesidades.
curso basico
| Número de curso | Nombre del folleto | Observación |
| 1 | Introducción al curso | Descripción general del curso y fundamentos del sistema/IA |
| 2 | Descripción general del sistema de inteligencia artificial | Historia del desarrollo de los sistemas de inteligencia artificial, conceptos básicos de las redes neuronales, conceptos básicos de los sistemas de inteligencia artificial. |
| 3 | Conceptos básicos del marco informático de redes neuronales profundas | Retropropagación y derivación automática, tensores, gráficos acíclicos dirigidos, papeles y sistemas de gráficos de ejecución: PyTorch, TensorFlow |
| 4 | Operaciones matriciales y arquitectura informática. | Operaciones matriciales, CPU/SIMD, GPGPU, ASIC/TPU Papeles y sistemas: Blas, TPU |
| 5 | Algoritmo de entrenamiento distribuido | Paralelismo de datos, paralelismo de modelos, SGD distribuido Papeles y sistemas: PipeDream |
| 6 | Sistema de entrenamiento distribuido | MPI, servidores de parámetros, all-reduce, RDMA Papeles y sistemas: Horovod |
| 7 | Sistema de gestión de recursos y programación de clústeres informáticos heterogéneos. | Ejecutar tareas DNN en un cluster: contenedores, asignación de recursos, documentos de programación y sistemas: Kubeflow, OpenPAI, Gandiva |
| 8 | Sistema de derivación de aprendizaje profundo. | Eficiencia, latencia, rendimiento, documentos y sistemas de implementación: TensorRT, TensorFlowLite, ONNX |
Cursos avanzados
| Número de curso | Nombre del folleto | Observación |
| 9 | Compilación y optimización de gráficos computacionales. | IR, coincidencia de patrones de subgrafos, multiplicación de matrices y sistemas y artículos de optimización de memoria: XLA, MLIR, TVM, NNFusion |
| 10 | Optimización de compresión y dispersión de redes neuronales. | Compresión de modelos, dispersión, poda. |
| 11 | Sistema automático de aprendizaje automático. | Ajuste de hiperparámetros, búsqueda de estructura de red neuronal (NAS) Papeles y sistemas: Hyperband, SMAC, ENAX, AutoKeras, NNI |
| 12 | sistema de aprendizaje por refuerzo | Teoría de RL, artículos y sistemas de sistemas de RL: AC3, RLlib, AlphaZero |
| 13 | Seguridad y privacidad | Documentos y sistemas de aprendizaje federado, seguridad y privacidad: DeepFake |
| 14 | Uso de inteligencia artificial para optimizar los sistemas informáticos | La inteligencia artificial se aplica a problemas de sistemas tradicionales, la inteligencia artificial se aplica a sistemas y documentos de algoritmos de sistemas: sistemas de transmisión de medios, indexación de bases de datos, ajuste de parámetros del sistema, diseño de chips, programación predictiva de recursos |
Experimento básico
| Número de experimento | Nombre del experimento | Observación |
| Experimento 1 | Ejemplos de cómo empezar a utilizar marcos y herramientas | |
| Experimento 2 | Personaliza una nueva operación tensor | |
| Experimento 3 | Implementación y optimización de CUDA. | |
| Experimento 4 | Implementación u optimización de AllReduce | |
| Experimento 5 | Configurar Container para entrenamiento en la nube o preparación de inferencias | |
Experimentos avanzados
| Experimento 6 | Aprende a utilizar el sistema de gestión de programación. | |
| Experimento 7 | Ejercicio de tareas de entrenamiento distribuido. | |
| Experimento 8 | Ejercicios del sistema automático de aprendizaje automático. | |
| Experimento 9 | Ejercicios del sistema de aprendizaje por refuerzo. | |
El libro de texto "Sistema de inteligencia artificial" es uno de los libros de texto relacionados con la inteligencia artificial planificados en la Comunidad de educación y co-construcción de inteligencia artificial de Microsoft. Hemos notado que la mayoría de los libros de texto actuales relacionados con la inteligencia artificial, especialmente los cursos relacionados con el aprendizaje profundo y el aprendizaje automático, se centran principalmente en teorías, algoritmos o aplicaciones relacionados, y los libros de texto relacionados con sistemas son raros. Esperamos que los libros de texto sobre sistemas de inteligencia artificial puedan hacer que la educación sobre sistemas de inteligencia artificial sea más sistemática y universal, a fin de promover conjuntamente el cultivo de talentos en la intersección de la inteligencia artificial y los sistemas.
Se ha publicado la versión impresa del libro de texto "Diseño de sistemas de aprendizaje profundo: teoría y práctica". ¡Bienvenido a leerlo!
<por determinar>
Este proyecto agradece las contribuciones y sugerencias. La mayoría de las contribuciones requieren que usted acepte un Acuerdo de licencia de colaborador (CLA) que declara que tiene derecho a otorgarnos, y realmente nos otorga, los derechos para usar su contribución. cla.opensource.microsoft.com.
Cuando envíe una solicitud de extracción, un bot CLA determinará automáticamente si necesita proporcionar un CLA y decorar el PR de manera adecuada (por ejemplo, verificación de estado, comentario). Simplemente siga las instrucciones proporcionadas por el bot. una vez en todos los repositorios utilizando nuestro CLA.
Este proyecto ha adoptado el Código de conducta de código abierto de Microsoft. Para obtener más información, consulte las preguntas frecuentes sobre el Código de conducta o comuníquese con [email protected] si tiene preguntas o comentarios adicionales.
Microsoft y sus colaboradores le otorgan una licencia para la documentación de Microsoft y otro contenido de este repositorio bajo la Licencia Pública Internacional Creative Commons Attribution 4.0, consulte el archivo LICENCIA, y le otorgan una licencia para cualquier código en el repositorio bajo la Licencia MIT, consulte el archivo CÓDIGO DE LICENCIA.
Microsoft, Windows, Microsoft Azure y/u otros productos y servicios de Microsoft a los que se hace referencia en la documentación pueden ser marcas comerciales o marcas comerciales registradas de Microsoft en los Estados Unidos y/u otros países. Las licencias para este proyecto no le otorgan derechos de uso. Los nombres, logotipos o marcas comerciales de Microsoft pueden encontrar las pautas generales sobre marcas comerciales en https://go.microsoft.com/fwlink/?LinkID=254653.
La información de privacidad se puede encontrar en https://privacy.microsoft.com/en-us/
Microsoft y sus colaboradores se reservan todos los demás derechos, ya sea bajo sus respectivos derechos de autor, patentes o marcas comerciales, ya sea por implicación, impedimento legal o de otro modo.
