AI in a Box

KI-in-a-Box

AI-in-a-Box nutzt das kollektive Fachwissen von Microsoft-Kundeningenieuren und -Architekten auf der ganzen Welt, um KI- und ML-Lösungen für die technische Community zu entwickeln und bereitzustellen.

Unser Ziel ist es, eine kuratierte Sammlung von Lösungsbeschleunigern zu präsentieren, die Ingenieuren dabei helfen können, ihre KI-/ML-Umgebungen und -Lösungen schnell und mit minimaler Reibung einzurichten und dabei die höchsten Qualitäts- und Effizienzstandards aufrechtzuerhalten.

Während wir weiterhin vom Markt lernen, werden die Mitwirkenden versuchen, die Community mit den Tools und Ressourcen auszustatten, die für den Erfolg in der sich ständig weiterentwickelnden KI- und ML-Landschaft erforderlich sind.

Warum AI-in-a-Box?

• Beschleunigte Bereitstellung: Beschleunigen Sie Ihre Lösungen mit unseren bewährten, gebrauchsfertigen Mustern.
• Kosteneinsparungen: Maximieren Sie Ihr Budget, indem Sie vorhandenen Code und Muster wiederverwenden.
• Verbesserte Qualität und Zuverlässigkeit: Vertrauen Sie auf unsere Lösungen, die durch reale Szenarien validiert wurden.
• Wettbewerbsvorteil: Überholen Sie die Konkurrenz, indem Sie die Lösungsbereitstellung beschleunigen.

Verfügbare Anleitung

Thema	Beschreibung
Verantwortungsvolle KI	Dies bietet wesentliche Orientierungshilfen für den verantwortungsvollen Einsatz von KI- und LLM-Technologien.
Sicherheit für generative KI-Anwendungen	Dieses Dokument enthält spezifische Sicherheitshinweise für Anwendungen der generativen KI (GenAI).
Skalierung von OpenAI-Anwendungen	Dieses Dokument enthält Best Practices für die Skalierung von OpenAI-Anwendungen in Azure.

Verfügbare „-in-a-Box“-Beschleuniger

Muster	Beschreibung	Unterstützte Anwendungsfälle und Funktionen
Azure ML-Operationalisierung in einer Box	Boilerplate Data Science-Projekt von der Modellentwicklung bis zur Bereitstellung und Überwachung	End-to-End-MLOps-Projektvorlage Outer Loop (Infrastrukturaufbau) Inner Loop (Modellerstellung und Bereitstellungslebenszyklus)
Edge-KI in einer Box	Edge AI von der Modellerstellung bis zur Bereitstellung auf Edge Device(s)	Erstellen Sie ein Modell und stellen Sie es auf dem Edge-Gerät bereit. Einrichtung der Outer-Loop-Infrastruktur (IoT Hub, IoT Edge, Edge VM, Container Registry, Azure ML) Inner Loop (Modellerstellung und -bereitstellung)
AML Edge im Lieferumfang enthalten	Edge AI von der Modellerstellung bis zur Bereitstellung auf Edge Device(s)	Orchestrieren Sie den gesamten Lebenszyklus des Edge-KI-Modells – von der Erstellung bis zur Bereitstellung – mit Azure ML, IoT Edge und IoT Hub und nutzen Sie gleichzeitig Azure ML CLI V2 für eine optimierte Verwaltung.
Custom Vision Edge im Lieferumfang enthalten	Edge AI von der Modellerstellung bis zur Bereitstellung auf Edge Device(s)	Edge AI verringert die Cloud-Latenz, indem es die Analyse näher an die Datenquelle verlagert, um schnellere Reaktionen zu ermöglichen. Dieser Beschleuniger demonstriert die Verwendung von Custom Vision zum Trainieren eines Modells und zum Exportieren in Formate wie ONNX oder Dockerfile für die Edge-Bereitstellung.
Doc Intelligence in einer Box	Dieser Beschleuniger ermöglicht es Unternehmen, im Rahmen ihrer digitalen Transformation die Verarbeitung von PDF-Formularen zu automatisieren, Abläufe zu modernisieren, Zeit zu sparen und Kosten zu senken.	Erhalten Sie PDF-Formulare Funktions-App und Logik-App für die Orchestrierung Erstellung eines Document Intelligence-Modells für die Formularverarbeitung und Inhaltsextraktion Speichert PDF-Daten in Azure Cosmos DB
Bild- und Videoanalyse in einer Box	Extrahiert Informationen aus Bildern und Videos mit Azure AI Vision und sendet die Ergebnisse zusammen mit der Eingabeaufforderung und der Systemmeldung an Azure GPT-4 Turbo mit Vision.	Orchestrierung durch Azure Data Factory Low-Code-Lösung, einfach erweiterbar für Ihre eigenen Anwendungsfälle durch ADF-Parameter Verwenden Sie dieselbe Lösung und bereitgestellte Ressourcen für viele verschiedene Szenarien wieder Speichert GPT4-V-Ergebnisse in Azure CosmosDB
Cognitive Services Landing Zone in einer Box	Minimale unternehmenstaugliche Netzwerk- und KI-Services-Einrichtung zur Unterstützung der meisten Cognitive Services-Szenarien in einer sicheren Umgebung	Hub-and-Spoke-Vnet-Einrichtung und Peering Cognitive Service-Bereitstellung Einrichtung eines privaten Endpunkts Private DNS-Integration mit PaaS-DNS-Resolver
Semantischer Kernel-Bot in einer Box	Erweiterbarer Lösungsbeschleuniger für erweiterte Azure OpenAI Bots	Stellen Sie den Azure OpenAI-Bot auf mehreren Kanälen bereit (Web, Teams, Slack usw.) Integrierte Retrieval-Augmented Generation (RAG)-Unterstützung Implementieren Sie benutzerdefinierte KI-Plugins
NLP zu SQL in einer Box	Nutzen Sie die Leistungsfähigkeit eines hochmodernen sprachgestützten SQL-Abfragesystems mit Azure OpenAI, Semantic Kernel und Azure Speech Services. Sprechen Sie Ihre Datenanfragen einfach in natürlicher Sprache und lassen Sie die Magie geschehen.	Ermöglicht Benutzern das verbale Ausdrücken von Anfragen in natürlicher Sprache Übersetzen Sie mithilfe von Azure Speech und AOAI in SQL-Anweisungen Auf einer Azure SQL-Datenbank ausführen
Assistenten-API-Notebooks	Mithilfe der Einfachheit der Assistenten-API können Entwickler Assistenten mit unterschiedlichen Funktionalitäten, von der Codeausführung bis zum Abrufen von Daten, nahtlos integrieren und Benutzern vielseitige und dynamische digitale Assistenten zur Verfügung stellen, die auf ihre Bedürfnisse zugeschnitten sind.	Bietet drei Hauptfunktionen: Code-Interpreter (technische Aufgaben), Abrufen (Informationen finden) und Funktionsaufruf (Aufgabenausführung). Diese Kräfte bilden zusammen einen vielseitigen Superassistenten für die Bewältigung vielfältiger Aufgaben
Assistenten-API-Bot in einer Box	Dieses Beispiel bietet eine Schritt-für-Schritt-Anleitung zur Bereitstellung eines virtuellen Assistenten unter Nutzung der Azure OpenAI Assistants-API. Es behandelt die Infrastrukturbereitstellung, die Konfiguration im AI Studio und Azure Portal sowie End-to-End-Testbeispiele.	Stellen Sie die erforderliche Infrastruktur zur Unterstützung eines Azure OpenAI-Assistenten bereit Als Assistent mit den erforderlichen Tools konfigurieren. Verbinden Sie eine Bot Framework-Anwendung mit Ihrem Assistenten, um den Chat auf mehreren Kanälen bereitzustellen

Wichtige Kontakte und Mitwirkende

Wenn Sie Fragen haben oder einen Beitrag leisten möchten, wenden Sie sich bitte an: [email protected]

Kontakt	GitHub-ID	E-Mail
Alex Morales	@msalemor	[email protected]
Andre Dewes	@andredewes	[email protected]
Andrés Padilla	@AndresPad	[email protected]
Chris Ayers	@codebytes	[email protected]
Eduardo Noriega	@EduardoN	[email protected]
Franklin Guimaraes	@franklinlindemberg	[email protected]
Jean Hayes	@jehayesms	[email protected]
Marco Aurélio Bigélli Cardoso	@MarcoABCardoso	[email protected]
Maria Vrabie	@MariaVrabie	[email protected]
Neeraj Jhaveri	@neerajjhaveri	[email protected]
Thiago Rotta	@rottathiago	[email protected]
Victor Santana	@Welasco	[email protected]
Sabyasachi Samaddar	@ssamadda	[email protected]