Vom frühen Unix-Ökosystem bis zur heutigen generativen KI und dem Cloud Computing hat Open-Source-Technologie schon immer eine sehr wichtige Rolle in der Entwicklung der Informatik und Technologie gespielt. Seit vielen Jahren treibt die Open-Source-Bewegung Innovation, Zusammenarbeit und Wissensaustausch voran. Fortschritt, und in jeder Phase der Entwicklung der Computertechnologie hat es seine einzigartigen Vorteile unter Beweis gestellt: niedrige Eintrittsbarrieren, beschleunigte Innovation und die Förderung der Zusammenarbeit in der Gemeinschaft und des Austauschs von Ergebnissen.
Als Anbieter von Open-Source-Lösungen für Unternehmen konzentriert sich Red Hat seit seiner Gründung auf Open Source und setzt sich dafür ein, die Anwendungsschwelle von KI durch die Förderung der Offenheit und des Austauschs von Technologie zu senken. Während des kürzlich abgehaltenen Red Hat Forums 2024 Global Vice President Victor Tsao, Präsident und Präsident von Greater China, betonte, dass Unternehmen, um die unendlichen Möglichkeiten der Open-Source-KI wirklich zu erschließen, zunächst die interne Logik und die zukünftigen Trends der Technologieentwicklung genau verstehen und sich gleichzeitig eng daran orientieren müssen tatsächlichen Bedarf und langfristige Planung der Unternehmens-IT.
Er sagte, dass viele Unternehmen derzeit hoffen, KI zur Verbesserung der Produktivität und zur Erweiterung neuer Geschäftsmöglichkeiten zu nutzen. Vor diesem Hintergrund sei die Beschleunigung von Unternehmens-KI-Anwendungen durch Open-Source-Methoden zu einem allgemeinen Trend geworden. Um den Kostenanforderungen der Kunden noch besser gerecht zu werden, schlug Red Hat außerdem eine schrittweise Implementierungsstrategie vor, nämlich die „Drei Schritte zu Enterprise AI Applications“.
Konkret können Kunden im ersten Schritt Open-Source-Modelle und -Tools mit minimaler Ressourcenkonfiguration ausprobieren, beispielsweise im Testlauf auf einem Laptop mit CPU, ohne dass eine zusätzliche GPU-Karte erforderlich ist.
Wenn der Kunde mit den Testergebnissen zufrieden ist, kann er mit dem zweiten Schritt fortfahren, nämlich der Anmietung von Rechenleistung über Cloud-Dienste für den weiteren Ausbau. Da die Red Hat-Plattform auf nahezu jeder Cloud laufen kann, können Kunden die des Unternehmens nutzen Wenn das Modell tatsächlich den tatsächlichen Anforderungen entspricht, kann der dritte Schritt der groß angelegten Bereitstellung erreicht werden.
Es ist erwähnenswert, dass sich Kunden bei der Durchführung einer groß angelegten Bereitstellung im dritten Schritt keine Gedanken über Cloud-übergreifende Probleme machen müssen. Da die Red Hat-Architektur eine cloudübergreifende Hybridbereitstellung unterstützt, können Kunden verschiedene Cloud-Dienste nutzen in verschiedenen Ländern bereitstellen, was zu einer flexibleren Architektur, günstigeren Kosten und letztendlich dem besten ROI führt.
Um Kunden eine reibungslosere Umsetzung des dreistufigen Prozesses zu ermöglichen, haben Red Hat und IBM außerdem gemeinsam das Open-Source-Community-Projekt InstructLab ins Leben gerufen, das das Open-Source-Großsprachenmodell Granite ergänzt. Aella Wang, General Manager der Solution Architecture-Abteilung von Red Hat Greater China, sagte, dass InstructLab für zwei Hauptzwecke konzipiert wurde. Der erste besteht darin, Kunden die Möglichkeit zu geben, InstructLab und ihre eigenen Daten zu verwenden, um Modelle zu trainieren, die ihren Anforderungen auf Granite entsprechen Modell. Die Ausgabe von InstructLab ist in zwei Teile unterteilt: „Wissen“ und „Fähigkeiten“, die beide für den internen Gebrauch im Unternehmen aufbewahrt werden können. Die zweite besteht darin, dass über InstructLab Wissen und Fähigkeiten an die vorgelagerte Managementorganisation zurückgegeben werden können. Nachdem die Managementorganisation Aktualisierungen aus Kundenfeedback erhalten hat, kann diese in die Community-Version von Granite integriert und eine neue Version veröffentlicht werden. Mit anderen Worten: InstructLab ist die Brücke zwischen der Community und den Kunden.
Wie wir alle wissen, ist die Szenenanwendung die „letzte Meile“ für die Stärkung der KI. In einer Zeit, in der große Modelle sehr gefragt sind, obwohl viele Unternehmen versuchen, die Produktionseffizienz durch große Modelle zu verbessern, „sind die Ideale voll und die Realität dürftig.“ „Die meisten großen Modelle Das Modell ist eigentlich nicht für tatsächliche Produktionsszenarien geeignet, da ein kleiner Fehler Risiken mit sich bringen kann. Im Gegenteil, kleine Modelle mit weniger Parametern und relativ begrenzten Trainingsdaten sind zwar nicht so gut wie große Modelle in Bezug auf Multitasking- oder Generalisierungsfähigkeiten, schneiden aber in bestimmten Aufgaben oder Bereichen besser ab als große Modelle.
Daher hat Red Hat vor einigen Jahren das Konzept dedizierter Modelle (treuer Zweck) vorgeschlagen, um die Stabilität und Sicherheit des Modells zu gewährleisten Um den spezifischen Anforderungen des Unternehmens gerecht zu werden, wurde das oben erwähnte InstructLab auf der Grundlage dieses Konzepts geboren.
Darüber hinaus hat Red Hat auch das kleine Modell „Community Edition“ eingeführt, das den Bedarf an realen Daten durch synthetische Daten erheblich reduziert und die Datenmenge auf ein Tausendstel des Originals reduzieren kann. Diese Methode reduziert nicht nur den Rechenleistungsbedarf und spart Kosten, sondern senkt auch den Energieverbrauch deutlich und ist umweltfreundlicher.
Gleichzeitig kann Red Hat durch den Aufbau des Konzepts der „offenen Labore“ mit den Beratungsteams der Kunden zusammenarbeiten, um die effizientesten Anwendungsszenarien für Forschung und Entwicklung, Produktion, Marketing und Kundensupport des Unternehmens zu finden. Beginnen Sie erfolgreich mit einer kleinen Anwendung und erweitern Sie sie dann schrittweise auf größere Szenarien.
„Szenarioanwendungen sind die Bereiche, in denen ISVs (Independent Software Vendors) und Anwendungsanbieter ihre eigenen Besonderheiten aufweisen. Darüber hinaus beschleunigt Red Hat auch die Zusammenarbeit mit lokalen ISVs und Lösungsentwicklern.“ „Durch die Zusammenarbeit mit lokalen ISVs und Lösungsentwicklern legen wir besonderen Wert auf das Co-Creation-Modell und die Kombination einzigartiger Szenarien und gemeinsamer Lösungen in verschiedenen Branchen“, sagte Zhao Wenbin, Senior „Marketingdirektor von Red Hat Greater China“, fügte Max Zhao hinzu.
Schließlich hat Red Hat auch entsprechende Pläne zur Förderung von Open-Source-KI in China. Konkret besteht der erste Schritt darin, die einzigartigen Funktionen und Vorteile von KI über verschiedene Marktkanäle zu fördern Beratungsteams, damit sie ein tieferes Verständnis der KI-Technologie von Red Hat erlangen können, um Kunden besser zu unterstützen; der dritte Schritt besteht darin, mit Kunden im offenen Labor zu besprechen, wie sie KI-Technologie auf tatsächliche Unternehmensszenarien anwenden können.
Berichten zufolge nutzt ein inländisches Versicherungsunternehmen bereits die KI-Technologie von Red Hat, um die Verarbeitung von Codeüberprüfungen und Codezusammenführungsanfragen zu beschleunigen. Bisher hatte dieses Unternehmen bei der Verwendung alter Tools häufig das Problem einer geringen Genauigkeit, und manchmal war diese auch genau. Die Rate liegt sogar unter 95 %, was in der tatsächlichen Produktionsumgebung offensichtlich zu erheblichen Problemen führen wird. Nach der Einführung der KI-Tools von Red Hat wurde die Genauigkeit der Codezusammenführung und -überprüfung erheblich verbessert und erreicht die hohen Standards dieses Kunden.
Während des Red Hat Forums 2024 gab Red Hat außerdem die Liste der Gewinner der Red Hat Asia Pacific Innovation Awards 2024 in China bekannt, und Amway gewann die Auszeichnung. Unter ihnen genießt Siemens Industrial Automation Products (Chengdu) Co., Ltd. (SEWC) als Schwesterwerk von Siemens in Amberg, Deutschland, den Ruf, eine der fortschrittlichsten Fabriken der Welt zu sein. Um mit dem Tempo moderner digitaler Produktionsanwendungen Schritt zu halten, steht SEWC vor dem Dilemma, die Produktionskontinuität in Frage zu stellen, einschließlich unzureichender Systemflexibilität und Skalierbarkeit, geringer Entwicklungseffizienz und umständlicher Abläufe. Durch den Einsatz von Red Hat OpenShift baute die Fabrik das Produktionsunterstützungssystem Memo (Manufacturing Operations Modular Ecosystem) auf. Dieses System verbesserte die Benutzererfahrung und Arbeitseffizienz der Produktionslinienmitarbeiter erheblich, setzte innovative Ideen in die Praxis um und stellte ein System für die Industrie bereit Softwareanwendungen zur Automatisierung der Fertigungsausführung setzen neue Maßstäbe.
Yang Jian, Leiter der Informationstechnologieabteilung von Siemens Industrial Automation (Chengdu) Co., Ltd., teilte in einem Interview auch seine Erfahrungen mit der Zusammenarbeit mit Red Hat. Er sagte, dass die Leistung von Red Hat im Vergleich zu anderen Anbietern in Bezug auf Reaktionsgeschwindigkeit und Das Verantwortungsbewusstsein ist sehr groß. In der aktuellen, sich schnell verändernden KI-Technologieumgebung müssen sich Unternehmen beim Einsatz von KI weiter anpassen und verbessern, und Red Hat hat in diesem Prozess eine bescheidene und freundliche Haltung bewahrt Modell ist sehr wertvoll. Dies ist auch ein wichtiger Grund, warum sich Siemens für die Red Hat-Plattform entschieden hat.
Gleichzeitig sagte er auch, dass die Fabrik nach der Einführung der Lösung von Red Hat den Wandel von einer monolithischen Architektur zu einer verteilten Mikroservice-Architektur realisiert habe. Dies bringt zwei Vorteile mit sich: Wartungsarbeiten, Upgrades und Änderungen können ohne Ausfallzeiten durchgeführt werden ein wichtiger Trend in der zukünftigen Entwicklung der verarbeitenden Industrie.
Mit Blick auf die Zukunft plant Siemens neben der weiteren Erforschung von Microservices-Plattformen auch eine stärkere Zusammenarbeit mit Red Hat im Bereich Virtualisierung, um einige bestehende Lösungen zu ersetzen. In Zukunft wird Siemens auch weiter untersuchen, wie die KI gestaltet werden kann Die Plattform sollte besser in das eigene Ressourcensystem integriert werden, um den Herstellungsprozess weiter zu optimieren.