Im Rahmen der jährlichen Entwicklerkonferenz kündigte Huawei die Einführung der Huawei Cloud Pangu Models 3.0 und Ascend AI Cloud Services an.
Während die Pangu Models 3.0 darauf ausgelegt sind, KI in das operative Geschäft zu integrieren und so Wertschöpfung zu generieren, dienen die Ascend KI-Cloud-Services der Beschleunigung des Trainings Künstlicher Intelligenzen. Mit Hilfe der Cloud-Services von Ascend AI kann ein einziger Rechnerverbund 2.000 petaFLOPS an Rechenkapazität bereitstellen und ein Cluster mit 1.000 Karten ist in der Lage, ein Modell mit mehreren Milliarden Parametern 30 Tage lang ununterbrochen zu trainieren.
Die Huawei Cloud Pangu-Modelle wurden entwickelt, um sich auf die praktischen Bedürfnisse spezifischer Industrie- und Wirtschaftsbranchen zu konzentrieren. Dabei verwenden die Modelle eine "5+N+X"-Dreischichtarchitektur. Die L0-Schicht besteht aus fünf Grundmodellen: NLP (Neuro Linguistic Programing), CV (Computer Vision), Multimodal, Prediction und Scientific Computing, die Basis-Fähigkeiten zur Verfügung stellen, um eine hohe Anzahl branchenspezifischer Anwendungen zu ermöglichen.
„Die Pangu-Modelle 3.0 sind in verschiedenen Größen erhältlich: 10 Mrd. Parameter, 38 Mrd. Parameter, 71 Mrd. Parameter und 100 Mrd. Parameter, um den unterschiedlichen Kundenbedürfnissen und den verschiedenen Anforderungen an Latenz- und Reaktionszeiten gerecht zu werden“, erklärt Zhang Ping'an, Huawei Executive Director und CEO von Huawei Cloud. Darüber hinaus würden neue Funktionen angeboten, wie wissensbasierte Fragen und Antworten, Texterstellung und Codegenerierung für das Pangu NLP-Modell sowie Bilderzeugung und -verständnis für das Pangu Multimodal-Modell. All diese Funktionen stünden Kunden und Partnern zur Verfügung und seien unabhängig von der Modellgröße (Anzahl der Parameter) einheitlich.
Die L1-Schicht besteht aus N auf die Branche zugeschnittenen Modellen. Huawei Cloud kann Kunden mit Branchenmodellen versorgen, die auf offenen Branchendatensätzen trainiert wurden, darunter Pangu-Modelle für Behörden, Finanzen, Fertigung, Bergbau und Meteorologie. Alternativ können Kunden ihre Modelle anhand ihrer eigenen Datensätze trainieren, die auf den L0- oder L1-Pangu-Modellen von Huawei basieren. Die L2-Schicht bietet vortrainierte Modelle für spezifische Branchenszenarien und -aufgaben, wie beispielswese eine intelligente Behördenhotline, intelligente Filialassistenten, Screening von Bleiverbindungen, Erkennung von Fremdkörpern am Förderband und Vorhersage der Flugbahn eines Taifuns.
Unterschiedliche Sicherheits- und Compliance-Anforderungen erfüllt
Dank dieser entkoppelten, hierarchischen Architektur lassen sich die Pangu-Modelle schnell an eine Vielzahl von nachgelagerten Aufgaben anpassen. Kunden können unabhängige Datensätze laden, um ihre eigenen Modelle zu trainieren. Sie können wählen, ob sie die Basismodelle oder nur die Fähigkeitssätze aktualisieren möchten. Basierend auf den L0- und L1-Modellen bietet die Huawei Cloud auch Entwicklungssuiten für Branchenmodelle an, mit denen Kunden ihre eigenen Modelle mit ihren eigenen Datensätzen trainieren können. Des Weiteren unterstützen die Pangu-Modelle verschiedene Bereitstellungsmodi, darunter Public Cloud, eine dedizierte große Modellzone in der Public Cloud und Hybrid Cloud. Das trägt zur Erfüllung unterschiedlicher Sicherheits- und Compliance-Anforderungen der verschiedenen Kunden bei.
Im Bereich der Behördendienste arbeitete die Regierung des Bezirks Shenzhen Futian mit Huawei Cloud zusammen, um den intelligenten Behördendienst-Assistenten Xiaofu zu entwickeln, der auf dem Pangu-Behördenmodell basiert. Dieser intelligente Assistent ist in der Lage, die Anliegen der Benutzer:innen genau zu verstehen und sie einem vordefinierten Service-Element zuzuordnen, um so eine schnelle Bearbeitung des angeforderten Services zu gewährleisten. Das Pangu Government Model wurde anhand von mehr als 200.000 behördlichen Datensätzen trainiert, darunter Dokumente zur Regierungspolitik, Wissensdatenbanken von Behördenenzyklopädien, Daten von Behördenhotlines und anderes allgemeines Wissen, so dass es über umfassende Kenntnisse der Vorschriften und der Dienstleistungsprozesse von Behörden verfügt.
Bislang wurde das Pangu-Bergbaumodell in acht Bergwerken in China eingesetzt. Ein einziges Modell kann mehr als 1.000 Unterszenarien unterstützen. Es trägt dazu bei, sicherere und intelligentere Bergwerke zu bauen, die sich mit einer kleinen oder sogar gar keiner Untertagebesatzung effizient betreiben lassen.
Eisenbahngesellschaften können mit Hilfe des Pangu Railway Models 67 Arten von Güterwagen und über 430 Arten von Fehlern an Schienen und Güterwagen genau identifizieren. „Die KI-Software kann Millionen von Bildern, die vom TFDS-System der Bahn erfasst wurden, schnell scannen und 95 Prozent der Bilder, die fehlerfrei sind, herausfiltern“, freut sich Zhang Ping'an. Auf diese Weise könnten sich die Zuginspektoren auf die verbleibenden Bilder konzentrieren, was ihnen helfe, sowohl die Effizienz als auch die Genauigkeit zu verbessern.
Schnellere und genauere Wettervorhersage
In der Meteorologie ist das Pangu-Meteorologiemodell (oder Pangu-Wetter) das erste KI-Modell, das die modernen Methoden der numerischen Wettervorhersage (NWP) in Bezug auf die Genauigkeit übertroffen hat. Auch die Vorhersagegeschwindigkeit ist um mehrere Größenordnungen schneller. In der Vergangenheit dauerte die Vorhersage der Bewegung eines Taifuns über zehn Tage vier bis fünf Stunden Simulation auf einem Hochleistungscluster mit 3.000 Servern. „Das Pangu-Modell ist in der Lage, diese Berechnungen innerhalb von zehn Sekunden auf einem einzigen Grafikprozessor eines Servers zu berechnen – und das mit genaueren Ergebnissen“, erläutert Zhang Ping'an.
Im Bereich der Finanzdienstleistungen kann das Pangu-Finanzmodell, das auf großen Datensätzen mit Daten über Bankrichtlinien, Verfahren und Fallstudien trainiert wurde, automatisch die richtigen Service-Workflows und Anleitungen für Bankangestellte auf der Grundlage der Serviceanfragen der Kunden erstellen. Dies hilft, Serviceanfragen effizienter und sicherer zu bearbeiten. Im Prinzip bekommt jede:r Bankangestellte über das Pangu-Finanzmodell einen eigenen intelligenten Assistenten an die Hand.
In der Fertigung dauerte es in der Vergangenheit mehr als drei Stunden, um einen Tagesplan für die Zuteilung von Vorprodukten für eine einzige Produktionslinie zu erstellen. Das Pangu-Fertigungsmodell, das anhand von Daten über Teile und Komponenten, Geschäftsprozesse und Regeln aus den eigenen Produktionslinien von Huawei trainiert wurde, ist in der Lage, Absichten zu erkennen. Durch den Aufruf des Huawei OptVerse AI Solver-Plugins kann das Pangu-Modell einen Drei-Tage-Produktionsplan in einer Minute entwickeln.
„Im Bereich der Arzneimittelforschung und -entwicklung dauerte die Entwicklung eines neuen Medikaments früher durchschnittlich zehn Jahre und verschlang eine Milliarde US-Dollar“, berichtet Zhang Ping'an. „Jetzt kann das Pangu Drug Molecule Model die Entdeckung von Leitstrukturen von mehreren Jahren auf nur einen Monat verkürzen und die Kosten für die Arzneimittelforschung und -entwicklung um bis zu 70 Prozent senken“. Mithilfe dieses Modells habe ein Team unter der Leitung von Professor Liu Bing von der Xi'an Jiaotong Universität kürzlich ein neues Superantibiotikum entdeckt - das erste neue Antibiotikum seit 40 Jahren, mit völlig neuen Proteinzielen und in einer eigenen Kategorie.
Neben besseren KI-Modellen optimiert Huawei Cloud auch die zugrunde liegenden Technologien, die KI antreiben. Dazu gehören eine KI-Compute-Cloud-Plattform, die auf Kunpeng und Ascend aufbaut, CANN (eine heterogene Computing-Architektur), MindSpore (ein KI-Framework für alle Szenarien) und ModelArts (KI-Entwicklungspipeline). Zu den wichtigsten Funktionen gehören die verteilte parallele Beschleunigung, die Optimierung von Operatoren und Kompilierung sowie die Optimierung der Clusterkommunikation für die Entwicklung und Ausführung von KI-Modellen. Die Kerntechnologie von Huawei trainiert KI-Modelle bis zu 1,1 Mal schneller als gängige GPUs.
Stabilität der Trainings erhöht sich signifikant
Rechenleistung ist die Grundlage für das Training von KI-Modellen. Auf dieser Konferenz kündigte Huawei die neuesten Ascend-KI-Cloud-Services mit 2000 PFLOPS eines einzelnen Clusters in den beiden Huawei Cloud-KI-Rechenzentren in Ulanqab und Gui'an, China, an. Zusätzlich zu Huawei MindSpore nutzen die Ascend AI Cloud Services gängige KI-Frameworks wie PyTorch und TensorFlow. 90 Prozent der Betreiber dieser Frameworks können mit Hilfe der bereitgestellten End-to-End-Migrations-Tools reibungslos zu Ascend migrieren.
„Zuvor erforderten häufige GPU-Fehler während des Trainings häufige Neustarts“, kommentiert Zhang Ping'an. „Stabile Ascend-KI-Cloud-Services helfen, diese Zeitverluste zu verringern. Die langfristige Stabilität des Trainings mit 1000 Karten (30 Tage) erreicht 90 Prozent, und Unterbrechungen werden innerhalb von zehn Minuten behoben.“
Neben den branchenübergreifenden Implementierungen werden die Pangu-Modelle auch in die Cloud-Produkte und -Dienste von Huawei integriert, um die Produktivität massiv zu steigern. Pangu generiert zum Beispiel automatisch Texte und Codes und beschleunigt so die Produkteinführung und das Onboarding von Benutzern. Der Cloud-Kundenservice bindet Branchenwissen und Intent Mining ein und steigert die Effizienz des gesamten Prozesses um 30 Prozent, indem zuerst die KI und dann der Mensch antwortet. Für Business Intelligence (BI) unterstützen NL2SQL und AutoGraph automatische Empfehlungen von visuellen Diagrammen aus SQL-Anweisungen. Mehrere Runden der natürlichsprachlichen Interaktion erleichtern die Darstellung von Erkenntnissen aus Daten. „Bei der Cloud-Suche erhöhen die multimodale Einbettung und NL2API die Suchgenauigkeit für Videos, Texte und Diagramme durch leistungsstarkes semantisches Verständnis und Generalisierung um 15 Prozent“, erklärt Zhang Ping'an.
Darüber hinaus kombiniert Huawei Cloud CodeArts mit Pangu, um CodeArts Snap zu entwickeln, einen intelligenten Programmierassistenten für Entwickler. „CodeArts Snap wurde mit 76 Milliarden Zeilen Qualitätscode und 13 Millionen technischen Dokumenten trainiert und macht Generierung, Fragen und Antworten sowie Zusammenarbeit intelligenter“, so Zhang Ping'an.
Die Produktion von Inhalten und Innovation sind zwei weitere wichtige Themen der KI. Basierend auf den Pangu-Grundmodellen unterstützt die Huawei Cloud MetaStudio - die Pipeline für die Produktion digitaler Inhalte - und erstellt das Pangu Virtual Human Model, das die Modellerstellung und -steuerung unterstützt und mit 200.000 Stunden Video und Audio trainiert wurde. Die Modellerstellung und -steuerung ermöglicht die einfache Erstellung virtueller Menschen für Online-Bildung, Unterhaltung, Livestreaming, Meetings und vieles mehr. „So kann beispielsweise ein personalisierter virtueller Mensch in nur drei Minuten zum Leben erweckt werden, indem ein 20-Sekunden-Video auf die Service-Seite von Huawei Cloud MetaStudio hochgeladen wird“, ist Zhang Ping'an überzeugt. „Zuvor waren dafür drei Tage und drei F&E-Ingenieure erforderlich“.
Gemeinsamer Erfolg mit Kunden und Partnern
Huawei Cloud zielt darauf ab, ein offenes globales Ökosystem mit Schwerpunkt auf Entwicklern aufzubauen. Die Cloud verbindet derzeit über 4,6 Millionen Entwickler weltweit und stellt mehr als 10.000 Dienste über Huaweis Marktplatz KooGallery zur Verfügung. Huawei Cloud bietet einfach zu verwendende, zuverlässige KI-Modell-Toolkits, MacroVerse aPaaS mit Multi-Szenario-APIs und eine KI-Modell-Community mit Qualitätskursen und Zertifizierungen. Ziel ist es, durch Partnerschaften und Zusammenarbeit mit Entwicklern das richtige Modell für den Markt zu finden.
KI-Modelle werden durch hochwertige Daten verbessert. Huawei Cloud kündigte an, sich mit der China Public Relations Association, dem Culture Big Data Industry Committee und Partnern zu einer Allianz für hochwertige Daten für Industriemodelle zusammenzuschließen. Die Allianz wird offene Daten von Mitgliedern zusammenführen und Datensätze für verschiedene Branchen erstellen. Entwickler sind der Motor für digitale Innovation. Die Konferenz war auch der Startschuss für den Huawei-Entwicklerwettbewerb 2023. Unter dem Motto "Spark Infinity" (Funken der Unendlichkeit) umfasste dieses Event zwei Bereiche: Cloud Foundation und Industrie.
www.huawei.com
