Supermicro Ultra Server für Graphcore KI-Computing-Lösungen qualifiziert

Nach der erfolgreichen Qualifizierung des ersten Supermicro Ultra Servers können Kunden bei den Graphcore Channel-Partnern jetzt Server von Supermicro als Teil ihrer Graphcore IPU-POD-Konfigurationen spezifizieren.

Der AS-1124US-TNRP ist der erste einer Reihe leistungsstarker Ultra Server der Enterprise-Klasse von Supermicro, die für die IPU-POD-Systeme von Graphcore ausgelegt sind. Er basiert auf der neuesten, dritten Generation der AMD EPYC Prozessoren.

Als Teil eines Graphcore IPU-POD helfen die Ultra Server von Supermicro Kunden dabei, die Grenzen der Maschinenintelligenz zu überwinden und modernste Modelle zu entwickeln, um heute häufig genutzte KI-Anwendungen zu beschleunigen.

„Supermicro ist einer der renommiertesten Hersteller der Branche“, so Tom Wilson, Vice President Product Management bei Graphcore. „Supermicros leistungsstarke Ultra Server sind die perfekte Ergänzung zu unserer speziell für KI-Anwendungen entwickelten IPU (Intelligence Processing Unit) und Scale-Out Systemen. Dies ist ein weiterer Meilenstein in der kontinuierlichen Erweiterung unseres Angebots. Graphcore unterstreicht damit seinen Fokus auf die Entwicklung von Systemen, die Leistungsfähigkeit, Flexibilität und Zuverlässigkeit bieten.“

Mehrere IPU-M2000 und Hostserver in einem IPU-POD-System lassen sich in unterschiedlichen Verhältnissen konfigurieren, um die Gesamtbetriebskosten (TCO) für die verschiedenen Serveranforderungen bestimmter KI-Workloads zu optimieren. Server-intensive Anwendungen wie Computer Vision profitieren von einem höheren Server-zu-IPU-Verhältnis als z.B. Workloads bei der Verarbeitung natürlicher Sprache.




„Graphcore hat die Architektur seiner IPU-POD-Lösungen für Rechenzentren wirklich durchdacht – auch wie sich das Beste aus verschiedenen Servern für unterschiedliche KI-Workloads herausholen lässt“, sagte Raju Penumatcha, Senior Vice President und Chief Product Officer bei Supermicro. „Wir erwarten, dass unsere Ultra- und anderen Server in Verbindung mit dem variablen Verhältnis von IPU zu Server bahnbrechende Ergebnisse liefern werden.“

IPU-POD ist die skalierbare KI-Lösung von Graphcore, die auf mehreren Instanzen des IPU-M2000 basiert: dem 1-PetaFlop-/1HE- KI-Blade sowie einer Reihe von Hostservern und Switches.

Die IPU-Fabric bietet Datenanbindung mit hoher Bandbreite, wobei die kompilierte Kommunikation und Datenverarbeitung über die Poplar-Softwareplattform verwaltet werden. IPU-PODs sind derzeit als POD4, POD16 und POD64 erhältlich.
Der IPU-POD16 Direct Attach (DA) mit 4 IPU-M2000, die direkt an einen Hostserver angeschlossen sind, ist ideal für KI-Entwickler, die mit der IPU-Evaluierung, der Proof-of-Concept-Entwicklung und Pilotversuchen beginnen möchten. Der IPU-POD64 verfügt über 16 IPU-M2000, 1 bis 4 Hostserver und 2 Switches und ist ideal für die Skalierung größerer Modelle und für Serien-Workloads.

Sobald zusätzliche Supermicro Server für IPU-POD-Systeme qualifiziert sind, werden sie in die Liste der von Graphcore zugelassenen Server aufgenommen, die auf der Graphcore-Website zur Verfügung steht.

IPU-POD-Systeme stehen ab sofort über Graphcores Elite-Partnerprogramm zur Verfügung. Zu den Graphcore Channel-Partnern in der DACH-Region zählen u.a. Boston und Megware.

Über die IPU-M2000
Die IPU-Machine M2000 ist ein Plug-and-Play KI-Computing-Blade, das für eine einfache Installation konzipiert wurde und Systeme unterstützt, die hoch skalieren. Das schlanke 1HE-Blade liefert 1 PetaFlop KI-Rechenleistung und bietet Netzwerktechnik, die für das KI-Scale-Out optimiert ist.




Jede IPU-Machine M2000 wird von vier der neuen 7nm-Colossus Mk2 GC200-IPU-Prozessoren von Graphcore angetrieben und durch den Poplar-Software-Stack von Graphcore unterstützt.

Über die Colossus Mk2 GC200 IPU
Die Colossus Mk2 GC200 IPU basiert auf neuester 7nm-Prozesstechnologie von TSMC und enthält mehr als 59,4 Mrd. Transistoren auf einem 823mm2-Chip. Mit ihren 1472 separaten IPU-Cores kann die Colossus Mk2 GC200 IPU 8832 separate parallele Computing-Threads ausführen.

Die Leistungsfähigkeit jedes IPU-Cores wird durch eine Reihe neuartiger, von Graphcore entwickelter, Gleitkomma-Techniken namens „AI-Float“ nochmals gesteigert. Durch optimierte arithmetische Implementierungen in Bezug auf Stromverbrauch und
Leistungsfähigkeit bei Maschinenintelligenz-Berechnungen steht 1 PetaFlop KI-Rechenleistung mit jedem IPU-Machine M2000 1HE-Blade zur Verfügung.

Mit branchenführendem Support für FP32-IEEE-Gleitkomma-Arithmetik unterstützt Graphcore auch FP16.32 (16Bit-Multiplikation mit 32Bit-Akkumulation) und FP16.16 (16Bit-Multiplikation mit Akkumulation). Die Colossus Mk2 GC200 IPUs unterstützen dabei stochastische Rundung der Arithmetik in Hardware, die mit der vollen Geschwindigkeit des Prozessors ausgeführt wird. Dadurch kann die IPU die gesamte Arithmetik in 16Bit-Formaten halten, was den Speicherbedarf reduziert, Energie bei Lese-/Schreibvorgängen und in der Arithmetik-Logik einspart, während die Ergebnisse der Maschinenintelligenz mit voller Genauigkeit geliefert werden.

Jeder der 1472 Prozessorkerne und 8832 parallelen Programm-Threads kann einen separaten Startwert für einen Zufallszahlengenerator mit Rauschformung erzeugen, was eine einzigartige Rechenleistung ermöglicht, um z.B. Wahrscheinlichkeits- oder Evolutionsstrategie-Modelle zu unterstützen.

Der KI-Fließkomma-Arithmetik-Block unterstützt auch Sparse-Arithmetik-Fließkommaoperationen. Graphcore bietet Bibliotheksunterstützung für verschiedene Sparse-Operationen, einschließlich Block- und Dynamic-Sparsity. Die Colossus Mk2 GC200 IPU bietet nicht nur während der Inferenz, sondern auch während des Trainings eine viel effizientere Berechnung von Sparse-Daten. Dies ermöglicht, neue Arten komplexer Modelle zu erstellen, die mit viel weniger Parametern, kürzeren Trainingszeiten und viel weniger Energie mehr Leistungsfähigkeit auf dem neuesten Stand der Technik bereitstellen können.

www.graphcore.aI

  Fordern Sie weitere Informationen an…