- Graphcore und Cirrascale stellen Graphcloud vor
- Cloud-Computing-Lösung für KI-Anwendungen
Bristol, Großbritannien, 26. Januar 2021: Graphcore kündigt den nächsten Schritt seines Engagements an, Kunden dabei zu helfen, ihre Innovationen zu beschleunigen und die Vorteile künstlicher Intelligenz (KI) in großem Maßstab zu nutzen.
Zusammen mit Cirrascale Cloud Services hat Graphcore mit dem ersten öffentlich verfügbaren Mk2 IPU-POD Scale-Out-Cluster etwas völlig Neues für KI in der Cloud entwickelt, das eine einfache Möglichkeit bietet, Rechenkapazität nach Bedarf hinzuzufügen, ohne dass ein eigenes Rechenzentrum betrieben werden muss.
Graphcore weiß, dass die enormen Möglichkeiten, die KI bietet, einzigartige Herausforderungen für das Computing mit sich bringen. Die Größe der Modelle wächst schnell und eine immer bessere Genauigkeit wird gefordert. Wollen Kunden neueste Innovationen optimal nutzen, benötigen sie ein eng integriertes Hardware- und Softwaresystem, das speziell für KI entwickelt wurde.
Graphcloud ist ein sicherer und zuverlässiger Cloud-Service der IPU-POD-Produktserie, mit dem Kunden auf die Leistungsfähigkeit der Intelligence Processing Unit (IPU) von Graphcore zugreifen können, während sie von Experimenten über Proof-of-Concept- und Pilotprojekten hin zu größeren Fertigungssystemen skalieren.
Zum Start stehen zwei Graphcloud-Angebote bereit. In den kommenden Monaten werden größere Scale-Out-Systeme hinzugefügt:
IPU-POD16 – mit 4 PetaFLOPS KI-Rechenleistung (16 GC200 IPUs in 4 IPU-M2000s)
IPU-POD64 – mit 16 PetaFLOPS KI-Rechenleistung (64 GC200 IPUs in 16-IPU-M2000s)
IPU-POD-Systeme bieten im Vergleich zu neuesten GPU-Systemen geringere Gesamtkosten für das Training und kürzere Zeiten bis zur Lösung.
Graphcloud-Systeminstanzen sind mit Poplar und Systemsoftware vorinstalliert. Beispielcode und Anwendungsbeispiele sind lokal für die in den Graphcore-Benchmarks genutzten Modelle verfügbar, einschließlich BERT, EfficientNet etc. Nutzer haben auch Zugriff auf umfassende Dokumentation, um einen schnellen Einstieg in mehrere Frameworks wie PyTorch und TensorFlow zu ermöglichen.
Einer der ersten Graphcore-Kunden, der Graphcloud einsetzt, ist das britische Unternehmen Healx, dessen KI-Plattform zur Medikamentenforschung neue Behandlungsmethoden für seltene Krankheiten identifiziert. Das Unternehmen wurde bei den AI Awards 2019 mit dem Preis „Best Use of AI in Health and Medicine“ ausgezeichnet.
„Wir haben Ende Dezember 2020 damit begonnen, einen IPU-POD16 in der Graphcloud zu verwenden und unseren bestehenden Mk1-IPU-Code auf das Mk2-System zu portieren“, so Dan O’Donovan, Technischer Leiter, Machine Learning Engineering bei Healx. „Es war ein reibungsloser Prozess, der einen enormen Leistungsvorteil brachte. Da mehr Speicher für unsere Modelle zur Verfügung stand, mussten wir unser Modell nicht mehr sharden und konnten uns stattdessen auf das Sharding unserer Daten konzentrieren. Dies führte zu einem einfacheren Code und effizienterem Modelltraining.“
O’Donovan weiter: „Während der gesamten Zusammenarbeit mit Graphcore haben wir stets Zugriff auf neueste Hardware, SDKs und Tools erhalten. Darüber hinaus fand ein ständiger Dialog mit den fachkundigen Hardware- und Softwareentwicklern von Graphcore statt – über direkte Treffen und den Support Desk.“
Nigel Toon, CEO von Graphcore, begrüßt die Einführung von Graphcloud: „Mit Graphcloud war es noch nie so einfach, unsere IPU zu nutzen – unabhängig davon, ob unsere Hardware und der Poplar-Software-Stack zum ersten Mal evaluiert oder KI-Rechenressourcen skaliert werden sollen. Wir freuen uns, mit Cirrascale zusammenzuarbeiten, um Graphcloud noch bekannter zu machen. Neben unserem globalen Partnerprogramm, dem eigenen Vertrieb und technischen Support ist dies ein weiterer wichtiger Bestandteil des mittlerweile umfassenden Angebots von Graphcore.“
PJ Go, CEO von Cirrascale Cloud Services, fügte hinzu: „Cirrascale ist stolz auf die strategische Zusammenarbeit mit Graphcore, die die Ära der Cloud-basierten Lösungen für maschinelles Lernen weiter vorantreiben, um bei einigen der spannendsten Fortune-500-Unternehmen einen kommerziellen Einsatz in großem Maßstab zu erreichen.“
Preise und Spezifikationen
Verfügbare Systeme:
IPU-POD16: 4x IPU-M2000-System
IPU-POD64: 16x IPU-M2000-System
Preise (in US-Dollar)
Spezifikationen
--- Beide Systeme nutzen die Vorteile der IPU-Fabric-Interconnect-Architektur von Graphcore. Die IPU-Fabric beseitigt Kommunikationsengpässe und ermöglicht Tausenden von IPUs, Maschinenintelligenz-Workloads als eine einzige, leistungsstarke und schnelle, zusammenhängende Einheit zu verarbeiten
--- Jede IPU-POD64-Instanz wird von vier Dell R6525-Hostservern mit Dual-Socket AMD EPYC2-CPUs unterstützt, wie sie auch in leistungsstärksten lokalen KI-Rechenzentren verwendet werden, während jede IPU-POD16 über einen dedizierten Server mit derselben Spezifikation verfügt
--- 16 TB sicherer lokaler NVMe-Speicher für IPU-POD64 und 4 TB für IPU-POD16
--- Jede IPU-POD64 bietet 57,6 GB prozessorinternen Speicher und 2048 GB Streaming-Speicher (32 x 64GB DIMMs)
--- Jede IPU-POD16 bietet 14,4 GB prozessorinternen Speicher und 512 GB Streaming-Speicher (8 x 64GB DIMMs)
Weitere Informationen über Graphcloud unter www.graphcore.ai/graphcloud
Über Graphcore
Graphcore ist der Erfinder der Intelligence Processing Unit (IPU), des weltweit fortschrittlichsten Mikroprozessors, der für die Anforderungen aktueller und zukünftiger Workloads für künstliche Intelligenz (KI) entwickelt wurde.
Die IPU-M2000 ist ein 1HE-Rechenzentrums-Blade, das auf vier Graphcore Colossus GC200 IPU-Prozessoren basiert und eine KI-Rechenleistung von 1 PetaFLOP ermöglicht. Für viele KI-Trainings- und Inferenzaufgaben sind IPU-Systeme den neuesten GPU-basierten Systemen deutlich überlegen.
Der IPU-POD64 von Graphcore ist für den Einsatz in großem Maßstab ausgelegt und bietet die Möglichkeit, sehr große Modelle auf bis zu 64 IPUs parallel auszuführen oder die Rechenressourcen auf mehrere Nutzer und Aufgaben zu verteilen.
Für Exascale Computing lassen sich bis zu 64.000 IPUs in IPU-POD-Konfigurationen miteinander verbinden.
Seit seiner Gründung im Jahr 2016 hat Graphcore über 710 Mio. US-Dollar an Finanzmitteln angeworben. Das Unternehmen hat seinen Hauptsitz in Bristol, Großbritannien, und verfügt über Niederlassungen in London, Großbritannien; Oslo, Norwegen; Palo Alto, USA und Peking, China.
Über Cirrascale Cloud Services
Cirrascale Cloud Services ist ein führender Anbieter öffentlicher und privater Cloud-Lösungen, die Deep-Learning-Workflows ermöglichen. Das Unternehmen bietet Cloud-basierte Infrastrukturlösungen für große Deep-Learning-Betreiber, Service-Provider und HPC-Benutzer (High Performance Computing).
Vorheriger Beitrag Nächster Beitrag