Seit dem Produktlaunch des Intel Xeon Prozessors der 4. Generation steigen immer mehr Cloud Service Provider auf die Hochleistungs-CPU um. Im konkreten Fall ist die Rede von erst kürzlich bereitgestellten AWS EC2 – Instanzen. Dort lassen sich auf Basis des Intel-Prozessors und dessen integrierten Beschleunigerfunktionen leistungsfähigere Cloud-Anwendungen und -Workloads realisieren.
Unter den Bezeichnungen EC2 M7i-Flex und EC2 M7i hat AWS seit kurzem zwei Cloud-Instanzen im Portfolio, in denen der Intel Xeon Prozessor der 4. Generation für mehr Performance und ein besseres Preis-Leistungsverhältnis im Vergleich zur Vorgänger-Instanz M6i sorgt. Damit wollen Intel und AWS vor allem gemeinsam den ständig wachsenden KI-Markt noch besser adressieren, und das auf Basis spezieller CPU-Funktionen, wie sie der Intel Xeon Prozessor der 4. Generation bietet.
Mi7 und Mi7-Flex: 14 Konfigurationen für jedwede Anwendungen und Workloads
Apropos M7i und M7i-Flex: Beide Instanzen bieten 9 (M7i) bzw. 5 (M7i-Flex) Varianten, die sich auf unterschiedlichste Art und Weise unterscheiden. Das umfasst im Falle der M7i-Flex-Instanzen die Zahl der virtuellen Prozessoren (2 bis 32 vCPUs) und die zur Verfügung stehende Speichergröße (8 bis 12 GiB). Die mögliche Netzwerkbandbreite von bis zu 12,5 Gbps und die EBS-Bandbreite von maximal 10 Gbps ist in allen 5 Konfigurationen identisch.
Die neun M7i-Instanzen bieten angesichts der maximalen Parameter deutlich mehr Leistung. So können bis zu 192 virtuelle Prozessoren und maximal 768 GiB an virtuellem Speicher genutzt werden. Die Netzwerkbandbreite variiert von 12,5 bis 50 Gbps, bei der EBS-Bandbreite sind bis zu 40 Gbps möglich. Darüber hinaus bietet das M7i-Portfolio zwei dedizierte Bare Metal-Instanzen, die mit 96/192 vCPUs sowie 384/768 GiB Speicher bestückt sind. Die Netzwerkdaten liegen bei 37,5/50 Gbps bzw. 30/40 Gbps (EBS).
AWS EC2 Mi7 und Mi7-Flex bieten die bekannten CPU-Beschleuniger
Neben diesen rein technischen Leistungsparametern bieten die neuen AWS EC2-Instanzen Mi7 und Mi7-Flex die komplette Bandbreite an Beschleunigerfunktionen der Intel Xeon Prozessoren der 4. Generation. Dazu gehören im Einzelnen:
Intel Advanced Matrix Extensions (Intel AMX) beschleunigen unter anderem Anwendungen, die vor allem auf rechenintensiven Deep Learning- und Inferenz-Algorithmen basieren. Dazu zählen die Bereiche Natural Language Processing (NLP), Empfehlungssysteme und Bilderkennung/-verarbeitung. Bei diesen Applikationen stehen besonders aufwändige Multiplikationen von 2-dimensionalen Matrizen im Vordergrund.
Intel Data Streaming Akzeleratoren (Intel DSA) weisen speziell bei datenintensiven Anwendungen und Workloads einen hohen Wirkungsgrad auf, indem die Zahl der I/O-Operationen pro Sekunde erhöht und die Latenz reduziert wird. Das beschleunigt den Datentransport zwischen CPU, Arbeitsspeicher und Cache sowie den Arbeits- bzw. Datenspeichereinheiten ganz erheblich.
Intel In-Memory Analytics Accelerator (Intel IAA) beschleunigt Datenbank-basierte Anwendungen und Workloads, indem die Daten direkt im Arbeitsspeicher (de)komprimiert und verschlüsselt werden. Hierbei werden bestimmte Open Source-basierte Datenbanken wie RocksDB und ClickHouse ganz explizit unterstützt.
Intel QuickAssist Technology (Intel QAT) übernimmt eigenständig das Ver- und Entschlüsseln sowie die Datenkompression, indem diese direkt im Prozessorspeicher verarbeitet werden. Das verbessert die Leistungsfähigkeit der CPU und sorgt gleichzeitig für einen geringeren Energiebedarf derselben.
Hinweis: Intel DSA, Intel IAA und Intel QAT sind ausschließlich auf den Bare Metal-Instanzen verfügbar. Intel AMX stehen auf sämtlichen Instanzen vom Typ Mi7 und Mi7-Flex bereit.
Externe EBS-Volumes sorgen für eine leistungsfähigere Speicherumgebung
Ein Besonderheit bieten darüber hinaus die Mi7-Instanzen. Damit lassen sich nämlich bis zu 128 externe EBS-basierte Speichereinheiten verbinden. Im Vergleich zu der Vorgängerinstanz Mi6 entspricht das einer Steigerung um 100 EBS-Einheiten. EBS-Volumes leisten deutlich mehr als eine reine Instanz-Speichereinheit. So lassen sie sich sich wie „echte“ Festplatten nutzen.
Darüber hinaus lässt sich die Speichergröße dynamisch erhöhen, die bereitgestellte IOPS-Kapazitäten modifizieren und der Volume-Typ für aktive bzw. produktive Volumes ändern. Zur Auswahl stehen 5 verschiedene EBS-Typen: Allzweck-SSDs, IOPS-SSDs, durchsatzoptimierte HDDs, Cold-HDDs und Magnetfestplatten.
Disclaimer: Für das Verfassen und Veröffentlichen dieses Blogbeitrags hat mich die Firma Intel beauftragt. Bei der Ausgestaltung der Inhalte hatte ich nahezu freie Hand.