Die dritte Generation des skalierbaren Intel Xeon Prozessors mit dem Codenamen Ice Lake steht für AWS-Instanzen schon eine ganze Weile zur Verfügung. Doch worin unterscheiden sich die möglichen Leistungswerte von anderen AWS-Instanzen, und das im Hinblick auf bestimmte Anwendungen? Davon handelt dieser Beitrag.
AWS und Intel, diese Zusammenarbeit währt bereits seit eineinhalb Dekaden, und das mit großem Erfolg. Das hat unter anderem mit der permanenten Integration neuer Technologien und Komponenten zu tun, die der Chiphersteller regelmäßig dem Markt zur Verfügung stellt. Dazu gehört ganz aktuell der skalierbare Intel Xeon Prozessor der dritten Generation. Diese CPU kommt bei AWS unter der Instanzbezeichnung Amazon EC2 m6i zum Einsatz.
[irp posts=“168611″ ]
Standardmäßig stehen für diese AWS-Instanz insgesamt 9 verschiedene Konfigurationen zur Verfügung. Das beginnt mit 2 virtuellen Prozessoren, 8 Gigabyte Arbeitsspeicher und 12,5 Gbit/s und endet bei 12 vCPUs, 512 GB RAM und einer Netzwerkbandbreite von bis zu 50 Gbit/s.
AWS-m6i-Anwendungen profitieren von optimierten Instanzen
Hinweis: Die folgenden Benchmark-Ergebnisse und Schlussfolgerungen sind einem Blogpost der Seite Serve The Home entnommen.
Allerdings, und da wird es erst so richtig interessant, stehen spezielle m6i-Instanzen zur Verfügung, die an die jeweilige Anwendung angepasst wurden. Das betrifft zum Beispiel WordPress- als auch diverse NGINX-Instanzen. Beide wurden für den Intel Crypto-Beschleuniger optimiert. Konkret geschieht das mithilfe der Intel IPP kryptografischen Bibliothek, was im Vergleich zu einer m6g-Instanz auf Graviton 2-Basis zu deutlich besseren Datentransferraten des zugrunde liegenden WordPress-Servers führt.
[irp posts=“168685″ ]
Das gilt in ähnlicher Weise für die AWS-NGINX-Instanz. Aufgrund ihrer Crypto-Beschleunigung sind damit leistungsfähige Proxy-Server, Load Balancing-Systeme und HTTP-Caches möglich.
KI-Inferenzen mit TensorFlow profitieren ebenfalls von AWS-m6i-Instanzen
Interessant werden die Intel IPP optimierten AWS-Instanzen auch im Bereich des Machine Learning, speziell im Kontext der ML-Plattform TensorFlow. Hier zeigt sich vor allem ein erheblicher Leistungsunterschied, wenn der Inferenz-Workload im Vergleich zur gesamten Rechenlast recht klein ist. Hier kommt ein neuronales Netzwerk namens ResNet-50 ins Spiel.
Das sorgt für bestmögliche Inferenz-Ergebnisse, und das auf Basis von Integer-Berechnungen. Hier spielt der skalierbare Intel Xeon Prozessor der 3. Generation seine Stärke aus, sieht man sich das Testergebnis an. So kommt die Xeon-CPU-Instanz auf eine Inferenzleistung von 8 Bildern pro Sekunde, die mg6-Instanz schafft gerade mal ein Bild in derselben Zeit.
Der Fairness halber sollte nicht unerwähnt bleiben, das Graviton 2-CPUs Integer-Daten vom Typ INT8 nicht unterstützen. Allerdings kommt bei dem Test eine 16-Kern-Graviton-Instanz zum Einsatz, im Vergleich dazu eine 8-Core-Xeon-Instanz.
x86 meets Arm: Intel und seine Lizenzierungspläne
Trotz der gerade genannten Vorzüge, die Intel-basierte AWS-Instanzen gegenüber ihren Graviton 2-Pendants bieten, mag es den ein oder anderen Cloud Service Provider geben, der eine Mixtur der vorhandenen Technologien interessant findet. Denn nicht jede CPU weist ausschließliche Stärken auf, sodass eine „Kreuzung“ aus x86- und Arm-Prozessor die Vorteile beider Prozessortechniken kombinieren könnte.
[irp posts=“158740″ name=“Arm- versus x86-Prozessoren: Darauf sollten Cloud-Betreiber achten“]
Diesem Gedanken geht auch Intel nach, was in einer Lizenzierung seiner x86-Architektur münden könnte. Das berichtet zumindest das Branchenportal „The Register“. Es zitiert hierfür Bob Brennan, der sich bei dem neu gegründeten Geschäftsbereich Intel Foundry Services um den Bereich „Customer Solutions Engineering“ kümmert.
Die Idee dahinter ist relativ klar: Intel will und wird seine Produktionskapazitäten enorm erweitern, da wären neue CPU-Komponenten eine gute Ergänzung zu den eigenen Herstellungsplänen, was das Produzieren von Silizium-Komponenten betrifft. So steht ja noch in diesem Jahr der Produktionsstart der nächsten Prozessorgeneration namens Intel Sapphire Rapids auf der Agenda. Alleine hierfür werden neue Fabriken benötigt – und auch gebaut.
[irp posts=“158337″ name=“Darum sind Intel und die Künstliche Intelligenz (KI) ein gutes Team“]
Disclaimer: Für das Verfassen und Veröffentlichen dieses Blogbeitrags hat mich die Firma Intel beauftragt. Bei der Ausgestaltung der Inhalte hatte ich nahezu freie Hand.