Ich hatte hier schon das ein oder andere Mal darüber gebloggt: Bestimmte Anwendungen wie das Trainieren von KI-Modellen lassen sich entweder mithilfe von Spezialhardware schneller ausführen, oder man greift auf Softwarefunktionen zurück, die im Prozessor von Anfang an zur Verfügung stehen. Doch wie beschleunigen diese CPU-Beschleuniger bestimmte Anwendungen, und was ist von ihnen in Zukunft noch zu erwarten? Ein Erklärungsversuch.
Ob es sich um die Intel Software Guard Extensions des skalierbaren Intel Xeon Prozessors handelt oder um Krypto-Beschleuniger, die das Ver- und Entschlüsseln von Daten auf CPU-Basis erledigen – all diesen Prozessor-eigenen Funktionen ist eines gemein: Sie stehen vom ersten Tag an zur Verfügung. Und warten nur darauf, aktiviert und genutzt zu werden. Hierfür sind natürlich ein wenig Know-how und die richtigen Tools erforderlich.
[irp posts=“33835″ ]
Dazu gehört beispielsweise die Programmierumgebung Intel oneAPI, mit der sich auf Basis einer einheitlichen Entwickleroberfläche der Programmcode einer Anwendung für jede beliebige Plattform erstellen lässt. Egal also, ob die Applikation auf einer CPU oder GPU oder anderen Komponenten ausgeführt werden soll, oneAPI stellt für jeden Fall das passende Tool dar. Damit lassen sich auch die im skalierbaren Intel Xeon Prozessor vorhandenen Software-Beschleuniger nutzen und ausreizen.
So vereinfacht die Programmierumgebung Intel oneAPI die Software-Entwicklung
CPU-Funktionen für KI-, HPC- und Security-Anwendungen und -Workloads
Im Wesentlichen stehen für die Bereiche Künstliche Intelligenz, High-Performance Computing und Sicherheit die entsprechenden CPU-Funktionen zur Verfügung. Diese kommen wie folgt zum Einsatz:
Intel Deep Learning Boost (Intel DL Boost) beschleunigen das Inferenzieren und Trainieren von KI- und HPC-Anwendungen/-Workloads.
Intel Advanced Vector Extensions 512 (Intel AVX-512) sorgen dafür, dass unter anderem wissenschaftliche Anwendungen schnellstmöglich ausgeführt werden.
Intel Software Guard Extensions (Intel SGX) ermöglichen eine hardwarebasierte Verschlüsselung von Speicherinhalten, die bestimmten Programmcode und Daten im Speicher isoliert.
Doch wie nutzen Unternehmen diese drei CPU-Funktionen im Einzelnen? Hierfür folgen jeweils zwei aktuelle Beispiele.
[irp posts=“168685″ ]
Intel DL Boost: Bildanalyse und Probendiagnose
Das Software-Unternehmen RINF Tech unterstützt beispielsweise den Einzelhandel mit ihren video-gestützten Check-out-Systemen, wie sie ganz aktuell in einem der Münchner REWE-Märkte zum Einsatz kommen. Hierfür setzt RINF Tech auf den Software-Beschleuniger Intel DL Boost, der schnellere und exaktere Bildanalysen in Echtzeit ermöglicht. Das führte zu einer Verbesserung der Inferenzleistung um den Faktor 7,4.
Firmen wie Konfoong Biotech International nutzen Intel DL Boost für das beschleunigte Untersuchen und Diagnostizieren von Tuberkulose-Proben. Dies gelingt auf Basis der CPU-Funktion mehr als 11x schneller als ohne diesen Software-Beschleuniger.
Intel AVX-512: Virtual Reality und Google Cloud-Instanzen
Die Universität von Buffalo hat ihre Anwendungen aus den Bereichen Virtual Reality und Augmented Reality an ihre Rechnerressourcen mithilfe von Intel AVX-512 angepasst. Damit können beispielsweise Chirurgen in komplexen, medizinischen Abläufen via Internet unterrichtet werden.
Aber auch an den Bildungseinrichtungen des MIT und der Harvard Universität beschleunigt Intel AVX-512 bestimmte Anwendungen. So werden zum Beispiel Genomik-Workloads auf Google Cloud N1- und N2-Instanzen deutlich schneller ausgeführt als ohne die entsprechende Software-Optimierung.
Industrie- und HPC-Workloads: Google + Intel setzen gemeinsame Reise weiter fort
Intel SGX: Sichere Datensätze und medizinische Algorithmen
Abgesehen von der schon öfter besprochenen elektronischen Patientenakte kommen die Intel Software Guard Extensions in weiteren Anwendungen zum Einsatz. Dazu gehört beispielsweise eine Plattform der britischen Bausparkasse namens „Know Your Customer“, mit der sich vertrauliche Datensätze unter Berücksichtigung datenschutzrechtlicher Bestimmungen verarbeiten lassen – und das zur Laufzeit der Applikation.
Bei der Universität von Kalifornien hingegen sorgt Intel SGX dafür, dass hochsensible Algorithmen aus dem medizinischen Bereich schneller und sicherer entwickelt werden können als ohne diese CPU-Funktion. Das soll das geistige Eigentum an den Algorithmen schützen und die Vertraulichkeit der Gesundheitsdaten erhöhen.
[irp posts=“168685″ ]
Neue CPU-Funktionen des skalierbaren Intel Xeon Prozessors der 4. Generation
Anfang nächsten Jahres ist es soweit: Da will Intel die vierte Generation ihres Highend-Prozessors der Öffentlichkeit vorstellen. Mit ihm stehen neue CPU-Funktionen bereit, die Anwendungen und Workloads weiter beschleunigen sollen. Dazu gehört beispielsweise Intel AMX (Advanced Matrix Extensions), eine Art Nachfolgefunktion von Intel DL Boost. Damit sollen sich Bilder bis zu 4,5 mal schneller inferenzieren lassen als mit der Vorgängerfunktion.
Interessant dürfte aber auch der Intel Streaming Accelerator (Intel DSA) sein. Damit sollen vor allem Datentransfers deutlich beschleunigt werden, wie sie in Hochgeschwindigkeitsnetzwerken und beim Speichern großer Datenmengen vonnöten sind.
[irp posts=“168611″ ]
Disclaimer: Für das Verfassen und Veröffentlichen dieses Blogposts hat mich die Firma Intel beauftragt. Bei der Ausgestaltung der Inhalte hatte ich nahezu freie Hand.