Gerade die von Intel mittels des Intel Liftoff-Programms unterstützten KI-Startup-Unternehmen machen es vor, wie die Künstliche Intelligenz im Allgemeinen und die Disziplin „Generative AI“ im Speziellen die IT-Welt verändern wird. Da kommt der Intel Gaudi 3 KI-Beschleuniger gerade zum richtigen Zeitpunkt. Ein Erklärungsversuch.
Was ist KI-Startups wie Beewant, Predication Guard und Nodeshift gemein? Genau, sie sind auf der Suche nach der ultimativen KI-Lösung, wie sie in Zeiten von generativen Ansätzen dringend notwendig sind.
So erlaubt beispielsweise die KI-Software von Beewant mithilfe einfacher Textabfragen, Videos anhand bestimmter Kriterien oder Suchbegriffe zu durchforsten. Daraus entsteht dann eine Zusammenfassung einer Webinaraufzeichnung mit allen relevanten Informationen, und das in wenigen Sekunden. Die Stadtverwaltung von Paris setzt diese KI-Lösung bereits zu touristischen Zwecken ein, um so einen vereinfachten Zugang zu den vorhandenen Stadtführervideos zu ermöglichen.
Generative KI-Lösungen sollten den Datenschutz ernst nehmen
Aber auch auch KI-Lösungen wie Prediction Guard sind immanent wichtig, kümmert sich die Software doch um einen bestmöglichen Datenschutz von KI-Anwendungen wie ChatGPT. Denn trotz aller Vorzüge, die diese KI-Anwendung bietet, dürfen vor allem persönliche Daten zu möglichst keinem Zeitpunkt in generativen Applikationen gegen den Willen der Anwender:innen genutzt werden. Und genau darum kümmern sich KI-Apps wie Prediction Guard.
Intel Gaudi 3 KI-Beschleuniger sorgt für bessere Trainings- und Inferenz-Ergebnisse
Diese und dutzend weitere KI-Anwendungen erfordern neben ihrer Logik und monatelangen Arbeit am Programmiercode vor allem eins: Schnelle und leistungsfähige Rechner. Für bestmögliche Trainings– und Inferenz-Ergebnisse. Und genau hier kommen Intel-Komponenten zum Einsatz, die in mehr und mehr KI-Projekten eine wichtige Rolle spielen.
Eine davon wurde erst während der Intel Vision 2024 von Intel-CEO Pat Gelsinger höchstpersönlich vorgestellt, die sich Intel Gaudi 3 KI-Beschleuniger nennt. Dieser Siliziumchip bietet nämlich genau das, worauf Beewant, Prediction Guard und Co. angewiesen sind: Eine passende Hardware für ihre KI-Software. Und das zu möglichst günstigen Preisen.
Denn vergleicht man NVIDIA-Chips wie die H100 Tensor Core GPU mit Intel Gaudi 3, so fallen zwei Dinge auf: Der neue Intel KI-Beschleuniger entpuppt sich sowohl in den Disziplinen LLM-Performance als auch beim Preis als ein ernstzunehmender Konkurrent zu den NVIDIA-Alternativen. Bei den Leistungsdaten ist die Rede von einem Vorsprung um den Faktor 2 bis 4, preislich soll ein Universal Baseboard (UBB) mit 8 Intel Gaudi 3 etwa 65.000 US-Dollar kosten, also etwa nur rund ein Drittel eines vergleichbaren NVIDIA-UBB mit H100-GPU.
Dell, Lenovo & Co. kündigen erste Intel Gaudi 3-basierte Systeme an
Damit lassen sich KI-Anwendungen mithilfe von Intel Gaudi 3-basierten Systemen künftig schneller und preiswerter trainieren und Ausführen als mit anderen, vergleichbaren Maschinen. Relevante Technologiepartner wie Lenovo, Dell Technologies, HPE und Supermicro haben bereits angekündigt, Intel Gaudi 3 KI-Beschleuniger in neue oder bestehende Systeme einzubauen.
Für ein Optimum an Trainings- und Inferenz-Ergebnissen. Darüber durfte ich schon auf der zurückliegenden Hannover Messe mit C.K. Kumar von Dell sprechen. Der konnte mir zeigen, wie solch ein KI-System auf Basis des Dell-Servers namens PowerEdge XE9680 aussehen kann.
Jenseits der rechnerischen Vorteile spielt Intel Gaudi 3 im Vergleich zu NVIDIA H100 einen weiteren Vorteil aus: Seine Energieeffizienz. So prognostiziert Intel, dass Large Language Model-basierte KI-Anwendungen mit nur etwa dem halben Stromverbrauch inferenziert, also ausgeführt werden können. Was angesichts des enormen Energieaufwands von KI-Applikationen auch ökologisch ein wichtiger Aspekt ist.
Intel Gaudi 3 KI-Beschleuniger hieven Training und Inferencing auf ein neues Niveau
Gerade die Generative KI, die ganz neue und bisher noch nicht für möglich gehaltene, multimodale Anwendungen ermöglichen wird, erfordert schnelle, zuverlässige, bezahlbare und sichere KI-Beschleuniger. Und genau das soll der Intel Gaudi 3 KI-Beschleuniger leisten. Wie die Intel Vision 2024 gezeigt hat: Das kann er auch. Und mithilfe der Intel Tiber Developer Cloud lassen sich die eigenen KI-Anwendungen noch besser und schneller an Intel-Hardware anpassen.
KI-Lexikon: Wichtige Begriffe der Künstlichen Intelligenz erklärt
Disclaimer: Für das Verfassen und Veröffentlichen dieses Blogbeitrags hat mich die Firma Intel beauftragt. Bei der Ausgestaltung der Inhalte hatte ich nahezu freie Hand.