Vier GPU-intensive KI-Workloads zeigen unterschiedliche Infrastruktur-Anforderungen

Computer Vision benötigt Rechenleistung nahe am Einsatzort

Die Anwendungsfälle stammen aus dem Forschungsprojekt Agentic AI Matures, für das 451 Research by S&P Global 16 KI-Verantwortliche aus mehreren Branchen befragt hat. Die Interviews deckten traditionelles maschinelles Lernen, generative KI, LLMs und agentische Workflows ab. Dabei zeichnete sich eine kleinere Gruppe von Workloads durch ihren Bedarf an groß angelegter paralleler Verarbeitung aus.

Ein Hersteller aus der Luft- und Raumfahrt sowie dem Maschinenbau setzt Computer Vision am Netzwerkrand ein. Kameras führen KI-Inferenzen durch, um Qualitätsmängel und Sicherheitsverstöße sofort zu erkennen. Warnungen müssen innerhalb von Sekunden erfolgen. Laut Vultr muss sich die Infrastruktur deshalb nahe am jeweiligen Standort befinden. Die Übertragung unbearbeiteter Videodaten an ein entferntes Rechenzentrum kann genug Latenz verursachen, um Echtzeitwarnungen unpraktikabel zu machen. Eine Verarbeitung nahe am Einsatzort kann dagegen die Hin- und Rücklaufzeit reduzieren.

Der CIO des Unternehmens sagte, dass GPUs erforderlich sein könnten, wenn die intelligente Fertigung den Bedarf an Edge Computing für Aktivitäten wie Computer Vision in der Fabrikhalle erhöht.

Große Bilder und Modelltraining erzeugen unterschiedliche Anforderungen

Ein Unternehmen für fortschrittliche Materialien setzt maschinelles Lernen ein, um hochauflösende Bilder von Querschnitten aus Batterien für Elektrofahrzeuge zu analysieren. Jedes Bild ist 5 Gigabyte groß, und das Unternehmen gibt an, dass für diese Analyse GPUs erforderlich sind. In diesem Fall sieht Vultr die Speicherbandbreite als zentrale Einschränkung. Große Tensoren können Beschleuniger mit besonders leistungsfähigem Speicher erfordern, damit die Datenbewegung den Workload nicht ausbremst.

Die Untersuchung beschreibt außerdem ein Fintech-Unternehmen für Finanzregulierung, das GPUs für die Stapelverarbeitung und das Modelltraining einsetzt. Der Direktor sagte, dass sich das Unternehmen keinen großen GPU-Cluster im eigenen Rechenzentrum leisten könne. Daher kombiniert es GPU-as-a-Service-Anbieter und mietet Kapazität für einige Stunden pro Woche. Entscheidend sind in diesem Fall die Kosten pro GPU-Stunde sowie der Zugang zu reservierten oder bedarfsgesteuerten Clustern, ohne das Kapital für deren Anschaffung aufbringen zu müssen.

Bei Quantensimulation steht die Leistung im Vordergrund

Der vierte Anwendungsfall ist die Simulation von Quantencomputing auf klassischer Hardware. Ein CIO eines großen Unternehmens aus dem Verteidigungs- und Technologiesektor beschrieb den Aufbau eines Frameworks für Quantencomputing. Angestrebt werde eine Beschleunigung der Informationsrückgabe um mindestens das 10-Fache gegenüber einer normalen sequentiellen Verarbeitung.

Vultr bezeichnet die Quantensimulation als einen der GPU-intensivsten Workloads. Dabei können die reine GPU-Dichte und Verbindungen mit hoher Bandbreite zwischen den Knoten wichtiger sein als die Kosten. Über die vier Beispiele hinweg unterscheiden sich die Infrastruktur-Anforderungen: Nähe zum Einsatzort bei Computer Vision, Speicherbandbreite bei der Bildanalyse in der Forschung, niedrige Kosten pro GPU-Stunde bei sporadischem Training und Stapelverarbeitung sowie eine hohe Clusterdichte bei der Simulation.

Die befragten Organisationen kombinieren häufig Dienste mehrerer Anbieter, weil laut Vultr keine einzelne Plattform alle ihre Anforderungen vollständig erfüllt. Der Bericht betont außerdem, dass die Infrastruktur nur ein Teil des Erfolgs ist. Saubere Daten, diszipliniertes Modelltraining, Maßnahmen zur Zuverlässigkeit, ein klar definiertes Geschäftsergebnis und Prozesse für den Produktiveinsatz tragen dazu bei, die Leistung im großen Maßstab dauerhaft aufrechtzuerhalten.