Das JSC beherbergt Europas ersten Exascale-Supercomputer und ist mit der JUPITER AI Factory – einer von 19 KI-Fabriken in Europa und der einzigen, die um eine Exascale-Maschine herum aufgebaut ist – führend im Bereich der KI. Das neue Sparxity-System am JSC ist ereignisgesteuert und rechnet nur, wenn etwas passiert – eine Form der Sparsität in der Praxis. Das am JSC installierte System namens JUBIS ist darauf ausgelegt, die Ausführung von Sparse-Solvern um das Zehnfache zu beschleunigen, den Energieverbrauch für ereignisbasierte ML-Workloads um das 18-Fache zu senken und die Zeit bis zu einer akzeptablen Lösung bei Optimierungsproblemen um das 20-Fache zu verkürzen. Das System soll für breitere HPC- und KI-Anwendungen verfügbar werden, und die Installation am JSC ist ein weiterer Beleg dafür, dass „sparse-native“ Datenverarbeitung in realer Infrastruktur funktioniert.
„Sparse Machine Learning stellt eine der größten Chancen dar, die Effizienz von KI grundlegend zu verbessern“, sagte Dr. Guido Trensch vom Simulation and Data Lab Neuroscience am Jülich Supercomputing Centre. „Durch den Einsatz von Sparxity können wir unsere weltweit einzigartige HPC-Infrastruktur um einen grundlegend neuen Ansatz ergänzen und damit neue Forschungsmöglichkeiten erschließen, um die Fortschritte in den Neurowissenschaften weiter voranzutreiben.“
Da die KI-Infrastruktur mit Herausforderungen hinsichtlich Energieverbrauch und Kosten konfrontiert ist, stellt die Sparsity einen der größten unerschlossenen Wege für die KI-Infrastruktur dar. Forschungen haben gezeigt, dass KI-Modelle spärlicher sein könnten, als sie es heute sind, doch Hardware, die für dichte Berechnungen ausgelegt ist, hat sie bisher daran gehindert. Das „Sparse Computing“ verfolgt den Ansatz, den Rechenaufwand und die Menge der zu übertragenden Daten zu reduzieren, um Engpässe zu verringern.
„Modellentwickler haben Jahre damit verbracht, ihre Entwürfe an die Grenzen dichter Hardware anzupassen“, sagte Hector Gonzalez, Mitbegründer und CEO von Sparxity. „Sparxity wurde gegründet, um das zu ermöglichen, was sie ohne diese Einschränkungen entwickeln würden – indem nur das berechnet wird, was wirklich wichtig ist. Unser Rebranding konzentriert sich ganz auf den ‚sparse-native‘-Ansatz als praktische Grundlage für die nächste Generation der KI-Infrastruktur. Unsere aktuellen Systeme bringen Sparsity sowohl in den HPC- als auch in den KI-Bereich, und unsere Zusammenarbeit mit dem Jülicher Supercomputing-Zentrum, einer der größten Supercomputing-Einrichtungen in Europa, zeigt den Wert dieses Ansatzes im Supercomputer-Maßstab.“
Sparxity entwickelt auf Basis dieses Prinzips Full-Stack-Systeme – vom Silizium bis zur Software – und beschränkt sich nicht nur auf einen einzelnen Chip. Die aktuellen Systeme dienen sowohl dem HPC als auch der KI, und die nächste Generation setzt voll und ganz auf Sparsity für die KI-Inferenz. Für Modellentwickler bedeutet dies Freiheit von den Einschränkungen dichter Hardware und Zugang zu feinerer, dynamischerer Sparsity. Für Betreiber von KI-Inferenz, wie Rechenzentren und Neoclouds, bedeutet Sparsity mehr Tokens bei höherer Geschwindigkeit und geringeren Kosten, ohne Kompromisse.
Um mehr über Sparxity und seine „sparse-native“ Rechensysteme zu erfahren, besuchen Sie bitte sparxity.ai.
Das Sparxity-System bei JSC wird vom Europäischen Fonds für regionale Entwicklung (EFRE) und dem Land Nordrhein-Westfalen (NRW) im Rahmen des „EFRE/JTF-Programms NRW 2021–2027“ gefördert.
Über Sparxity
Sparxity entwickelt „sparse-native“ Rechenlösungen für KI. Unser Prinzip ist einfach: Nur das berechnen, was wichtig ist. Seit Jahren werden Modelle von der „dichten“ Hardware geprägt, auf der sie laufen. Sparxity entwickelt die Hardware, die ihnen neue Möglichkeiten eröffnet: Full-Stack-Systeme, von maßgeschneiderten Chips bis hin zur Software, die auf feinkörnige, dynamische Sparsität ausgelegt sind und bei denen sich die Intelligenz skalieren lässt, ohne dass dabei Abstriche bei Geschwindigkeit oder Effizienz gemacht werden müssen. Sparxity wird in Systemen im Rack- und Supercomputer-Maßstab in ganz Europa und den USA eingesetzt und eröffnet den Entwicklern, die die Zukunft gestalten, eine neue Welt der Rechenleistung. Erfahren Sie mehr unter sparxity.ai.
– – – – –
Weiterführende Links
👉 www.sparxity.ai
Foto: Sparxity
