Siemens Digital Industries Software hat die Catapult™ AI NN-Software für die High-Level-Synthese (HLS) von neuronalen Netzwerkbeschleunigern auf anwendungsspezifischen integrierten Schaltkreisen (ASICs) und System-on-a-Chip (SoCs) vorgestellt. Catapult AI NN ist eine Komplettlösung, die mit einer Beschreibung eines neuronalen Netzwerks aus einem KI-Framework beginnt, diese in C++ umwandelt und in einen RTL-Beschleuniger in Verilog oder VHDL für die Implementierung in Silizium synthetisiert.
Catapult AI NN vereint hls4ml, ein Open-Source-Paket für Hardware-Beschleunigung durch maschinelles Lernen, und die Siemens Catapult™ HLS-Software für High-Level-Synthese. Catapult AI NN wurde in enger Zusammenarbeit mit Fermilab, einem vom US-amerikanischen Department of Energy betriebenen Forschungszentrum, und anderen führenden Anbietern von hls4ml entwickelt. Die Software erfüllt die spezifischen Anforderungen an das Design von Beschleunigern für maschinelles Lernen in Bezug auf Stromverbrauch, Leistung und Fläche auf kundenspezifischen Chips.
„Der Übergabeprozess und die manuelle Konvertierung eines neuronalen Netzwerkmodells in eine Hardware-Implementierung ist sehr ineffizient, zeitaufwendig und fehleranfällig. Dies gilt insbesondere für die Erstellung und Verifikation von Varianten eines Hardware-Beschleunigers, die auf eine bestimmte Leistung, Stromverbrauch und Fläche zugeschnitten sind“, sagte Mo Movahed, Vice President und General Manager for High-Level Design, Verification and Power, Siemens Digital Industries Software. „Indem wir Wissenschaftler und KI-Experten in die Lage versetzen, branchenübliche KI-Frameworks wie das Design neuronaler Netzwerkmodelle zu nutzen und diese Modelle nahtlos in Hardware-Designs zu synthetisieren, die hinsichtlich Stromverbrauch, Leistung und Fläche (PPA) optimiert sind, eröffnen wir KI- und Machine-Learning Software-Ingenieuren völlig neue Möglichkeiten. Unsere neue Catapult AI NN-Lösung erlaubt es Entwicklern, ihre neuronalen Netzwerkmodelle für optimale PPA parallel zum Softwareentwicklungsprozess zu automatisieren und zu implementieren, was eine neue Ära der Effizienz und Innovation in der KI-Entwicklung einläutet.”
Da Laufzeit-KI- und Machine-Learning-Aufgaben aus dem Rechenzentrum in alle Bereiche – von Verbrauchergeräten bis hin zu medizinischen Geräten – einfließen, besteht ein rasant wachsender Bedarf an „richtig dimensionierter“ KI-Hardware, um den Stromverbrauch zu minimieren, die Kosten zu senken und die Differenzierung des Endprodukts zu maximieren. Die meisten Experten für maschinelles Lernen arbeiten jedoch lieber mit Tools wie TensorFlow, PyTorch oder Keras als mit synthetisierbarem C++, Verilog oder VHDL. Bislang gab es für KI-Experten keinen einfachen Weg, ihre Machine-Learning-Anwendungen in einer richtig dimensionierten ASIC- oder SoC-Implementierung zu beschleunigen.
Die hls4ml-Initiative soll dazu beitragen, diese Lücke zu schließen, indem sie C++ aus einem neuronalen Netzwerk erzeugt, das in KI-Frameworks wie TensorFlow, PyTorch oder Keras beschrieben wird. C++ kann dann für eine FPGA-, ASIC- oder SoC-Implementierung eingesetzt werden.
Catapult AI NN erweitert die Möglichkeiten von hls4ml auf ASIC- und SoC-Design. Die Software enthält eine eigene Bibliothek mit speziellen C++ Machine-Learning-Funktionen, die auf das ASIC-Design zugeschnitten sind. Mit diesen Funktionen können Designer PPA optimieren, indem sie Latenz- und Ressourcenkompromisse zwischen alternativen Implementierungen des C++ Codes treffen. Darüber hinaus können sie jetzt die Auswirkungen verschiedener neuronaler Netzdesigns bewerten, um die beste neuronale Netzwerkstruktur für die Hardware zu bestimmen.
„Teilchendetektoranwendungen unterliegen extrem strengen KI-Beschränkungen“, sagt Panagiotis Spentzouris, Associate Lab Director for Emerging Technologies bei Fermilab. „Durch unsere Zusammenarbeit mit Siemens konnten wir Catapult AI NN entwickeln, ein Synthese-Framework, das die Expertise unserer Wissenschaftler und KI-Experten nutzt, ohne dass sie ASIC-Designer werden müssen. Darüber hinaus ist dieses leistungsstarke neue Framework auch ideal für erfahrene Hardware-Experten.”
Catapult AI NN ist ab sofort für Early Adopter verfügbar und wird im vierten Quartal 2024 für alle Nutzer erhältlich sein. Erfahren Sie mehr über Catapult AI NN unter https://eda.sw.siemens.com/en-US/ic/catapult-high-level-synthesis/hls/AI-solutions/
