シーメンスデジタルインダストリーズソフトウェアは本日、特定用途向け集積回路（ASIC）およびシステム・オン・チップ（SoC）上のニューラルネットワーク・アクセラレータを高位合成（HLS）するCatapult™ AI NNを発表しました。Catapult AI NNは、AIフレームワークからニューラルネットワークを記述してC++形式に変換し、シリコン実装に向けてVerilog/VHDL形式でRTLアクセラレータを合成する完全なソリューションです。
Catapult AI NNは、機械学習（ML）ハードウェア・アクセラレーション用のオープンソースパッケージであるhls4mlと、シーメンスのCatapult高位合成プラットフォームを組み合わせて構成されています。米国エネルギー省の研究機関であるフェルミ研究所をはじめ、hls4mlの主要なコントリビューターと緊密に協力して開発されたCatapult AI NNは、カスタムシリコン上の消費電力、性能、面積に関するMLアクセラレータの設計に特有の要件に対応します。
シーメンスデジタルインダストリーズソフトウェアの高位設計および検証とパワー最適化担当バイス・プレジデント兼ジェネラル・マネージャーを務めるモー・モヴァヘッド（Mo Movahed）は次のように述べています。「ニューラルネットワーク・モデルのハンドオフ・プロセスや手作業によるハードウェア実装への変換は、特定の性能、消費電力、面積（PPA）に合わせたハードウェア・アクセラレータのバリエーションを作成、検証する場合において特に顕著に非効率的で時間がかかり、エラーが発生しやすくなります。科学者やAIの専門家がニューラルネットワーク・モデル設計といった業界標準のAIフレームワークを活用し、これらのモデルをPPAが最適化されたハードウェア設計にシームレスに合成できるようになったことで、AIやMLソフトウェア・エンジニアにもまったく新しい可能性の扉が開かれました。シーメンスの新しいCatapult AI NNを使用すると、開発者は、ソフトウェア開発プロセスにおいて、最適なPPAを実現するニューラルネットワーク・モデルの自動合成と実装を同時に実行できるため、AI開発の効率性と革新性が新たな高みへと引き上げられます。」
これまでデータセンターに限られていたランタイムAIとMLのタスクがコンシューマ・デバイスから医療機器といったあらゆるモノに普及しつつあるなか、最終製品の電力消費とコストを最小限に抑え、佐生宗製品の差別化を最大限まで引き上げるために「適正サイズ」のAIハードウェアに対する需要が急速に高まってきました。しかし、MLエキスパートのほとんどは、合成可能なC++、 Verilog、VHDLではなく、TensorFlow、PyTorch、Kerasといったツールに慣れ親しんでいます。そのため、AIエキスパートがMLアプリケーションを使用して、適正サイズのASIC/SoC実装を加速させるのはこれまで、容易なことではありませんでした。
hls4mlイニシアチブの目的は、TensorFlow、PyTorch、KerasなどのAIフレームワークで記述されたニューラルネットワーク・モデルからC++を生成することでこのギャップを埋めることにあります。生成されたC++はその後、FPGA、ASIC、SoCの実装に向けて合成できます。
Catapult AI NNは、hls4mlの機能をASICやSoCの設計にまで拡張します。また、ASIC向けに特別にカスタマイズされたC++のML関数の専用ライブラリも付属しています。このML関数を使用すると、C++コードから複数の実装パターンを合成し、そのレイテンシとリソースのトレードオフを比較することで、PPAを最適化できます。さらに、設計者はさまざまなニューラルネット設計の影響を評価したうえで、ハードウェアに最適なニューラルネットワーク構造を見極めることができます。
フェルミ研究所で新興技術担当副所長を務めるパナギオティス・スペンツォーリス（Panagiotis Spentzouris）氏は次のように述べています。「微粒子検出アプリケーションのエッジAIには厳格な制約が課されます。シーメンスとの協業を通じて開発したCatapult AI NNは、当研究所の科学者とAIエキスパートが、ASIC設計に精通する必要なく、そのままの専門知識を活用できた合成フレームワークです。この新しく強力なフレームワークは、経験豊富なハードウェアのエキスパートにとっても理想的なソリューションです。」
Catapult AI NNは現在、先行導入企業向けに提供を開始しており、2024年第4四半期から一般提供する予定です。Catapult AI NNの詳細については、https://eda.sw.siemens.com/en-US/ic/catapult-high-level-synthesis/をご覧ください。
