Altera FPGA AIスイート
Altera FPGA AIスイートは、FPGA上でのAI推論ソリューションの作成を簡素化するために設計された総合的な開発プラットフォームです。このプラットフォームは、TensorFlowやPyTorchといった人気のAIフレームワークや、OpenVINOツールキットとシームレスに統合されており、効率的なモデル最適化と展開を可能にします。このスイートは、Intel® Quartus Primeソフトウェアを活用して、AI推論IPの FPGA デザインへの統合を支援し、ハイパフォーマンスと低遅延を実現します。さらに、Open Model Zooから提供されるさまざまな事前学習済みモデルをサポートしており、迅速かつ簡単なモデル変換と展開が可能です。これにより、Altera FPGA AIスイートは、通信、データセンター、産業用オートメーションなどの分野でAIアプリケーションにFPGAの力を活用したい開発者にとって理想的な選択肢となります。特徴
- ハイパフォーマンス - Agilex™ 7 FPGA Mシリーズは、最大理論性能88.5 INT8 TOPS、または90%のFPGA使用率で3,679フレーム/秒のResNet-50処理能力を実現できます。
- 簡単なシステム統合による低い総所有コスト - AI IPを他のシステムレベルのコンポーネントと統合することで、より小さなフットプリント、低い消費電力、そして低遅延を実現します。
- AIフロントエンドサポート - TensorFlow、Caffe、PyTorch、MXNet、Keras、ONNX などのAIフロントエンドフレームワークを活用できます。
- シンプルで標準的なフロー - Quartus PrimeソフトウェアやPlatform Designerを使用して、既存または新しいFPGA設計にAI推論IPを簡単に作成し、統合できます。
- 事前学習済みモデルへのアクセス - FPGA AIスイートは、Open Model Zooから提供される多くのモデルに対応しています。
- シームレスな事前学習済みモデルの変換 - OpenVINO Toolkitは、ほとんどの標準フレームワークからモデルを中間表現に変換します。
- ワンクリックで最適化されたAI IP生成 - 事前学習済みのAIモデルから最適なAI推論IPをシームレスに生成し、リソースとパフォーマンス目標の最適なバランスを達成するために設計空間を探索します。
- ハードウェア不要の早期モデル検証 - OpenVINOプラグインインターフェイスを通じて、AI推論IPのビット精度のソフトウェアエミュレーションが提供され、ハードウェアなしでモデルの精度を迅速に評価することができます。
アプリケーション
- コンピュータビジョン
- 医療画像処理と診断
- 産業
- データセンター
- 産業用オートメーション
- 電気通信
- 軍事関連
- ブロードキャスト
推論開発フロー
開発フローは、ハードウェアとソフトウェアのワークフローをシームレスに統合し、汎用的なエンドツーエンドのAIワークフローを実現します。ステップは以下のとおりです。
1. OpenVINO Model Optimizerは、事前にトレーニングしたモデルを中間表現ネットワークファイル(.xml)およびウェイト、バイアスファイル(.bin)に変換します。
2. FPGA AI Suiteコンパイラの使用目的:
- 指定されたアーキテクチャファイルの推定面積または性能指標を提供するか、最適化されたアーキテクチャファイルを生成します。(アーキテクチャは、PE 配列のサイズ、精度、活性化関数、インターフェイス幅、ウィンドウサイズなど、推論IPパラメータを指します。)
- ネットワークファイルを.binファイルにコンパイルし、FPGAおよび CPU(または両方)のネットワークパーティションとともに、ウェイトとバイアスを含めます。
3.コンパイルされた .bin ファイルは、ユーザーの推論アプリケーションによって実行時にインポートされます。ランタイムアプリケーションプログラミングインターフェイス(API)には、推論エンジンAPI(CPUとFPGAのランタイムパーティショニング、推論のスケジューリング用)および FPGA AI(DDRメモリおよび FPGAハードウェアブロック用)が含まれます。
4. リファレンスデザインが提供されており、.bin ファイルのインポートと、ホスト CPU(x86およびArm®)を使用したFPGA上での推論実行、さらにホストレス推論の操作を実演できます。
5. FPGA AIスイートIPのソフトウェアエミュレーションは、OpenVINOプラグインインターフェイスを通じて利用可能で、ハードウェアへのアクセスなしでFPGA AI IPの精度を迅速に評価することができます(Agilex™ 5 FPGA のみ対応)。
