EP-200Qとは
Qualcomm Dragonwing QCS6490が持つ、高い演算性能と低消費電力を両立しつつ、DDRメモリ、eMMCストレージ、電源管理ユニットなどの主要コンポーネントを統合し、必要な要素をすべて小型モジュールにまとめています。
物体検出の概要
EP-200Qは物体検出モデルとどのように連携して動作するのか
本記事では、EP-200Q が物体検出モデルとどのように連携して動作するかを紹介します。
このデモンストレーションでは YOLOv8n モデルを使用しています。
入力画像の解像度は 1280 × 720、フレームレートは 毎秒30フレーム(30FPS)です。
EP-200Q は CPU、GPU、NPU のいずれでも推論を実行できます。
本デモでは、FP32 モデルを CPU 上で、量子化された INT8 モデルを NPU 上で実行しています。
INT8 モデルを用いた NPU 推論と FP32 モデルを用いた CPU 推論の比較
以下は、テーブルの上に ボトル2本、カップ1つ、タブレット1台を置いた状態で推論を行った際の、AI 推論結果の簡単なまとめです。
なお、使用しているモデルにはタブレットのラベルが含まれていないため、AI 推論ではタブレットを物体として認識していません。
| CPU | NPU | |
|---|---|---|
| モデル | FP32 | 量子化INT8 |
| 平均FPS | 1未満 | 29.95 |
| 平均消費電力 | 12W | 7.4W |
FPS(フレーム・パー・セカンド)は、推論がどれだけ高速に実行されるかを示す指標です。
30FPS とは、1フレームあたりの AI 推論処理が 33ms(1秒÷30)以内に完了していることを意味します。
本結果における処理フローは以下のとおりです。
1. カメラフレームをキャプチャ
2. AI 推論を実行
3. AI モデルの出力結果(バウンディングボックスおよび物体名)をフレーム上に描画
4. アノテーション済み画像をディスプレイに表示
これらの処理は 逐次的(シーケンシャル)に実行されるため、AI 推論に時間がかかるほど、最終的な出力 FPS は低下します。 本例ではカメラが 30FPS で入力データを供給しているため、結果の FPS は 最大でも 30FPS に制限されます。
そのため、平均 29.95FPS という結果は、量子化された INT8 物体検出モデルを用いて、すべてのフレームが NPU により処理されていることを示しており、非常に良好な結果といえます。
一方で、FP32 モデルを CPU 上で用いた AI 推論も可能ではありますが、1フレームの処理に 1 秒以上かかります。 さらに、AI 推論時間に加えて、CPU 上で AI 推論を実行した場合の消費電力は大幅に高くなります。
まとめ
量子化された INT8 物体検出モデルを NPU 上で実行することで、推論時間および消費電力の両面で大きなメリットが得られます。
本デモンストレーションにおいて、INT8 量子化モードでの物体検出結果は非常に安定しており、テーブル上の物体が継続的かつ正確に検出されていました。
AI 推論を NPU 上で実行することで、CPU および GPU は他の処理に専念できます。
これらの結果から、センサー処理やデータ制御、ネットワーク通信など、多岐にわたるタスクを並行してこなす必要があるバッテリー駆動のエッジビジョンAI製品にとって、NPUを搭載したEP-200Qは極めて有効なソリューションとなります。