Synaptics Astra®：なぜクラウドAI全盛の時代でもEdge AI SOCが必要なのか
生成AIの普及により、クラウド上の大規模な計算資源を活用した高度なAI処理が身近になりました。
一方、組み込み機器やIoT機器では、機器の内部でAI推論を行うEdge AIの採用も進んでいます。Synaptics社製 Astra®は、機器内でEdge AI処理を実行するSoCです。カメラやマイク、各種センサーから取得したデータをAstra®内部で処理し、AI推論の結果を出力できます。
高性能なCloud AIを利用できる現在でも、なぜ機器側にAI推論を行うEdge AIが採用され続けているのでしょうか。本記事では、応答時間や通信量の観点からCloud AIとEdge AIの違いを整理し、両者の特長を生かしたシステム構成について考えます。
|
目次
|
Edge AIとCloud AI、どちらが速いのか？
AI処理を機器側とクラウド側のどちらに配置するかを検討する際は、通信に要する時間だけでなく、求められる応答時間、AIモデルの規模、取り扱うデータ量、機器側の処理性能なども含めて検討することが重要です。
Edge AIは映像や音声、センサーデータを機器内で処理する方法です。クラウドとの通信を介さずに処理できるため、プライバシーの保護だけでなく、低遅延、通信量の削減、通信環境に依存しにくい動作などが期待できます。
ここでは、配置判断の重要な要素である「応答時間」について、それぞれの違いを整理します。応答時間を構成する要素
Edge AIでは、センサーから取得したデータを機器内で処理し、AI推論の結果を直接出力できます。一方、Cloud AIでは、機器がデータを取得してクラウドへ送信し、クラウド上でAI処理を行った後、その結果を受信して出力するという工程が発生します。
それぞれの応答時間は、次のような要素で構成されます。
Edge AIの応答時間：
データ取得時間 ＋ 機器内の前処理・AI推論・後処理時間 ＋ 結果の出力時間
Cloud AIの応答時間：
データ取得・送信時間 ＋ クラウド側の処理待ち時間 ＋ 前処理・AI推論・後処理時間 ＋ 結果の受信・出力時間
例えば、センサー入力に対して即座に判断し、その結果を機器の動作へ反映する処理にはEdge AIが適しています。
一方、大規模なモデルを使用する処理や、複数の機器から収集したデータの横断的な分析には、クラウドの計算資源を活用する方法が適しています。Edge AIとCloud AIは、単純な処理速度だけで優劣を判断するものではありません。製品で実現したい機能やシステム要件に応じて、処理する場所を決める必要があります。
図1. Edge AIとCloud AIの処理フロー比較
左側：Edge AI処理フロー 右側：Cloud AI処理フロー
映像を24時間クラウドへ送ると、通信量はどうなるのか？
Edge AIとCloud AIの配置を検討する際は、応答時間だけでなく通信量も重要になります。
例えば、10Mbpsの映像データを24時間連続してクラウドへ送信すると仮定します。
通信量の計算例：
1日：10Mbps × 86,400秒 ÷ 8 ÷ 1,000 ＝ 約108GB／日
30日間： 約108GB × 30日 ＝ 約3.24TB／月
同じ機器を100台運用した場合、単純計算では月間324TBです。
※実際の通信量は、映像の解像度、フレームレート、圧縮方式、ビットレート、映像の内容などによって変化します。上記は、通信量の規模を把握するための計算例です。通信費はシステム構成によって異なる
通信費は、契約する回線やクラウドサービスによって異なります。
今回のように映像データを24時間連続して送信する機器を多数運用する場合、通信量が非常に大きくなり、通信費が大きな負担となる可能性があります。
※実際のシステムでは、データ転送量、機器台数、保存期間、クラウド側の処理内容などを考慮して通信費を試算する必要があります。Edge AIで送信データを選別する
必要なデータだけをクラウドへ送信
すべての映像やセンサーデータをクラウドへ送信する代わりに、Edge AIで常時監視や一次判定を行い、必要なデータだけを送信する構成が考えられます。例えば、映像から異常を検知するシステムでは、次のような情報に絞ってクラウドに送信できます。
- 異常を検出した時間帯の映像や静止画
- 検出した日時
- 検出した対象
- AIによる判定結果
この構成では、通常時の映像を継続的に送信する必要がなくなります。クラウド側では、機器から送られた情報の蓄積、複数拠点の横断的な分析、大規模なAIモデルによる詳細解析などを行います。
図2. Edge AIとCloud AIの役割分担
Edge AIで常時監視や一次推論を行い、必要なデータのみをCloud AIへ送信する構成例
Edge AIとCloud AIを適切に使い分ける
両者の特長を生かしたハイブリッド構成
Edge AIとCloud AIは、どちらか一方を選ぶものとは限りません。機器側では、常時監視、データの選別、一次推論、即時の機器制御を行います。クラウド側では、大規模なAI推論、詳細分析、データの蓄積、モデルの管理や更新などを行います。
このように両者の特長を生かすことで、機器側に求められるリアルタイム性を確保しながら、クラウドの計算資源や管理性も活用できます。製品側のAI処理を支えるAstra®
用途に応じて選べるAstra® SLシリーズとSRシリーズ
Synaptics Astra®シリーズは、機器側でのAI処理を想定したプロセッサープラットフォームです。Astra® SLシリーズは、Linux®やAndroid™を利用するアプリケーション、画像や音声を含むマルチメディア処理、複雑なAI処理などに適したMPUです。Astra® SRシリーズは、低消費電力や常時センシングが求められる機器で、リアルタイムAI推論を行う用途に適したMCUです。
Edge AI開発を支援するAI Developer Zone
Synapticsの開発者向けポータル「Synaptics AI Developer Zone」では、Astra®を使用したEdge AI開発に向けて、学習済みモデル、開発ツール、チュートリアル、リファレンス例などが提供されています。モデルの検討から最適化、実装までの開発工程を支援する環境が整備されています。
まとめ
Edge AIは低遅延や通信量削減に適し、Cloud AIは大規模なAI処理やデータ分析に適しています。
実際のシステムでは、それぞれの特長を生かしながら処理内容に応じて使い分けることが重要です。
Synaptics Astra®シリーズは、このようなEdge AI処理を機器側で実現するためのプロセッサープラットフォームです。
AIモデルの適合性確認や、評価キットを用いたシステム構成のご相談など、お気軽にお問い合わせください。