Soracom

Users

アーキテクチャーセンター
Home アーキテクチャーセンター データ送信とシステム連携

AI の処理場所と処理タイミングを選ぶ

AI の結果が必要になるまでの時間、通信断中に継続する処理、データ量、運用条件から、エッジ AI、クラウド AI、ハイブリッド構成を選ぶ設計ガイド。

AI を利用するシステムでは、AI モデルの種類だけでなく、推論を実行する場所とタイミングを先に決めます。処理場所と処理タイミングによって、結果が返るまでの時間、通信断中の継続動作、送信するデータ量、デバイスに求める性能、設置後の更新方法が変わります。

このページでは、一般的な判断軸を整理したあと、エッジ AI、クラウド AI、ハイブリッドの各構成について、接続、データ蓄積、クラウド AI の実行、遠隔運用に利用する SORACOM サービスと、その組み合わせ方を説明します。AI の結果を通知、判断支援、自動対応のどこまで利用するかは、監視データを通知・分析・自動対応につなげる を参照してください。

このページが役立つケース

  • 設備保護、警告、ロボット制御など、AI の結果を短い時間で利用する構成を検討する場合。
  • 通信が不安定な場所や圏外になる場所でも、検知や制御を継続する場合。
  • 画像、音声、センサーデータをクラウドへ送って、高性能な AI モデルで処理する場合。
  • 複数拠点の履歴をまとめて分析し、予測、再学習、レポート作成に利用する場合。
  • エッジでの即時判断と、クラウドでの分析や継続的な改善を組み合わせる場合。
  • 設置後の AI モデル、設定、しきい値を遠隔から更新する方法を決める場合。
処理場所と処理タイミングを分けて考えます

「エッジ AI またはクラウド AI」は処理場所の選択です。処理タイミングは、「AI の結果をいつまでに利用するか」と「何をきっかけに処理を開始するか」に分けます。処理場所と 2 つのタイミング条件を分けると、要件に合う構成を比較しやすくなります。

一般的な設計を整理する

AI を使う前に、ルールやしきい値で解決できるか確認する

入力と出力の関係を明確な条件で表せる場合は、最初にルールやしきい値を検討します。AI を利用すると、学習データの準備、出力の評価、AI モデルの更新、誤判定への対応が加わります。

確認することルールやしきい値が向いている場合AI が候補になる場合
判断条件温度が上限を超えた、接点が変化したなど、条件を明文化できる。画像、音、波形などから、明文化しにくい特徴を判別する。
出力同じ入力に対して同じ結果を返す必要がある。入力の揺らぎを含めて分類、予測、要約する。
更新条件値の変更だけで対応できる。新しいデータを使って、判定方法そのものを改善する。
評価条件を満たすかどうかを確認する。誤検知、見逃し、信頼度を継続して評価する。

ルールと AI は排他的ではありません。センサーの値で処理を開始し、AI で画像を判定し、最後にルールで警告や制御を決める構成も選べます。

AI の結果が必要になるまでの時間を決める

「リアルタイム」という表現だけでは、許容できる時間を判断できません。データを取得してから、AI の結果を警告、制御、通知、分析に利用するまでの時間を数値で決めます。

時間を決めるときは、次の区間を分けます。

  • センサーやカメラがデータを取得するまでの時間。
  • エッジまたはクラウドへ入力データを渡すまでの時間。
  • AI モデルが推論する時間。
  • 推論結果を受け取り、警告、制御、通知を実行するまでの時間。

クラウド AI では、ネットワークの往復時間とクラウド側の推論時間が加わります。エッジ AI ではネットワークの往復を待たずに処理できますが、デバイスの計算能力によって推論時間が変わります。通信時間だけ、または推論時間だけで判断せず、データ取得から結果の利用までを一続きで測定します。

通信断中も継続する処理を決める

通信断が発生したときに、継続する処理と停止してよい処理を分けます。

処理通信断中の設計例
設備保護、現場での警告、ロボット制御エッジで判定と動作を継続する。
判定結果や代表データの送信デバイスに一時保存し、通信回復後に送信する。
通知、複数拠点の比較、日次レポート通信回復後にクラウドで処理する。
AI モデルや設定の更新適用中のバージョンで動作を継続し、更新を再試行する。

通信断中も継続させる処理は、クラウドからの応答がなくても実行できるように構成します。通信回復後に送信するデータには、取得時刻、判定結果、AI モデルのバージョンなど、あとから状況を確認できる情報を含めます。

エッジ AI とクラウド AI を比較する

エッジ AI は、データが発生するデバイスや現場のゲートウェイで推論します。クラウド AI は、ネットワーク経由で送ったデータをクラウド側で推論します。

判断軸エッジ AIクラウド AI
AI の結果が必要になるまでの時間ネットワークの往復を待たずに結果を利用できる。データ送信、推論、結果受信を含む時間を許容できる場合に向く。
通信断への耐性通信断中も推論を継続できる。入力データの送信または結果の受信に通信を利用する。
データ量判定結果や代表データだけを送ることで、通信量を抑えられる。画像、音声、時系列データなど、推論に使うデータを送信する。
プライバシー元データを現場に残し、送信範囲を限定できる。元データをクラウドへ送信できるか、保存先や利用範囲を確認する。
計算能力CPU、メモリ、ストレージ、消費電力、発熱の制約を受ける。大きな AI モデルやクラウドの計算資源を利用しやすい。
AI モデルの更新設置したデバイスごとに配布、適用、結果の確認を行い、問題がある場合は以前のバージョンへ戻す。クラウド側の AI モデルを更新すると、複数のデバイスが共通で利用する AI モデルのバージョンをまとめて切り替えやすい。
運用コスト高性能なデバイスの費用と、設置後の遠隔運用を含めて確認する。通信量、推論回数、保存量、クラウドサービスの利用料金を確認する。

応答期限が短い場合や通信断中も動作する場合は、エッジ AI を優先して検討します。複数拠点のデータをまとめる場合や、デバイスに載せにくい AI モデルを利用する場合は、クラウド AI を検討します。両方の条件がある場合は、エッジとクラウドに役割を分けます。

即時処理、イベント駆動処理、蓄積後処理を比較する

処理タイミングは、AI の結果を何に利用するかに合わせて選択します。

分類何を決めるか判断の内容向いている用途設計時に確認すること
即時処理結果が必要になるまでの時間データを取得してから、定めた応答期限内に結果を利用する。設備保護、警告音、ロボット制御など。応答期限、デバイスの推論時間、失敗時の安全な動作。
イベント駆動処理処理を開始する条件センサーの変化、画像の保存、メッセージの受信などをトリガーとして処理する。画像解析、通知、判断支援、取り消し可能な制御など。通信往復、処理待ち時間、タイムアウト、再試行、重複実行。
蓄積後処理処理を開始する条件一定量または一定期間のデータを蓄積してから処理する。傾向分析、予測、再学習、日次レポートなど。保存期間、処理対象期間、欠損、遅れて届いたデータ、処理料金。

即時処理とイベント駆動処理は排他的ではありません。イベントをきっかけに処理を開始し、定めた応答期限内に結果を利用する構成もあります。

処理場所と処理タイミングの代表的な組み合わせを、次の 5 つのパターンで比較します。

パターン向いている用途主な判断理由SORACOM での構成
エッジで即時処理設備保護、警告音、ロボット制御、通信断中の検知。応答期限を満たすために Wide Area Network (WAN) を介した通信の往復を待てない、または通信断中も処理を継続する必要がある。SORACOM Air for セルラーまたは SORACOM Arc で接続し、判定結果や代表データだけを送信する。
クラウドでイベント駆動処理画像解析、通知、判断支援、取り消し可能な制御。イベント発生後、データ送信から結果の利用までにかかる時間を許容でき、クラウド側の AI モデルを利用する。SORACOM Flux の AI アクション、または SORACOM Beam から Amazon SageMaker にデータを送信して推論する。
エッジで蓄積後処理圏外環境、バッテリー駆動、通信時間帯が限られる設備。通信できる時間帯や送信できるデータ量に制約がある、または通信による消費電力を抑える必要がある。いずれの場合も、結果をすぐに利用する必要がない。デバイス内で集計または推論し、要約や異常データをまとめて送信する。
クラウドで蓄積後処理多拠点比較、傾向分析、予測、再学習、日次レポート。一定量または一定期間分のデータを蓄積し、履歴や複数拠点のデータをまとめて分析する。SORACOM Harvest Data / SORACOM Harvest Files、SORACOM Query、外部の分析基盤や AI 基盤を組み合わせる。
ハイブリッド即時制御と継続的な改善の両方を行う。応答期限が短い処理や、通信断中も継続する必要がある処理を現場で実行し、複数拠点の分析や AI モデルの改善をクラウドで行う。エッジ推論、SORACOM Harvest Data / SORACOM Harvest Files への蓄積、AI モデルの遠隔更新を組み合わせる。

SORACOM で構成する

役割ごとにサービスを選ぶ

SORACOM の各サービスは、AI 推論だけでなく、エッジの接続、データ蓄積、クラウド AI の実行、AI モデルと設定の遠隔運用という役割ごとに選択します。

役割SORACOM サービス構成での使いかた
エッジの接続SORACOM Air for セルラー、SORACOM ArcAir for セルラーはセルラー通信、Arc は Wi-Fi、有線、衛星通信などの既存 IP ネットワークから SORACOM へ接続する。
判定結果や入力データの蓄積SORACOM Harvest Data、SORACOM Harvest Files数値や時系列データは Harvest Data、画像、ログ、AI モデルなどのファイルは Harvest Files に保存する。
エッジの更新と保守Remote Command、SORACOM Napter、SORACOM Harvest Files、IoT SIM のタグ設定値や適用する AI モデルを管理し、更新の指示、適用結果の確認、問題発生時の調査を遠隔で行う。
クラウド AI のワークフローSORACOM Fluxセンサーデータを AI アクションで分析し、通知や後続のアクションへ結果を渡す。画像や動画を入力できるかどうかは、選択する AI モデルによって異なる。
独自 AI モデルのオンライン推論SORACOM Beam、Amazon SageMakerBeam の Web サイトエントリポイントから、お客様の AWS アカウントにある Amazon SageMaker にデータを送信して推論する。推論用の認証情報はデバイスではなく、SORACOM の認証情報ストアで管理する。
蓄積データの検索、集計、分析SORACOM QueryIoT SIM の通信情報や Harvest Data のセンサーデータを SQL で分析する。SQL アシスタント (AI) は SQL の生成や分析を支援する機能であり、予測モデルなどを実行する AI 推論基盤ではない。蓄積データを予測モデルや生成 AI で処理する場合は、外部の AI 基盤と組み合わせる。
通信途中のデータ変換SORACOM OrbitSORACOM Air for セルラーまたは SORACOM Arc を利用するデバイスから、Unified Endpoint の UDP エントリポイント、TCP エントリポイント、HTTP エントリポイントに送信されたデータを、Beam、Funnel、Funk、Harvest Data へ送る前に変換する。汎用的な AI 推論基盤ではない。

エッジとクラウドを組み合わせる

ハイブリッド構成では、次の順序でエッジとクラウドの役割を分けます。

  1. エッジでルールまたは軽量な AI モデルを使って判定し、応答期限が短い警告や制御を現場で実行する。
  2. 判定結果や代表データを、SORACOM Air for セルラーまたは SORACOM Arc を通じて送信する。数値や時系列データは SORACOM Harvest Data、画像やログは SORACOM Harvest Files に蓄積する。
  3. イベントに応じた分析や通知には SORACOM Flux、蓄積データの検索や集計には SORACOM Query、独自の推論や再学習には外部の AI 基盤を利用する。
  4. 評価した AI モデルは SORACOM Harvest Files、設定値は IoT SIM のタグなどで管理し、Remote Command を使ってエッジへ更新を指示する。

クマとうさぎを AI で見分ける庭の見守り は、この役割分担を利用した構成例です。Raspberry Pi 上の AI モデルで撮影から判定までを約 0.6 秒で処理し、ネットワークが一時的に不安定でも検知と警告を継続します。検知画像と更新用の AI モデルは SORACOM Harvest Files、設定は IoT SIM のタグ、設定や AI モデルを反映する指示は Remote Command、保守時の接続は SORACOM Napter を利用しています。

AI モデルと設定を遠隔運用する

エッジ AI を設置したあとは、AI モデルと設定を更新できるだけでなく、更新前後の状態を確認し、問題があれば以前の状態へ戻せるようにします。

管理対象管理方法確認すること
AI モデルSORACOM Harvest Files に保存し、デバイスが対象のファイルをダウンロードする。バージョン、ファイルの整合性、対応するデバイス、適用日時、以前のバージョンへ戻す手順。
設定値IoT SIM のタグなどに、しきい値、動作モード、適用する AI モデルを識別する値を保存する。値の形式、初期値、取得できない場合の動作、誰が変更したかを記録する方法。
更新の指示Remote Command で設定の再読み込みや AI モデルの更新を指示する。コマンドの実行結果、タイムアウト、再試行、複数デバイスへ展開する順序。
問題発生時の調査SORACOM Napter で必要なときだけデバイスへ接続する。接続元、接続可能時間、Napter 監査ログ、デバイス上で行った操作を別途記録する方法、調査後に接続を終了する手順。

AI モデルを一度にすべてのデバイスへ適用せず、検証用のデバイスから段階的に適用します。デバイスは、新しい AI モデルを読み込めない場合や動作確認に失敗した場合に、適用中の AI モデルで処理を継続できるようにします。

人による確認と自動制御の境界を決める

処理場所と処理タイミングを決めたあと、AI の結果をどの動作まで利用するかを決めます。

AI の結果の利用範囲設計時に決めること
記録入力データ、AI の結果、AI モデルのバージョンを保存し、あとから評価できるようにする。
通知AI の結果を担当者へ通知し、担当者が次の行動を判断する。
判断支援AI が候補や要約を提示し、担当者が結果を確認して実行する。
自動制御誤判定した場合の影響、取り消し方法、処理を停止する条件を決める。

AI の結果を運用アクションへつなげる順序、人による確認、誤判定時の扱いは、監視データを通知・分析・自動対応につなげる を参照してください。

検証時に確認すること

  • データを取得してから、AI の結果を警告、制御、通知、分析に利用するまでの時間を測定する。
  • エッジの推論時間、ネットワークの往復時間、クラウドの推論時間を分けて測定する。
  • 通信断、通信遅延、タイムアウトが発生したときに、継続する処理と停止する処理が設計どおりか確認する。
  • 通信回復後に、蓄積したデータを重複や欠損なく送信できるか確認する。
  • 誤検知、見逃し、AI から結果が返らない場合の動作を確認する。
  • デバイスの CPU、メモリ、ストレージ、消費電力、発熱が運用条件に収まるか確認する。
  • 送信するデータ量、保存量、推論回数、更新回数を見積もり、SORACOM と外部クラウドの料金や上限を確認する。
  • 元データをエッジに残すかクラウドへ送るかを決め、保存先、保持期間、アクセス権を確認する。
  • AI モデルと設定を遠隔更新し、適用結果を確認して、以前の状態へ戻せることを確認する。
  • AI の結果を自動制御に利用する場合は、誤判定時に処理を停止または取り消せることを確認する。

元記事・元資料

このページは、以下の記事・資料をもとにしています。
正確な内容や最新の情報を確認するときは、元の記事・資料もあわせて参照してください。