COLUMN
【Vol.1】はじめよう！エッジAI～エッジである必要性と最適な環境構築～
新シリーズコラム「はじめよう！エッジAI」ではエッジAIの必要性、エッジAIを取り巻く環境、さらに画像処理系エッジAIを始めるために必要な環境の解説やご紹介をしていきます。
★そもそも「エッジAIってなに？」という方にはこちらのコラムをおすすめします。
エッジAIの必要性
AI処理をエッジ環境で行うことにはどのようなメリットがあるのか？
エッジ環境でのAI推論処理には下記のメリットがあると考えます。
-
レスポンス
エッジ側でのAI推論機能をクラウドで実装するのと比較し、レスポンスが高い。 -
サービスの継続性
ネットワークが必須なクラウドとは反対に、オフラインでもサービス提供が可能。 -
コスト削減
クラウド利用にかかる費用(通信費・クラウドレンタル費)が不要。 -
セキュリティ
クラウドと連携する場合はエッジで匿名化した情報のみをクラウドと連携することでセキュリティを確保可能。 -
負荷分散
エッジコンピューティングによってクラウド負荷の低減。
エッジAIを取り巻く環境
パブリッククラウドでもエッジAIが実行できるサービスは展開されています。デバイスはクラウドで提供されているサービスによっては限定されるケースがありますが、Microsoft Azure Cognitive Services / AWS Greengrass・SageMaker Neoなどがあり、エッジのハードウェアに精通していなくても比較的容易に導入しやすいサービスが提供されています。
エッジAIを実行するハードウェアとしておすすめする代表的なハードウェア例をご紹介します。また、半導体提供元やベンダより高速・効率的な半導体リソースを利用・活用するように、学習済みモデルをオプティマイズするツールや開発環境が提供されています。
◆Nvidia
Jetson Nano(Maxwell™)・Jetson TX2(Pascal™)・Jetson AGX Xavier(Volta™)が代表的なハードウェアです。
ツール／開発環境：TensorRT
◆Intel®
Intel® Gen6~8 Core™ processor・Intel® Neural Computing Stick-2・Intel® FPGA(Arria®10)搭載ハードウェアが代表的なモデルです。
ツール／開発環境：OpenVINO™
◆Google
Edge TPU Coral USB Accelerator・Coral Dev Boardが対象のハードウェアです。
ツール／開発環境：AutoML Vision Edge・TensorFlow Lite
◆Qualcomm
Snapdraon™855・845・835・821・820・710・660・652・636・630・625・605・450搭載ハードウェアが対象です。
ツール／開発環境：Neural Processing Engine SDK for AI
◆TEXAS INSTRUMENTS
AM5749(2xEVEs+2xC66xDSPs)・AM5746(2xC66xDSPs)・AM572x(2xC66xDSPs)・AM571x(1xC66xDSP)・AM5706(1xC66xDSP)・AM5708(1xC66xDSP)搭載ハードウェアが対象です。
ツール／開発環境：TI Deep Learning(TIDL)
◆STMICROELECTRONICS
B-L475E-IOT01A(STM32L4) が代表的なハードウェアです。
ツール／開発環境：STM32Cube.AI
◆LeapMind
DeLTA-Kit (Intel® FPGA Cyclone®VSoC)
ツール／開発環境：DeLTA-Family・blueoil
エッジAIを始めるには
前述したエッジAIを始めるための各種ハードウェアは、エッジ側でAI推論処理を行うためのハードウェアであり、学習のためのハードウェアは別途ご用意する事をお勧めします。(DeLTA-Familyはクラウドサービスのため対象外)
特に教師あり学習のディープラーニングを行う場合、ハードウェアの性能やリソースの制限により、学習がなかなか進まなかったり、学習時のハイパーパラメータにより学習が開始できなかったりするためです。
しかし、いきなり大きなコンピューティングリソースを導入するのは、解決したい内容がその導入コストとマッチするかのどうかというリスクが伴います。
そんなお悩みの解決策となる、画像処理系のエッジAI向けにある程度快適かつオーバースペックとならない範囲での学習環境をご紹介します。
◆画像処理系でのエッジAI向け学習環境
エッジコンピューティングで実行するハードウェアは今後進歩して行くことが予測されます。内容にもよりますが画像処理系のエッジAI実行環境は、それなりのフレームレートを実現しながら大きな画像を扱うこと（大きな画像をそのままのサイズでAI推論すること）は、現状では不得意な状況です。
このような課題をカバーするため、それにあった学習環境を用意する事をお勧めします。
良くあるケースでは、大きな画像サイズをカメラから取得して、小さいサイズにリサイズ後にAI推論を行うケースが多いです。
◆画像処理系でのエッジAI推論環境
エッジAIを始めるためには、エッジコンピューティング環境の構築方法を習得する必要があります。組み込み系ハードウェアのソフトウェアエンジニアであれば比較的容易なのですが、それ以外のエンジニアにはなかなかハードルが高いと感じる方も多いかと思います。
そのため、まずはインストールが比較的容易でかつ、学習環境で学習した様々なニューラルネットワークに対応可能なAI推論環境を用意する事をお勧めします。
そこでおすすめするのが富士ソフトが提供する「エッジAI学習環境」です。
エッジAIに適したどんな学習用サーバを用意したら良いか？
どんなアクセラレータ（GPU）を用意したら良いか？
エッジAIのエッジコンピューティング環境構築の容易性は？・・・などなど
エッジAIを始めるにあたって抱える懸念を配慮し、パッケージで提供しております。
購入時は構成に必要な物を複数の会社から購入する必要はございません。
学習環境の構築については、OS・GPUのドライバ関連や学習時のフレームワークもインストールしてお届けすることも可能です。（オプション）
もちろん、ご相談頂ければCPU/GPU/ハードディスクの拡張やRAID設定等のカスタマイズも可能です。
これからエッジAIを始めたい方はもちろん、企業や組織で学習用のサーバを導入しているが、プロジェクトや自部署用の学習サーバを欲しい方にも最適な構成かと思いますので、是非ご検討ください！
学習時のハイパーパラメータや、ネットワークのチューニングを行い、プロジェクトや自部署用で学習リソースを占有できるため効率的に学習を行うことが可能です。また、オンプレミスなので、通信費やクラウド使用料を気にする事なく、導入後の費用の心配がございません。
これで、学習とエッジAI推論が可能になれば、様々な学習手段やニューラルネットワークのチューニングにより、上記でご紹介したあらゆるデバイスの選択枝が広がり、より小さなエッジコンピューティング環境に落とし込める可能性が出てきます。
※本コラムに記載されている社名および製品名などの固有名詞は、各社の商標または登録商標です。
個別相談も承っております。下記よりお申し込みください。
