NVIDIA Jetsonで実現するエッジAI~SIerが考えるエッジAIの実現と活用方法~

2021年6月16日~17日に開催された「NVIDIA AI DAYS」にて「NVIDIA Jetsonで実現するエッジAI SIerが考えるエッジAIの実現と活用方法」というタイトルで講演しました。当日の内容についてご紹介します。

DXとAIの取り組み

多くの企業がDXに取り組んでいます。背景にはさまざまな動機が考えられますが、そのうちの1つが「2025年の壁」であり、この2025年を迎える前にDXを推進するべきだと考えられています。DXという言葉の意味は、人によって受け取り方がさまざまです。当社では以下のようなレベル分けを行い、お客様と意思統一を図りながらDXを推進しています。

DXの取り組み事例

富士ソフトにおけるDXへの取り組み事例を3つ紹介しました。

1つ目は「知財室での特許の検索」です。これまでは人が行っていた知財の検索や確認を、AIで行うものです。知財の検索は大量の文書の中からさまざまな条件で検索を繰り返す必要がありますが、大量の文書からAIでキーワードを見つけることにより、検索業務の生産性を向上できています。

2つ目は「契約書の確認」です。取引先との契約書を更新するとき、その前後の差異を調べるには、これまでは営業担当者が目視で確認していました。これもAIを使うことで変更点を抽出でき、確認作業における生産性を向上できています。

3つ目は「テストの自動化」です。プログラムを作成したときはテストが必要ですが、これまでは人が手動で行っていました。テスト仕様書の生成をAIで行い、テストの自動化をRPAで行うことで生産性を向上できています。

この他にもさまざまなDXの取り組みを進めていますが、これらのDXの活動を支えるのが「データ分析基盤」です。データをただ集めるだけでなく、データを貯め、集約し、担当者向けにデータを分ける、といった活動を経て、セキュリティを担保しながらデータの見える化を進めています。

富士ソフトが進めるAIの取り組み

富士ソフトでは、AI自体の開発を「AIインテグレーション」、AIを使うシステムを「システムインテグレーション」として提供しています。AIを開発する部分はもちろんのこと、古くからシステムインテグレーションに取り組んできた当社の知見を活かして、上流工程から保守まで、AIを含むシステム全般の範囲をソリューションで提供しています。

AIの主な開発事例としましては、医療の分野では骨折を判定するAI、農業の分野では葉の写真から病気を判定するAI、製造分野では工場での異常検知、スポーツでは姿勢推定などがあります。

エッジAIの実現 使いどころと選定基準

AIを導入するときに、クラウドのAIがよいのか、エッジAIがよいのか、という質問をよくききます。例えば、クラウドのAIは、大容量のストレージやGPUの潤沢なリソースを使える、可用性が高いといったメリットがありますが、レイテンシーがネックとなります。

一方、エッジAIは即時性があるため、工場のラインなどで製造品や機器の異常を検知したら即座にラインを止めるといったことが可能です。また、極秘情報や個人情報を扱うなど、AIで使用するデータをサーバーやクラウドには保存したくないという場合には、例えばカメラで撮影したデータをエッジAIの中だけで処理し、ネットワーク上には送出しないといったことが可能です。そして、リソースが小さく、消費電力も少ないという特徴があります。

どちらがよいかではなく、特長を活かして使い分けることが求められます。例えば、クラウドAIでは大量のデータをもとに、主に学習に使うことが考えられます。一方のエッジAIは主に予測に利用する、というように役割を分担させるのです。つまり、どちらを選べばいいのかではなく、相互作用させる「共創」を考えるべきだとお伝えしています。

エッジAI選定のポイント

では、どのようにしてエッジAIを選定すればよいのでしょうか?

これは、実現したい業務によって選定材料が変わります。工場のラインで異常を検知したい場合と、サイネージを使ってマーケティングを実施したい場合では、カメラの性能や防塵対策の有無なども変わってきます。

富士ソフトでは、下図のような比較表をもとに選定しています。実際に動作するOSや、AIのフレームワーク、そしてそれぞれの業務の特徴が整理されています。この条件を満たす技術の中から、お客様に最適なエッジ機器を提案しています。

例えば、CPUを使った産業用PCは使いやすく汎用的ではありますが、性能はそれほど高くありません。GPUを使えば深層学習の演算を高速に行えるため、解像度の高い画像の処理が得意です。FPGAは非常に高速な推論を行えますが、高解像度の画像を処理するには、省電力のメリットを活かせません。

この指標を用いて、サイネージ端末の上にカメラを取り付ける場合にエッジAIを選定する例を紹介。サイネージの場合、HDカメラでは物足りなく、4Kを選定することもあるでしょう。年齢層や性別の分析などを画像や映像から判断するには、JetsonなどのGPUベースのエッジ機器を選ぶべきです。Jetsonは開発ツールも使いやすく、NVIDIA社が提供するTensorRTを使うことで、高速化も容易に実現できます。

エッジAIを活用するために

AIは通常のソフトウェアとは異なり、開発してデプロイするだけでは終わりません。継続的にAIの精度を維持、向上する必要があるのです。

例えば、ECサイトで商品をレコメンドするAIを作った場合、1年後、2年後にはトレンドも利用者の年齢層も変わるかもしれません。そうなった場合、商品のレコメンドの予測結果は意図したものとならず、利用者にとって精度の高いレコメンドをしてくれなくなります。このため、AIは業務のサイクルに応じて見直しをかけ精度を保つ必要があるのです。

エッジAIの場合も同様です。工場のラインに導入し、カメラによる異常検知をする場合を考えてみましょう。結果を集積して傾向を分析しつつ、業務のサイクルに応じて次回のAIの改善に役立てる必要があります。

データの蓄積やAIの改善などはオンプレミスのサーバーやクラウドで実施します。そして作成したモデルをエッジ側にデプロイして推論環境に配置します。このとき、複数のエッジ端末に一斉にデプロイしなくてはなりません。このため、構成管理の仕組みが必要です。AIの場合はモデルのモジュールだけでなく、学習データやクレンジングデータなど、どのようなデータを学習したかをセットで保存して管理する必要があるのです。

また、IoT機器がセキュリティ被害に遭う事例が多く発生しているように、エッジAIもターゲットになります。このようなセキュリティ面も担保しながらエッジAIを動作させる必要があります。

このような環境の構築は大変に思えるかもしれません。しかし、昨今ではさまざまなツールが提供されていますので、各社の運用ポリシーなどに応じてうまく使い分けながら導入することをおすすめします。

このデプロイには、昨今では仮想化技術が使われています。例えば、次の図のように直接デプロイする方法だけでなく、Dockerなどのコンテナ技術を使ってデプロイする方法、KubernetesやOpenShift、クラウドを組み合わせる方法などがあるのです。すべての要素を包含するNVIDIA EGX プラットフォームという選択肢もあります。

NVIDIA EGX プラットフォームでは、大量の学習データを使ってデータセンターで開発し、クラウドを介して各エッジ端末にデプロイできます。このとき、セキュリティを担保しながらデプロイできる製品になっています。

まとめ

エッジAIの開発も非常に進化してきました。数年前であれば言語やツール、ハードは限られており、ゼロから開発することも少なくありませんでした。しかしながら、ソフトウェアの民主化、そして半導体の進化、低コスト化が進んで、エッジAIに取り組みやすくなっています。

実際に、2020年度下期頃から、「エッジAIを使ってみたい」、「評価してみたい」という声が増えてきています。もしこれからエッジAIに取り組み始めるのであれば、容易な検証から始めることをおすすめします。製造業の一部のお客様では、すでに製造ライン上でエッジAIを実現し、DevOps環境も構築して導入を進めています。その他、社会インフラ、セキュリティ業界、農業などさまざまな業界で検証や導入が実施されています。

もしエッジAIの導入において二の足を踏んでいる、悩んでいる方がいらっしゃいましたら、「始めるなら今」です。ぜひ、富士ソフトと一緒に取り組んでみませんか?

ぜひ「AI総合付加価値創造サービス」のサイトをご覧ください。
AI総合付加価値創造サービス

エッジAI、活用環境の事例を公開しています。
株式会社豊田自動織機(AIインテグレーションサービス):AIで工場の生産設備の設定値を自動補正。生産品質の安定維持化と業務の生産性向上。


三塚 正文三塚 正文(Masafumi Mitsuka)

イノベーション統括部
先端技術支援部
部長 / エキスパート

この記事を読んだ人はこちらの記事も読んでいます。