NVIDIAは、Nvidia Metropolis MicroservicesクラウドベースのAIソリューションを拡張し、NVIDIA Jetson組み込みプラットフォームで実行できるようにした。
Nvidiaによると、同社のNvidia Metropolis Microservicesソリューションは、新しいAPIとマイクロサービスにより、NVIDIA Jetsonプラットフォームを活用してエッジで動作するクラウドネイティブで柔軟かつ安全なビジョンAIアプリケーションの作成を加速できる。
これらの新しいJetsonマイクロサービスにより、開発者はAIアプリケーションスタックを近代化し、プロセスを合理化し、将来に向けてアプリケーションを保護できる。
Metropolis Microservices は Docker コンテナのセットとしてパッケージ化されており、これによりモジュール化された容易でデプロイ可能なシステムを構築できるはずだ。開発者は、ソリューションに必要なマイクロサービスやコンポーネントを選択し、残りを無視できる、とNVIDIAは述べている。
Jetsonの新しい拡張機能は、ビデオストレージとメディア管理、追跡アルゴリズム、システム監視、エッジからクラウドへの接続のためのIoTサービス、ログイン、認証、デバイスAPIへのセキュアなアクセス、そして分析のためのマイクロサービスをサポートしている。
Video Storage Toolkitは、RTSPやWebRTCなどの標準プロトコルを使用したH264やH265ストリーミングをサポートし、ハードウェアアクセラレーションによるビデオデコードとエンコードを提供する。アナリティクス・サービスは、ライブ映像や録画映像の様々なオブジェクトの動きをリアルタイムで追跡できる。AI知覚は、マルチセンサー処理、ビデオ、オーディオ、画像理解のためのストリーミング分析ツールキットであるNVIDIAのDeepStream SDKに基づいている。
さらにNVIDIAは、AIを搭載したネットワーク・ビデオ・レコーダー(AI-NVR)と、生成AIを使用したゼロショット検出という2つの構築済みリファレンス・アプリケーションを作成し、そのソリューションを紹介した。
AI-NVRリファレンスワークフローは、利用可能なすべてのマイクロサービスを統合し、ビデオ取り込み、AI推論、分析、監視を含む完全なパイプラインを構築する方法の例を提供する。NVIDIAは、クライアント側でのこれらのAPIの使用を実証するために、Android用のクライアントアプリも提供している。
一方、ゼロショット検出リファレンス・アプリケーションは、エッジで動作するジェネレーティブAIアプリケーションの作成方法を示している。このアプリケーションは、プロンプトで指定されたカテゴリに属するオブジェクトを検出するために、REST APIを介してリモートで制御できる。
NVIDIA Jetsonは、1秒間に最大275兆回の演算(TOPS)を実行できるエッジAIとロボティクス・アプリケーションのためのプラットフォームだ、とNVIDIAは述べている。Jetson専用に最適化された多くのオープンソースモデルがサポートされており、JetsonGenerative AI Labsで見つけることができる。