フュージョンパイプラインと車載ランタイム

センサーデータ取り込み、キャリブレーション、マルチモーダル融合、モデル学習、最適化、車載推論を提供するモジュール式プラットフォームです。

開発車両、センサースイート

マルチセンサー知覚パイプライン

データ取り込み、キャリブレーション、融合、モデル学習、最適化、車載推論に定義済みのインターフェースを提供します。

  1. 01

    センサーデータプレーン

    LiDAR、レーダー、超音波、カメラのストリームを取り込み、車両ごとのキャリブレーションとともに同期します。

    • ハードウェアタイムスタンプによる取得
    • 車両ごとのキャリブレーション記録
    • バージョン管理されたデータセット
  2. 02

    キャリブレーションと融合

    すべてのモダリティを同一の座標系と時間基準に整え、共有の表現へ融合します。

    • 内部・外部キャリブレーション
    • 時間同期とドリフト検査
    • 統合された空間表現
  3. 03

    モデル学習

    融合した表現上で知覚・計画モデルを学習し、センサー構成ごとに適応させます。

    • マルチモーダル知覚モデル
    • シナリオベースの評価
    • ハードウェアを考慮した学習
  4. 04

    車載ランタイム

    固定の予算内で、車載 SoC 上にモデルをコンパイルし、量子化して実行します。

    • 量子化と蒸留
    • 決定論的スケジューリング
    • 遅延と消費電力の予算管理

このパイプラインはお客様のインフラでも当社のインフラでも動作します。学習はデータセンターで、推論は車両上で行います。

センサーキャリブレーションラボ

センサーデータ取り込みからモデル評価まで

センサーデータ管理からモデル導入、評価までを統合したエンジニアリングワークフローを提供します。

センサーデータプラットフォーム

LiDAR、レーダー、超音波、カメラのストリームを、ハードウェアタイムスタンプに基づいて取り込み、同期し、車両ごとの校正記録とともにバージョン管理します。

校正とフュージョン

内部・外部キャリブレーション、時間方向のそろえ込みとドリフト監視により、モデルがそのまま利用できる単一の空間表現を生成します。

マルチモーダルモデル

融合された表現で学習させ、お客様のセンサー構成に適応させた知覚・プランニングモデル。

モデル最適化

車載の自動車用 SoC に向けた量子化、蒸留、プルーニング、ハードウェアを考慮したチューニング。

車載 runtime

決定論的な推論、リアルタイムスケジューリング、安全性を考慮したプランニングと制御。

評価とツール

シナリオシミュレーション、回帰スイート、そしてモデル改訂間で結果を比較可能に保つデータセットのバージョン管理。

段階ごとの運用要件

センサー入力、キャリブレーション、融合、学習、モデル出力、車載推論の運用要件を量産スタック上で計測します。

センサー
LiDAR、ミリ波レーダー、超音波、カメラを、ハードウェアタイムスタンプ付きの校正済み単一時間軸上で扱います。
校正
車両ごとの内部・外部キャリブレーションを、ドリフト監視と校正バージョンの記録とともに。
フュージョン
センサーを追加、交換、取り外しても有効であり続ける共有の空間表現。
トレーニング
チェックポイント、エラスティックなスケジューリング、障害復旧を備えたマルチノード GPU トレーニング。
モデルエクスポート
ハードウェアを考慮したチューニング工程を経て生成される、車載 SoC 向けの量子化フォーマット。
車載推論
知覚からプランニングまで、上限のあるレイテンシーと電力バジェット内での決定論的スケジューリング。
ルーフマウントの LiDAR とカメラアレイ

マルチセンサーのキャリブレーションと融合

LiDAR、レーダー、超音波、カメラのデータは、モデル学習前に車両単位でキャリブレーションし、共通の座標系と時間基準へ同期します。

共有時空間表現上で融合し、センサー構成の変更はキャリブレーションとデータセットのバージョン管理によって処理します。

  • ドリフト監視を伴う車両ごとの校正
  • 4つのモダリティにまたがるハードウェアタイムスタンプ同期
  • レーダーと超音波をカメラ、LiDAR と融合
自動車用コンピュートモジュール

導入アーキテクチャ

学習とデータ処理はパブリッククラウド、プライベートクラウド、オンプレミス、エッジに導入し、量子化推論モデルは車両上で実行します。

  • パブリッククラウド

    迅速に開始したいプログラム向けに、マネージドインフラ上でエラスティックなトレーニングとデータ処理を提供します。

  • プライベートクラウドまたはオンプレミス

    お客様のネットワーク内で、お客様のデータガバナンスとアクセス制御の体制のもとに。

  • エッジ

    データが収集される場所の近くで地域処理を行い、転送量を抑えます。

  • 車載

    量子化されたモデルと runtime を自動車用コンピュート上で、レイテンシーと電力バジェット内で動作させます。

アーキテクチャと統合評価

センサー構成、キャリブレーション要件、対象車載演算基盤、導入制約、初期フェーズの範囲を評価します。