610万パラメータでゼロショット単眼深度推定 ― どんなデバイスでも動く軽量モデル「ZipDepth」(ECCV 2026)
単眼深度推定は基盤モデルの登場で頑健なゼロショット汎化を達成したが、計算負荷が大きく組込み・モバイルには載らない。一方、軽量モデルは単一ドメインの自己教師ありに偏り、ドメインシフトで静かに壊れる。ZipDepthは、再パラメータ化可能な効率的エンコーダ・デコーダに、基盤モデルからの大規模マルチドメイン知識蒸留を組み合わせた610万パラメータの小型網。サーバGPUから省電力デバイスまで実時間で動き、5ベンチマークで軽量モデル中最良の精度・効率トレードオフを達成した。ECCV 2026採択・コード公開。
論文の概要(独自要約)
- 分野(arXiv分類)cs.CV
- 著者Fabio Tosi, Luca Bartolomei, Matteo Poggi ほか(計4名)
- 投稿日2026-07-09
- arXiv ID2607.08771v1
要点
- 深度基盤モデルは頑健だが重く、軽量モデルは単一ドメイン依存でドメインシフトに脆い、という隔たりに対処
- 再パラメータ化可能な効率的エンコーダ・デコーダ+基盤モデルからの大規模マルチドメイン知識蒸留(ZipDepth)
- わずか610万パラメータでサーバGPUから省電力デバイスまで実時間動作
- 5ベンチマーク横断で軽量モデル中最良のゼロショット精度×効率トレードオフ
- 50倍のパラメータの基盤モデルの精度に接近/ECCV 2026採択・コード公開
本研究(ZipDepth)は、1枚の画像から奥行きを推定する「単眼深度推定」を、小さなデバイスでも動く軽さと、初見のドメインでも壊れない頑健さの両立で前進させる。
1基盤モデルとデバイス実装の隔たり
単眼深度推定はこの数年、基盤モデルの登場で大きく進歩した。大規模データで訓練された深度基盤モデルは、見たことのない環境でも頑健に働くゼロショット汎化を示す。だがその計算要求は、組込み機器やモバイル端末が扱える範囲を大きく超えている。
一方、軽量な代替モデルは存在するものの、ほぼもっぱら単一ドメイン・自己教師あり学習のパラダイムで開発されてきたため、訓練と異なる環境(ドメインシフト)では「静かに」失敗する——エラーを出さず、間違った深度を返す。
2効率的なエンコーダ・デコーダ構造
ZipDepthはこの隔たりを、2つの要素の組み合わせで埋める。第一に、効率的で再パラメータ化可能なエンコーダ・デコーダ構造。訓練時は表現力のある構成で学び、推論時は等価変換でより速い形に畳み込める。第二に、大規模なマルチドメイン訓練セットの上で、基盤モデルを教師とする知識蒸留を行う。単一ドメインの自己教師ありではなく、基盤モデルの汎化能力そのものを小型網へ移す設計である。
3610万パラメータで実時間動作
結果として、ZipDepthはわずか610万パラメータで、サーバGPUから電力制約のあるデバイスまで実時間レートで動作する。5つのベンチマークを横断した評価で、軽量モデルの中ではゼロショット精度と配備効率の最良のトレードオフを達成し、50倍のパラメータを持つ基盤モデルの精度に大きく近づく一歩だと報告される。
なぜ重要か
エッジAI・オンデバイス視覚の実用化に直結する研究。基盤モデルの知識蒸留で「小さくても汎化する」モデルを作る処方は、ロボティクス・AR・モバイル視覚アプリの開発者、モデル軽量化を追う実務者の参照点になる。
よくある質問(FAQ)
単眼深度推定とは何ですか?
なぜ「ゼロショット」が重要なのですか?
出典(一次情報)
出典:arXiv(記述メタデータは CC0 パブリックドメイン)。要約は当サイト独自。原文・PDFは arXiv をご確認ください。
- arXiv 概要ページ(原文・公式)
- PDF(arXiv)
- arXiv ID: 2607.08771