論文の概要: Dual-Domain Representation Alignment: Bridging 2D and 3D Vision via Geometry-Aware Architecture Search
- arxiv url: http://arxiv.org/abs/2603.19563v1
- Date: Fri, 20 Mar 2026 02:07:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:38.940018
- Title: Dual-Domain Representation Alignment: Bridging 2D and 3D Vision via Geometry-Aware Architecture Search
- Title(参考訳): Dual-Domain Representation Alignment:幾何学的アーキテクチャ探索による2次元および3次元視覚のブリッジ
- Authors: Haoyu Zhang, Zhihao Yu, Rui Wang, Yaochu Jin, Qiqi Liu, Ran Cheng,
- Abstract要約: EvoNASは多目的進化的アーキテクチャ探索のための効率的な分散フレームワークである。
私たちはVision State SpaceとVision Transformerモジュールを統合するハイブリッドスーパーネットを構築します。
大規模検証のコストを削減するため,分散マルチモデル並列評価フレームワークを導入する。
- 参考スコア(独自算出の注目度): 34.827159533027036
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Modern computer vision requires balancing predictive accuracy with real-time efficiency, yet the high inference cost of large vision models (LVMs) limits deployment on resource-constrained edge devices. Although Evolutionary Neural Architecture Search (ENAS) is well suited for multi-objective optimization, its practical use is hindered by two issues: expensive candidate evaluation and ranking inconsistency among subnetworks. To address them, we propose EvoNAS, an efficient distributed framework for multi-objective evolutionary architecture search. We build a hybrid supernet that integrates Vision State Space and Vision Transformer (VSS-ViT) modules, and optimize it with a Cross-Architecture Dual-Domain Knowledge Distillation (CA-DDKD) strategy. By coupling the computational efficiency of VSS blocks with the semantic expressiveness of ViT modules, CA-DDKD improves the representational capacity of the shared supernet and enhances ranking consistency, enabling reliable fitness estimation during evolution without extra fine-tuning. To reduce the cost of large-scale validation, we further introduce a Distributed Multi-Model Parallel Evaluation (DMMPE) framework based on GPU resource pooling and asynchronous scheduling. Compared with conventional data-parallel evaluation, DMMPE improves efficiency by over 70% through concurrent multi-GPU, multi-model execution. Experiments on COCO, ADE20K, KITTI, and NYU-Depth v2 show that the searched architectures, termed EvoNets, consistently achieve Pareto-optimal trade-offs between accuracy and efficiency. Compared with representative CNN-, ViT-, and Mamba-based models, EvoNets deliver lower inference latency and higher throughput under strict computational budgets while maintaining strong generalization on downstream tasks such as novel view synthesis. Code is available at https://github.com/EMI-Group/evonas
- Abstract(参考訳): 現代のコンピュータビジョンでは、予測精度とリアルタイム効率のバランスをとる必要があるが、大きなビジョンモデル(LVM)の高い推論コストは、リソースに制約のあるエッジデバイスへのデプロイメントを制限する。
進化的ニューラルネットワーク探索(ENAS)は多目的最適化に適しているが、その実用性は、高価な候補評価とサブネットワーク間の整合性の2つの問題によって妨げられている。
そこで我々は,多目的進化的アーキテクチャ探索のための効率的な分散フレームワークであるEvoNASを提案する。
我々は、ビジョンステートスペースとビジョントランスフォーマー(VSS-ViT)モジュールを統合するハイブリッドスーパーネットを構築し、それをクロスアーキテクチャデュアルドメイン知識蒸留(CA-DDKD)戦略で最適化する。
VSSブロックの計算効率とViTモジュールのセマンティック表現性を結合することにより、CA-DDKDは共有スーパーネットの表現能力を改善し、ランキング一貫性を高め、追加の微調整なしに進化中の信頼性の高いフィットネス推定を可能にする。
大規模検証のコストを削減するため,GPUリソースプーリングと非同期スケジューリングに基づく分散マルチモデル並列評価(DMMPE)フレームワークを導入する。
従来のデータ並列評価と比較して、DMMPEは並列マルチGPU、マルチモデル実行により効率を70%以上向上させる。
COCO、ADE20K、KITTI、NYU-Depth v2の実験では、探索されたアーキテクチャはEvoNetsと呼ばれ、精度と効率のトレードオフを一貫して達成している。
代表的CNN-、ViT-、Mambaベースのモデルと比較して、EvoNetsは、新しいビュー合成のような下流タスクの強力な一般化を維持しつつ、厳格な計算予算の下でより低い推論レイテンシと高いスループットを提供する。
コードはhttps://github.com/EMI-Group/evonasで入手できる。
関連論文リスト
- SlimEdge: Lightweight Distributed DNN Deployment on Constrained Hardware [0.6219985442687116]
ディープ・分散・ネットワーク(DNN)は現代のコンピュータビジョンの中心となっている。
本手法は,ネットワーク容量を不均一なデバイス制約に合わせるために,構造化モデルプルーニングと多目的最適化を統合した。
その結果, 精度とメモリフットプリントのユーザ指定境界を満たすとともに, 1.2xから5.0xまでの推論遅延を低減できることがわかった。
論文 参考訳(メタデータ) (2025-12-11T04:02:21Z) - Flexiffusion: Training-Free Segment-Wise Neural Architecture Search for Efficient Diffusion Models [50.260693393896716]
拡散モデル(DM)は高忠実度画像を生成できる強力な生成モデルであるが、高い計算コストで制約される。
我々は、事前訓練されたパラメータを変更することなく、生成スケジュールとモデルアーキテクチャを協調的に最適化する、トレーニング不要なNASフレームワークFlexiffusionを提案する。
我々の研究は、品質を犠牲にすることなく高速DMを検索するための資源効率の良いパラダイムを開拓した。
論文 参考訳(メタデータ) (2025-06-03T06:02:50Z) - ContextFormer: Redefining Efficiency in Semantic Segmentation [48.81126061219231]
畳み込み法は、局所的な依存関係をうまく捉えるが、長距離関係に苦慮する。
ビジョントランスフォーマー(ViT)は、グローバルなコンテキストキャプチャでは優れるが、高い計算要求によって妨げられる。
我々は,リアルタイムセマンティックセグメンテーションの効率,精度,堅牢性のバランスをとるために,CNN と ViT の強みを活用したハイブリッドフレームワーク ContextFormer を提案する。
論文 参考訳(メタデータ) (2025-01-31T16:11:04Z) - Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - POMONAG: Pareto-Optimal Many-Objective Neural Architecture Generator [4.09225917049674]
Transferable NASが登場し、データセット依存からタスク依存への探索プロセスを一般化した。
本稿では多目的拡散プロセスを通じて拡散NAGを拡張するPOMONAGを紹介する。
結果は、NAS201とMobileNetV3の2つの検索スペースで検証され、15の画像分類データセットで評価された。
論文 参考訳(メタデータ) (2024-09-30T16:05:29Z) - A Pairwise Comparison Relation-assisted Multi-objective Evolutionary Neural Architecture Search Method with Multi-population Mechanism [56.09418231453024]
ニューラルアーキテクチャサーチ(NAS)により、研究者は広大なサーチスペースを自動的に探索し、効率的なニューラルネットワークを見つけることができる。
NASは重要なボトルネックに悩まされており、探索プロセス中に多くのアーキテクチャを評価する必要がある。
SMEM-NASは,多集団構造に基づく相互比較比較支援型多目的進化アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-22T12:46:22Z) - iiANET: Inception Inspired Attention Hybrid Network for efficient Long-Range Dependency [0.5497663232622965]
iANETは、長距離依存のモデリングを改善するために設計された、効率的なハイブリッド視覚バックボーンである。
iiANETの中核となる革新は、iiABlockである。これは、グローバルなr-MHSA(Multi-Head Self-Attention)とパリルルにおける畳み込みレイヤを内部で記述する、統一されたビルディングブロックである。
論文 参考訳(メタデータ) (2024-07-10T12:39:02Z) - Pruning Self-attentions into Convolutional Layers in Single Path [89.55361659622305]
ビジョントランスフォーマー(ViT)は、様々なコンピュータビジョンタスクに対して印象的なパフォーマンスを実現している。
トレーニング済みのViTを効率よく自動圧縮するSPViT(Single-Path Vision Transformer pruning)を提案する。
われわれのSPViTはDeiT-Bで52.0%のFLOPをトリミングできる。
論文 参考訳(メタデータ) (2021-11-23T11:35:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。