論文の概要: When More Foundation Models Means Less: Diagnosing and Addressing Multi-View Fusion Failure
- arxiv url: http://arxiv.org/abs/2608.17490v1
- Date: Tue, 18 Aug 2026 08:19:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.262477
- Title: When More Foundation Models Means Less: Diagnosing and Addressing Multi-View Fusion Failure
- Title(参考訳): より多くのファンデーションモデルが少ない場合:多視点核融合失敗の診断と対処
- Abstract要約: KAGES (Kernel-Alignment Greedy Selector) は、カーネル・ターゲットアライメントの限界ゲインによってフリーズエンコーダを注文するラベル認識方式である。
KAGESは全核融合で平均AULCを3.9点、5.8点、3.3点改善し、DPPと施設位置選択を平均AULCで行った。
これらの結果から, 実効的な大プール融合は, エンコーダを無差別に融合させるのではなく, コンパクトでタスクに整合したビューを選択することに依存することが示された。
- 参考スコア(独自算出の注目度): 6.820743470464425
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation-model hubs turn multi-view fusion into a selection problem: from a large heterogeneous encoder pool, which views should be fused, and how many? We show that downstream performance is non-monotonic in the number of fused encoders; later views can be redundant or task-misaligned, causing accuracy to saturate or decline. We formalise this setting as view-set composition and propose KAGES (Kernel-Alignment Greedy Encoder Selector), a label-aware method that orders frozen encoders by their marginal gain in centred kernel-target alignment. KAGES requires no downstream classifier training during selection, evaluates each candidate in $\mathcal{O}(n^2)$ time independent of encoder dimension, and admits a conditional $(1-e^{-γ})$ prefix-wise guarantee under monotonicity and a positive submodularity ratio. Across five recognition regimes and low-shot, larger-pool, and full-data protocols, KAGES improves average AULC over full fusion by 3.9, 5.8, and 3.3 points, respectively, and exceeds DPP and facility-location selection in average AULC. Image retrieval exhibits later, task-dependent saturation along the KAGES ordering, while peak-then-decline reproduces in frozen-LLM fusion. These results show that effective large-pool fusion depends on selecting a compact, task-aligned set of views rather than indiscriminately fusing more encoders.
- Abstract(参考訳): ファンデーションモデルハブは、多視点融合を選択問題に変える。
下流の性能は融合エンコーダの数では非単調であることが示され、後続のビューは冗長あるいはタスクミスアライメントが可能であり、精度が飽和または低下する可能性がある。
我々は、この設定をビューセット構成として定式化し、カーネル-ターゲットアライメントにおいて、フリーズエンコーダを限界ゲインで注文するラベル認識手法であるKAGES(Kernel-Alignment Greedy Encoder Selector)を提案する。
KAGESは選択中に下流分類器の訓練を必要とせず、エンコーダ次元に依存しない$\mathcal{O}(n^2)$時間で各候補を評価し、条件付き$(1-e^{-γ})$プレフィックスワイド保証を単調性と正のサブモジュラリティ比で認める。
KAGESは5つの認識レジームとローショット、大容量、フルデータプロトコルで、フルフュージョンよりも平均AULCを3.9、5.8、および3.3ポイント改善し、平均AULCにおけるDPPおよび施設位置選択を上回っている。
画像検索は後にKAGESの順序に沿ったタスク依存の飽和を示し、ピーク-then-declineは凍結-LLM融合で再現される。
これらの結果から, 実効的な大プール融合は, エンコーダを無差別に融合させるのではなく, コンパクトでタスクに整合したビューを選択することに依存することが示された。
関連論文リスト
- DCA-MoE: Spatially Adaptive Cross-Layer Fusion and Density-Routed Experts for Crowd Counting [3.6896352484416393]
凍結したDINOv3エンコーダを保持しながら、両方の決定をコンテンツに依存させるフレームワークを提案する。
NWPU-Crowd検証分割では、DINOv3 ViT-L/16に基づく最強のペア構成が31.7 MAEと72.2 RMSEを得る。
クロスデータセットの結果は相変わらず混合しており、いくつかの成分基線は現在、1つの種子から独立に選択されたミニマを報告している。
論文 参考訳(メタデータ) (2026-08-15T12:59:05Z) - Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。
本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。
RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
論文 参考訳(メタデータ) (2026-08-12T07:32:29Z) - Unsupervised Multi-kernel Learning for Automated Algorithm Selection [6.372443691054574]
ブラックボックス最適化におけるアルゴリズム選択のための教師なしモデルに代わる教師なしモデル。
問題インスタンスはクラスタリングの段階でパフォーマンスラベルを使わずにグループ化される。
結果は、厳格に分離された3段階評価プロトコルを通じて、解決者推奨にポストホックにマッピングされる。
論文 参考訳(メタデータ) (2026-07-21T12:18:49Z) - Beyond Encoder Accumulation: Measuring Encoder Roles in Multi-Encoder VLMs [50.3757247538081]
我々は、統一パイプラインの下で、5つの共通ビジョンエンコーダの空でないサブセット31を再訓練し、評価する。
各エンコーダのコントリビューションを,容量と必要量という2つの軸に分解する。
エンコーダごとのプロジェクタ有効ランクは、残留スコアの変動を説明する。
論文 参考訳(メタデータ) (2026-06-02T16:46:42Z) - Understanding-Enhanced Model Collaboration for Long-Tailed Egocentric Mistake Detection [85.49213290363834]
理解力向上型モデル協調手法(UE-MCM)を提案する。
より効率的な粗いビデオ理解と正確なきめ細かなアクション推論を組み合わせる。
結果として得られるシステムは速度と精度のバランスを保ち、エゴセントリックな指導ビデオの微妙で稀で曖昧な誤りを検出するのに効果的である。
論文 参考訳(メタデータ) (2026-06-01T11:50:16Z) - CoME-VL: Scaling Complementary Multi-Encoder Vision-Language Learning [79.07656918674684]
CoME-VLは、対照的に訓練された視覚エンコーダと自己教師型DINOエンコーダを統合するモジュラーフュージョンフレームワークである。
提案手法は,RefCOCOのベースライン上での精度を高いマージンで向上させながら,検出のための最先端性能を実現する。
論文 参考訳(メタデータ) (2026-04-03T17:59:51Z) - Multiway Point Cloud Mosaicking with Diffusion and Global Optimization [74.3802812773891]
マルチウェイポイントクラウドモザイクのための新しいフレームワーク(水曜日)を紹介する。
我々のアプローチの核心は、重複を識別し、注意点を洗練する学習されたペアワイズ登録アルゴリズムODINである。
4つの多種多様な大規模データセットを用いて、我々の手法は、全てのベンチマークにおいて大きなマージンで、最先端のペアとローテーションの登録結果を比較した。
論文 参考訳(メタデータ) (2024-03-30T17:29:13Z) - Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。
本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
論文 参考訳(メタデータ) (2023-07-17T07:12:29Z) - CMGAN: Conformer-Based Metric-GAN for Monaural Speech Enhancement [5.766499647507758]
さらに、時間周波数(TF)領域における音声強調(SE)のためのコンバータベース計量生成逆ネットワーク(CMGAN)モデルを開発した。
以上の結果から,CMGANは3つの主要な音声強調課題において,既存の最先端手法よりも優れていた。
論文 参考訳(メタデータ) (2022-09-22T15:50:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。