論文の概要: On the Geometry of Multimodal Saturation: Riemannian VICReg
- arxiv url: http://arxiv.org/abs/2610.06096v1
- Date: Mon, 05 Oct 2026 10:28:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 18:43:40.970204
- Title: On the Geometry of Multimodal Saturation: Riemannian VICReg
- Title(参考訳): マルチモーダル飽和の幾何学について : Riemannian VICReg
- Abstract要約: 55.6%のペアが VICReg の下で実行されている場合、トリモーダルモデルが最高のバイモーダル部分集合を過小評価していることを示す。
同じ障害はSimSiamの下で51.1%のペアランで発生している。
この失敗はアライメント幾何学に関係していると提案する。
- 参考スコア(独自算出の注目度): 3.8381911981427845
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In self-supervised learning, a third modality should improve, or at least preserve, performance. Across nine image-text-tabular datasets, we show that it instead harms performance: the trimodal model underperforms its own best bimodal subset in 55.6% of paired runs under VICReg. The same failure occurs in 51.1% of paired runs under SimSiam. We call this failure multimodal saturation. We propose that the failure lies in the alignment geometry. Riemannian VICReg (R-VICReg) generalizes classical VICReg: it aligns views by squared geodesic distance on learnable negative-curvature product factors and recovers VICReg exactly as curvature vanishes. Over the same 45 paired runs, R-VICReg raises the probability that the third modality helps from 44.4% to 64.4%, with gains concentrated where VICReg saturates.
- Abstract(参考訳): 自己指導型学習では、第三のモダリティはパフォーマンスを改善し、少なくとも維持する必要がある。
トリモーダルモデルは、VICRegの下で55.6%のペア実行において、最高のバイモーダルサブセットを過小評価する。
同じ障害はSimSiamの下で51.1%のペアランで発生している。
これをマルチモーダル飽和と呼ぶ。
この失敗はアライメント幾何学に関係していると提案する。
Riemannian VICReg (R-VICReg) は古典的 VICReg を一般化し、学習可能な負曲率積因子の2乗測地線距離でビューを整列し、曲率が消えるにつれてVICReg を正確に回復する。
同じ45対のランで、R-VICRegは第3のモダリティが44.4%から64.4%に向上する確率を上げ、VICRegが飽和した場所で利得が集中する。
関連論文リスト
- Does the VGGT Family Need All Its Layers? [55.81487806596663]
VGGT,3ドル,VGGT-$:3,018プルーニング構成における層冗長性について検討した。
取り外し可能な層が2つの冗長領域に集結しているのに対して、層間をまたがる削除は、常に破壊的である。
CKAは、間隔分解のためのより安価な表現ベースのプロキシを提供し、プルーニング品質とキャリブレーションコストのトレードオフを提供する。
論文 参考訳(メタデータ) (2026-09-29T06:52:07Z) - GAUGE: Group-Wise View-Inconsistency Rectification for Feed-Forward 4D Tracking [48.91477882822122]
本稿では,GAUGE(Group-wise Adaptive Unsupervised Gauge Estimation)について述べる。
方向整合性と空間接続性から運動群を復元し、フレーム単位のラジアルスケールとグループレベルの変換を推定する。
D4RT, 4RC, SM4RTを含む8つのトラッカーの動的クエリポイントでは, 訂正されていない予測に対して, 終端誤差を15.1%から62.6%削減する。
論文 参考訳(メタデータ) (2026-09-26T13:14:53Z) - Conditional Flow Matching for Cross-Field MRI Harmonisation [1.4152206863712093]
我々はMRIxFields2026チャレンジのためのクロスフィールド脳MRI変換について検討する。
ソースボリュームとターゲットボリュームは空間的に登録されているので,ソーススライスを直接ターゲットスライスに運ぶ速度場を学習する。
このマッピングを3つの被験者のみから学ぶために、統一モデルは3つの段階で訓練される。
論文 参考訳(メタデータ) (2026-09-01T09:18:26Z) - Multimodal Evaluator Preference Collapse: Cross-Modal Contagion in Self-Evolving Agents [1.0152838128195467]
EPC(Evaluator Preference Collapse)はマルチモーダル環境で劇的に増幅されていることを示す。
次に、クロスモーダル感染と呼ばれる新しい現象を示す。
我々は、モデル間評価器アーキテクチャを優先ドリフトの主なリスク要因とみなす。
論文 参考訳(メタデータ) (2026-06-15T13:18:20Z) - Step-wise Rubric Rewards for LLM Reasoning [72.17879367869503]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善するために広く使われている。
正しい回答の18.2%は間違っているが、肯定的な報酬がある。
6つの数学的推論ベンチマークで、SRaRはRaRの平均精度を3.57ポイント改善した。
論文 参考訳(メタデータ) (2026-05-17T07:08:14Z) - The Evaluation Blind Spot: A Stereological Theory of Benchmark Coverage for Large Language Models [0.0]
実証的に、3つの独立したリーダーボード(Open LLM v2、拡張12ベンチマークスイート、LiveBench)は、いずれも[2.86, 4.80]のd_effを持つ。
Nemhauser (1 − 1/e) 保証付き部分モジュラーグリードアルゴリズムは、4つのベンチマークの安定なコアを見つける。
12のベンチマークと27のカテゴリの反実的な検証では、固有構造がどの評価が置き換えられないかを予測している。
論文 参考訳(メタデータ) (2026-04-15T08:56:58Z) - On the Role of Reasoning Patterns in the Generalization Discrepancy of Long Chain-of-Thought Supervised Fine-Tuning [63.41902113656453]
長いチェーン・オブ・ソート(CoT)軌道上でのSFT(Supervised Fine-Tuning)は、大きな推論モデルを構築する上で重要なフェーズとなっている。
2つの競合モデルによって生成された2つの検証されたCoT軌道源を用いて比較研究を行う。
textttDeepSeek-R1-0528データ上のSFTは、トレーニング損失を著しく低減するが、一般化性能は著しく低下する。
論文 参考訳(メタデータ) (2026-04-02T07:00:54Z) - Cascade-Aware Multi-Agent Routing: Spatio-Temporal Sidecars and Geometry-Switching [0.0]
スケジューラは負荷とフィットネスを最適化するが、木のようなグラフとサイクリックグラフで障害がどのように伝搬するかのモデルがない。
我々は、この観測可能性ギャップをオンライン幾何学制御問題として定式化する。
時空サイドカーは、どの幾何学が現在のトポロジーに適合するかを予測する。
論文 参考訳(メタデータ) (2026-03-17T20:10:16Z) - MapReduce LoRA: Advancing the Pareto Front in Multi-Preference Optimization for Generative Models [52.32146943039743]
人間のフィードバックからの強化学習は、生成モデルと人間の美学と知覚的嗜好を高度に一致させる。
MapReduce LoRA と Reward-aware Token Embedding (RaTE) の2つの補完手法を紹介する。
我々のフレームワークは、モダリティにまたがる新しい最先端のマルチ参照アライメントのレシピを定めている。
論文 参考訳(メタデータ) (2025-11-25T18:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。