論文の概要: Consistency as Inductive Bias: Learning Cross-View Invariance for Robust Multimodal Reasoning

• arxiv url: http://arxiv.org/abs/2606.29812v1
• Date: Mon, 29 Jun 2026 05:45:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.063305
• Title: Consistency as Inductive Bias: Learning Cross-View Invariance for Robust Multimodal Reasoning
• Title（参考訳）: 誘導バイアスとしての一貫性:ロバストなマルチモーダル推論のためのクロスビュー不変性学習
• Abstract要約: 本稿では,RLVRトレーニングにクロスビュー一貫性を注入するConsistRollを提案する。 オリジナルとセマンティックに不変な変換されたビューを同じ世代グループに配置する。 ペアの完了が正確かつ一貫性のある場合にのみ、共同報酬を割り当てる。
• 参考スコア（独自算出の注目度）: 40.68014726208686
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Inductive biases steer learning toward generalizable solutions by encoding task structure. In this work, we identify a crucial missing bias in MLLMs: cross-view consistency, \textit{i.e.}, semantically invariant views of the same instance should lead to the same answer. Standard reinforcement learning with verifiable rewards (RLVR) objectives do not impose this constraint, but instead assign pointwise rewards to each visual input. Even with data augmentation (DA), transformed views are typically rewarded independently, providing little signal once within-view rewards saturate. We propose \textbf{ConsistRoll}, a simple but effective method that injects cross-view consistency into RLVR training by reusing the group-sampling mechanism of GRPO. Specifically, ConsistRoll places original and semantically invariant transformed views in the same generation group, and assigns a joint reward only when paired completions are both correct and consistent. In this way, ConsistRoll turns consistency into an online credit-assignment signal, \textbf{without extra generation overhead and annotations}. Theoretically, we show that cross-view consistency is a valid inductive bias, and ConsistRoll introduces a cross-view correction term absent from DA, penalizing view dependence and alleviating advantage collapse. Comprehensive benchmarks across math, general-purpose, hallucination domains confirm that ConsistRoll achieves robust improvements in multimodal reasoning.
• Abstract（参考訳）: 帰納バイアスは、タスク構造を符号化することで一般化可能な解へ学習する。 横断的な一貫性、 \textit{i.e.}、同じインスタンスのセマンティック不変ビューは、同じ答えをもたらすべきである。 検証可能な報酬(RLVR)を目標とする標準的な強化学習は、この制約を課すのではなく、視覚入力毎にポイントワイズ報酬を割り当てる。 データ拡張(DA)でさえ、変換されたビューは通常独立して報酬を受け取り、一度ビュー内の報酬が飽和すると、ほとんど信号を提供しない。 本稿では,GRPO のグループサンプリング機構を再利用して,RLVR トレーニングにクロスビュー一貫性を注入する,シンプルだが効果的な方法である \textbf{ConsistRoll} を提案する。 具体的には、ConsistRollはオリジナルとセマンティックに不変な変換されたビューを同じ世代グループに配置し、ペアの完了が正確かつ一貫性のある場合にのみ共同報酬を割り当てる。 このようにして、ConsistRollは一貫性をオンラインクレジット割り当て信号である \textbf{without ex generation overhead and annotations} に変換する。 理論的には、クロスビュー一貫性は効果的な帰納バイアスであり、ConsistRollは、DAから欠落したクロスビュー補正項を導入し、ビュー依存を罰し、有利な崩壊を緩和する。 数学、汎用、幻覚領域の総合的なベンチマークでは、ConsistRollがマルチモーダル推論の堅牢な改善を実現している。

関連論文リスト

• Unpaired Modality-Agnostic Generative Recommendation [26.342219762853187]
  UnpairGRは、ペア、イメージのみ、およびテキストのみの観察から、統合されたセマンティックID空間を学ぶ。 3つのベンチマークデータセットの実験は、UnpairGRが常にレコメンデーションパフォーマンスを改善していることを示している。
  論文  参考訳（メタデータ） (2026-08-03T16:46:47Z)
• SIVA-RL: Sensitivity-Invariance Visual Alignment for Multimodal Reinforcement Learning [19.079142995255506]
  本稿では、SIVA-RLを用いて、演算子条件の正規化をサンプルワイド、結果条件の監視に置き換える手法を提案する。 SIVA-RLはトークン整列された距離制限された画像内パッチを通じて局所的な介入を構築する。 視力依存推論では8.79ポイント、GRPOとDAPOベースの4つの構成で14.9%の相対的な改善が達成されている。
  論文  参考訳（メタデータ） (2026-07-15T15:13:02Z)
• C$^{2}$R: Cross-sample Consistency Regularization Mitigates Feature Splitting and Absorption in Sparse Autoencoders [56.67585330425431]
  スパースオートエンコーダ(SAE)は、アクティベーションをスパースで人間の理解可能な機能に分解することで、大きな言語モデルを解釈するために広く使われている。 これらの問題は、サンプル間の一貫性のない潜在的な割り当てに起因している。 我々はC$2$Rを導入し、これは方向的に類似した潜伏剤の共活性化を罰する。
  論文  参考訳（メタデータ） (2026-06-29T17:45:31Z)
• TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
  検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。 本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。 技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
  論文  参考訳（メタデータ） (2026-06-09T17:16:03Z)
• DIVA: Harnessing the Representation Divergence in Unified Multimodal Models for Mutual Reinforcement [42.87874090062771]
  統一マルチモーダルモデル(UMM)は、理解と生成の両方において優れた性能を示している。 我々は、異なる監視信号によって誘導される誘導バイアスに起因する根本的な課題を特定する。 本研究では,自己改善型ポストトレーニングフレームワークであるDIVAを提案し,表現の発散を内部のシナジーに変換する。
  論文  参考訳（メタデータ） (2026-05-25T01:17:32Z)
• LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition [55.572260012037084]
  本稿では, LC-ERD (Logic-Consistent Endogenous Reward Decomposition) を紹介する。 モデルの潜在論理エキスパートズ(Latent Logic Expertise)からのコンセンサスを集約することで、変分論理ポテンシャルを導出する。 LC-ERDは、論理の一貫性と正確性の間のトレードオフを明らかにする、堅牢な自己進化パスを提供する。
  論文  参考訳（メタデータ） (2026-05-19T07:27:50Z)
• Stabilizing Unsupervised Self-Evolution of MLLMs via Continuous Softened Retracing reSampling [19.22335478070254]
  MLLM自己進化におけるCSRS(Continuous Softened Retracing ReSampling)を提案する。 具体的には,ロングテール推論経路の探索を拡大するために,アンカーポイントからモデルの再推論を行うRetracing Re-inference Mechanism (RRM)を提案する。 CSRSは,MathVisionなどのベンチマークにおけるQwen2.5-VL-7Bの推論性能を著しく向上することを示した。
  論文  参考訳（メタデータ） (2026-04-04T08:52:43Z)
• Soft Equivariance Regularization for Invariant Self-Supervised Learning [23.047550451521662]
  自己教師付き学習(SSL)は通常、意味保存強化に不変な表現を学習する。 本研究では,不等分散と等分散を両立させるプラグイン正規化器であるソフト等分散正規化(SER)を提案する。 SERはサンプルごとの変換コードやラベルを学習/予測し、補助的な変換予測ヘッドを必要としない。
  論文  参考訳（メタデータ） (2026-03-04T13:36:17Z)
• From Verifiable Dot to Reward Chain: Harnessing Verifiable Reference-based Rewards for Reinforcement Learning of Open-ended Generation [52.62655622099456]
  検証基準ベース報酬(RLVRR)を用いた強化学習を提案する。 最後の答えをチェックする代わりに、RLVRRは高品質な参照(すなわち報酬連鎖)から順序付けられた言語信号を抽出する。 このようにして、RLVRRは報酬を2つの次元に分解する。
  論文  参考訳（メタデータ） (2026-01-26T14:39:58Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Hybrid Reinforcement: When Reward Is Sparse, It's Better to Be Dense [36.71358559780692]
  HEROは、検証者信号と報酬モデルスコアを構造化された方法で統合する強化学習フレームワークである。 HEROはRMのみのベースラインと検証者のみのベースラインを一貫して上回り、検証可能なタスクと検証しにくいタスクの両方で大きな利益を上げている。
  論文  参考訳（メタデータ） (2025-10-08T17:09:41Z)
• Cross-modal Full-mode Fine-grained Alignment for Text-to-Image Person Retrieval [54.90229711181207]
  TIPR (Text-to-Image Person Retrieval) は、与えられたテキストクエリに基づいて、最も関連性の高い人物画像を取得することを目的としている。 TIPRの鍵となる課題は、テキストと視覚のモダリティの効果的なアライメントを達成することである。 FMFA, クロスモーダルフルモーデファインファインファインファインアライメントフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-17T07:12:05Z)
• Relieving Long-tailed Instance Segmentation via Pairwise Class Balance [85.53585498649252]
  長い尾のインスタンスセグメンテーションは、クラス間のトレーニングサンプルの極端な不均衡のために難しいタスクである。 尾のついたものに対して、(大多数のサンプルを含む)ヘッドクラスの深刻なバイアスを引き起こす。 そこで本研究では,学習中の予測嗜好を蓄積するために,学習中に更新される混乱行列上に構築された新しいPairwise Class Balance(PCB)手法を提案する。
  論文  参考訳（メタデータ） (2022-01-08T07:48:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。