論文の概要: BIRD: Distilling Decision Boundaries into Rationales for MLLM Adaptation
- arxiv url: http://arxiv.org/abs/2609.33713v1
- Date: Sun, 27 Sep 2026 16:16:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 17:27:30.62045
- Title: BIRD: Distilling Decision Boundaries into Rationales for MLLM Adaptation
- Title（参考訳）: BIRD:MLLM適応の合理化のための決定境界の蒸留
- Abstract要約: BIRDは、未解決の局所的な決定境界を見つけるためにモデル固有の混乱を使用し、これらの混乱を合理的に解決する証拠を蒸留する。
その後、視覚的差異から解答盲候補の証拠を生成し、どの証拠が最も効果的に正しい解答の選好を強化するかを機能的に検証する。
医学およびチャートVQAの実験では、BIRDは2つのターゲットMLLM間で競合する合理化手法よりも優れていた。
- 参考スコア（独自算出の注目度）: 18.19565099806172
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adapting general-purpose multimodal large language models (MLLMs) to specialized domains requires learning domain-specific decision criteria, which often hinge on subtle visual distinctions between otherwise plausible answers. Rationale augmentation aims to expose such evidence through additional observations or inter-sample comparisons, yet a visually valid cue is not necessarily decision-relevant: it may describe how samples differ without changing the model's relative preference between competing answers. We therefore introduce BIRD, a self-improving Boundary-Informed Rationale Distillation framework that uses model-specific confusions to locate unresolved local decision boundaries and distills the evidence that resolves these confusions into rationales. For each sample, BIRD retrieves candidate neighbors from the target MLLM's own representation space and selects the most confusable one according to its answer preferences. It then generates answer-blind candidate evidence from their visual differences and functionally verifies which evidence most effectively strengthens the model's preference for the correct answer while avoiding inappropriate transfer across the pair. The verified evidence is then distilled into a single-sample rationale for standard supervised fine-tuning. Experiments on medical and chart VQA show that BIRD outperforms competing rationale-augmentation methods across two target MLLMs, while further analyses demonstrate clearer separation of confusable answers and stronger gains from model-matched supervision.
- Abstract（参考訳）: 汎用多目的大言語モデル(MLLM)を専門分野に適用するには、ドメイン固有の決定基準を学習する必要がある。
Rationale augmentation は、追加の観察やサンプル間比較を通じてそのような証拠を公開することを目的としているが、視覚的に有効なキューは必ずしも決定関連であるとは限らない。
そこで本研究では,未解決の局所的決定境界の特定にモデル特異的な混乱を用いた自己改善型境界式Rationale蒸留フレームワークであるBIRDを導入し,これらの混乱を合理的に解決する証拠を蒸留する。
各サンプルに対して、BIRDはターゲットMLLM自身の表現空間から候補近傍を検索し、その回答の好みに応じて最も難解な候補を選択する。
その後、視覚的差異から解答盲候補の証拠を生成し、どの証拠が正しい解答を最も効果的に強化するかを機能的に検証し、ペア間の不適切な移動を避けながら、正しい解答を選好する。
証明された証拠は、標準教師付き微調整のための単一サンプルの理論的根拠に蒸留される。
医療用およびチャート用VQA実験では、BIRDは、2つの目標MLLM間での有理性増強法よりも優れており、さらなる分析では、不確実な回答の分離と、モデル適合型監視によるより強力な利得の明確化が示されている。
関連論文リスト
- Understanding Knowledge Transfer Mechanism in Heterogeneous MLLM Fusion: A Simple Linear Approach [5.040180067606661]
クロススケールな知識伝達は、共有注入方向に対する能力依存応答により一順に決定される。
高いレベルの推論の利得は、主に言語モデルから生じます。
これらの知見は,狭義の低干渉条件下での言語側推論伝達として,多種多種MLLM融合を再検討した。
論文 参考訳（メタデータ） (2026-07-29T08:31:27Z) - A Consensus-Based Framework for Relative Preference Evaluation of Large Language Models [0.0]
本稿では,絶対的正当性ではなく,モデル生成応答間の相対的嗜好を測定する,コンセンサスに基づく評価フレームワークを提案する。
我々は、プログラミング、一般知識、安全性、論理的推論、数学を含む、複数の領域にわたる最先端のLLMを用いて、制御された研究を行う。
スコアはリレーショナルインテリジェンス指数(RII)に集約され、モデルの反応が他のモデルでどれだけ頻繁に好まれるかを表す。
論文 参考訳（メタデータ） (2026-07-19T08:59:19Z) - Dual-Branch Cross-Projection Debiasing through Diffusion-based Disentanglement [66.67463557274358]
バイアス付きデータセットに基づいてトレーニングされた基礎モデルは、しばしばターゲットラベルと非因果属性の間の急激な相関に依存する。
信頼誘導概念マイニング(CBCM:Confidence-guided Concept Mining)を導入し,属性アノテーションを使わずに信頼性の高いスプリアス属性を同定する。
本稿では,目標と突発的な表現を2つのブランチに分離するプロンプトチューニングフレームワークであるDual-branch Cross-projection Debiasing (DCD)を提案する。
論文 参考訳（メタデータ） (2026-06-23T05:28:47Z) - Divide, Deliberate, Decide: A Multi-Agent Framework for Fine-Grained Egocentric Action Recognition [86.4487145812318]
エゴセントリックビデオにおけるきめ細かいアクション認識はビジョンランゲージモデルでは難しい。
完全ローカルでゼロショットのマルチエージェントフレームワークであるDivide, Deliberate, Decideを提案する。
実験により,本手法はベースライン上でのゼロショット動作認識性能を肯定的に向上することが示された。
論文 参考訳（メタデータ） (2026-06-16T07:31:27Z) - ORCH: many analyses, one merge-a deterministic multi-agent orchestrator for discrete-choice reasoning with EMA-guided routing [0.6445605125467574]
ORCHは異種言語モデルを編成する離散選択推論のためのフレームワークである。
タスクの分解と回答の集約に固定されたルールを使用し、パイプラインを予測可能、再現可能、トレーニング不要にする。
MMLU、MMLU-Pro、GSM8Kの実験では、ORCHは単一モデルベースラインと多数投票アンサンブルを一貫して上回っている。
論文 参考訳（メタデータ） (2026-02-02T08:27:58Z) - ReCALL: Recalibrating Capability Degradation for MLLM-based Composed Image Retrieval [64.14282916266998]
Composed Image Retrievalは、参照画像と修正テキストからなるハイブリッドクエリに基づいてターゲット画像を取得することを目的としている。
本稿では,診断・生成・再定義パイプラインに従うモデルに依存しないフレームワークであるReCALLを提案する。
CIRRとFashionIQの実験では、ReCALLは継続的に劣化した機能を再検討し、最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-02-02T04:52:54Z) - Adversarial Yet Cooperative: Multi-Perspective Reasoning in Retrieved-Augmented Language Models [72.4149653187766]
本稿ではAdrialversa Reasoning RAG(ARR)というReasoner-Verifierフレームワークを提案する。
ReasonerとVerifierは、回収された証拠を推論し、プロセス認識の利点によってガイドされながら、互いの論理を批判する。
複数のベンチマーク実験により,本手法の有効性が示された。
論文 参考訳（メタデータ） (2026-01-08T06:57:03Z) - Rational Synthesizers or Heuristic Followers? Analyzing LLMs in RAG-based Question-Answering [0.0]
GroupQAは15,058件の多種多様な証拠文書と組み合わせて、1,635件の論争を巻き起こしたデータセットである。
グループレベルのエビデンス・アグリゲーション・ダイナミクスを制御実験により特徴づける。
グループベースの回答に対する LLM の説明は不信であることがわかった。
論文 参考訳（メタデータ） (2026-01-08T01:54:21Z) - Learning to Reason in LLMs by Expectation Maximization [55.721496945401846]
我々は推論を潜在変数モデルとして定式化し、推論を学ぶための期待最大化目標を導出する。
この見解はEMと現代の報酬に基づく最適化を結びつけるものであり、正しい答えを正当化する有理性を生成するサンプリング分布を設計することの主な課題であることを示している。
論文 参考訳（メタデータ） (2025-12-23T08:56:49Z) - Think Twice: Branch-and-Rethink Reasoning Reward Model [32.70732791642558]
本稿では,2ターンのRMであるブランチ・アンド・リコンプリート(BR-RM)について紹介する。
我々は、厳密なフォーマットチェックによる単純なバイナリ結果報酬を用いて、構造化された2ターントレース上でGRPOスタイルの強化学習を訓練する。
All-at-oncescoringinto focus, second-lookreasoning を変換することにより、BR-RMreducesjudgmentdiffusionand は微妙で連続的な誤りに対する感受性を高める。
論文 参考訳（メタデータ） (2025-10-27T17:58:07Z) - Getting MoRE out of Mixture of Language Model Reasoning Experts [71.61176122960464]
多様な特殊言語モデルを組み込んだMixture-of-Reasoning-Experts (MoRE) フレームワークを提案する。
実例,マルチホップ,数学的,コモンセンス推論など,さまざまな推論カテゴリに最適化されたプロンプトを備えたバックボーン言語モデルを特化する。
人間の研究では、専門家による予測と回答の選択プロセスが、アノテータがシステムの出力を信頼するタイミングをより正確に調整するのに役立ちます。
論文 参考訳（メタデータ） (2023-05-24T02:00:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。