論文の概要: EDMA: Entropy-Driven Multimodal Answering
- arxiv url: http://arxiv.org/abs/2610.27120v1
- Date: Mon, 19 Oct 2026 18:18:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.453951
- Title: EDMA: Entropy-Driven Multimodal Answering
- Title(参考訳): EDMA:エントロピー駆動型マルチモーダルアンサー
- Abstract要約: 我々は,各モーダリティが応答過程に与える影響を定量化することで,プロセスのトレーサビリティと最終性能が向上すると主張している。
本稿では、論理的エントロピーを用いて、エントロピー還元の反復過程として多モードQAを定式化するエントロピー駆動型マルチモーダルアンサーリング(EDMA)を提案する。
- 参考スコア(独自算出の注目度): 9.893072744113724
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal question answering (MMQA) is based on integrating heterogeneous data sources, selectively leveraging relevant modalities, and ignoring distractors. Existing approaches based on Multimodal Large Language Models (MLLMs) improve performance by splitting the task into intermediate steps, but do not quantify how each modality contributes to reaching the final answer. We argue that quantifying the effect that each modality has on the answering process improves process traceability and final performance. Thus, we propose Entropy-Driven Multimodal Answering (EDMA), which uses logical entropy to formalise multimodal QA as an iterative process of entropy reduction and to quantify the contribution of each modality in distinguishing correct from incorrect candidate answers. This enables the construction of quantifiable answering trajectories, where each step is associated with a measurable entropy reduction. EDMA introduces (i) modality-conditioned partitioning to estimate unimodal entropy reduction, (ii) entropy-driven multimodal fusion to capture complementary information across modalities, and (iii) entropy-based selection of the answering trajectory that minimises the most logical entropy. Evaluated across standard MMQA benchmarks, EDMA outperforms competitive prompting baselines, with average gains of 12.8 F1 and 4.6 LLM-J points over Planning Prompting and 18.6 F1 and 8.3 LLM-J points over Chain-of-Thought. Moreover, EDMA outperforms self-consistency baselines and is competitive with the multi-agent system baseline. Moreover, we show that higher entropy correlates with more false positives and, through controlled trajectory selection, demonstrate that logical entropy serves as an effective, monotonic selector for correct reasoning paths, validating entropy level as a reliable proxy for performance.
- Abstract(参考訳): MMQA(Multimodal Question answering)は、不均一なデータソースの統合、関連するモダリティの選択的活用、障害の無視に基づく。
既存のMLLM(Multimodal Large Language Models)に基づくアプローチでは、タスクを中間ステップに分割することでパフォーマンスが向上するが、各モードが最終回答にどのように貢献するかを定量化しない。
我々は,各モーダリティが応答過程に与える影響を定量化することで,プロセスのトレーサビリティと最終性能が向上すると主張している。
そこで我々は, 論理的エントロピーを用いたエントロピー駆動型マルチモーダル解答法 (EDMA) を提案し, エントロピー還元の反復過程として多モーダルQAを定式化し, 正解と正解を区別して各モーダルの寄与を定量化する。
これにより、各ステップが測定可能なエントロピー還元に関連付けられている、定量な答え軌道の構築が可能になる。
EDMAが紹介
(i)不動エントロピー低減を推定するためのモード条件付きパーティショニング
(II)エントロピー駆動型多モード核融合による相補的情報収集、及び
3)最も論理的なエントロピーを最小化する応答軌道のエントロピーに基づく選択。
EDMAは標準のMMQAベンチマークで評価され、平均利得は12.8 F1と4.6 LLM-Jと18.6 F1と8.3 LLM-Jである。
さらにEDMAは自己整合性ベースラインよりも優れ、マルチエージェントシステムベースラインと競合する。
さらに, 高次エントロピーはより偽陽性と相関し, 制御された軌道選択により, 論理エントロピーが正しい推論経路に対する効果的な単調セレクタとして機能し, 性能の信頼できるプロキシとしてエントロピーレベルを検証することを示した。
関連論文リスト
- Evolution of Multimodal Question Answering: From Modality-Adaptive Extraction to Unified Language Representation [0.0]
我々は、マルチモーダル適応抽出(MAE)、ソーラー、UniMMQAを比較し、マルチモーダル質問応答の進化をトレースする。
本分析は、明示的なモダリティ特化処理から統一されたテキスト中心の定式化への移行を示す。
これらの進歩にもかかわらず、モダリティ変換時の情報損失、多段パイプラインにおけるエラーの伝播、細粒度のクロスモーダル依存関係の取得における制限など、永続的な課題を識別する。
論文 参考訳(メタデータ) (2026-09-08T15:34:00Z) - Chain of Modality: From Static Fusion to Dynamic Orchestration in Omni-MLLMs [84.3271821505699]
カオス・オブ・モダリティ(Chain of Modality, CoM)は、マルチモーダル融合を受動的結合から動的オーケストレーションに移行するエージェントフレームワークである。
CoMはトレーニングフリーまたはデータ効率のSFT設定で動作し、様々なベンチマークで堅牢で一貫した一般化を実現する。
論文 参考訳(メタデータ) (2026-04-16T01:21:14Z) - Think Twice Before You Write -- an Entropy-based Decoding Strategy to Enhance LLM Reasoning [32.332197731504046]
デコード戦略は、大きな言語モデルの推論能力を形成する上で、中心的な役割を果たす。
グレディ復号やビームサーチといった従来の手法は、しばしばエラーの伝播に悩まされる。
本稿では,トークンレベルの適応性を世代に導入するエントロピー誘導復号化フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-10T23:08:26Z) - EntroCoT: Enhancing Chain-of-Thought via Adaptive Entropy-Guided Segmentation [18.606842425858]
CoT(Chain-of-Thought)の促進により、大規模言語モデルの数学的推論能力が大幅に向上した。
既存の微調整データセットは、しばしば"答えは正しいが間違った理由"プローブに悩まされる。
本稿では,高品質なCoT監視トレースを自動的に識別し,精錬するための統合フレームワークであるEntroCoTを提案する。
論文 参考訳(メタデータ) (2026-01-07T10:02:27Z) - Learning to Rank Chain-of-Thought: Using a Small Model [77.75522308463667]
本稿では、この課題に対処するために設計された高効率で軽量な検証器であるEORM(Energy Outcome Reward Model)を紹介する。
EORMはエネルギーベースのフレームワークを使用してChain-of-Thought(CoT)ソリューションをランク付けし、単純な結果ラベルだけで誤った推論と正しく区別することを学ぶ。
55Mのパラメータだけで、通常の報酬モデルより127倍以上小さいEORMは、Llama 3 8Bの精度をGSM8kで90.7%、MATHで63.7%に向上させた。
論文 参考訳(メタデータ) (2025-05-21T01:06:29Z) - Reducing Unimodal Bias in Multi-Modal Semantic Segmentation with Multi-Scale Functional Entropy Regularization [66.10528870853324]
高精度な予測タスクのための新しいセンサからのマルチモーダル入力の再利用とバランスが重要である。
1つの大きな制限は、マルチモーダルフレームワークが容易に学習可能なモダリティに過度に依存する傾向があることである。
本稿では,機能的エントロピーに基づくプラグ・アンド・プレイ正規化項を提案する。
論文 参考訳(メタデータ) (2025-05-10T12:58:15Z) - Generalized Multimodal Fusion via Poisson-Nernst-Planck Equation [5.022049774600693]
本稿では,Poisson-Nernst-Planck(PNP)方程式を用いた一般化多モード融合法(GMF)を提案する。
提案したGMFは,より少ないパラメータと計算資源を生かしながら,最先端(SOTA)の精度に近い結果が得られることを示す。
論文 参考訳(メタデータ) (2024-10-20T19:15:28Z) - Permutation Invariant Policy Optimization for Mean-Field Multi-Agent
Reinforcement Learning: A Principled Approach [128.62787284435007]
本稿では,平均場近似ポリシ最適化(MF-PPO)アルゴリズムを提案する。
我々は,MF-PPOが収束のサブ線形速度で世界的最適政策を達成することを証明した。
特に、置換不変ニューラルアーキテクチャによって引き起こされる誘導バイアスは、MF-PPOが既存の競合より優れていることを示す。
論文 参考訳(メタデータ) (2021-05-18T04:35:41Z) - Removing Bias in Multi-modal Classifiers: Regularization by Maximizing
Functional Entropies [88.0813215220342]
いくつかのモダリティは、他のものよりも分類結果に容易に寄与することができる。
機能的エントロピーと機能的フィッシャー情報とを結合した対数ソボレフの不等式に基づく手法を開発した。
VQA-CPv2 と SocialIQ の2つの挑戦的マルチモーダルデータセットに対して,より均一にモダリティを活用しながら,最先端の結果を得る。
論文 参考訳(メタデータ) (2020-10-21T07:40:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。