論文の概要: Single LLM Debate, MoLaCE: Mixture of Latent Concept Experts Against Confirmation Bias

• arxiv url: http://arxiv.org/abs/2512.23518v1
• Date: Mon, 29 Dec 2025 14:52:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-30 22:37:30.549543
• Title: Single LLM Debate, MoLaCE: Mixture of Latent Concept Experts Against Confirmation Bias
• Title（参考訳）: 単一 LLM の議論, MoLaCE: 確認バイアスに対する潜在概念専門家の混在
• Authors: Hazel Kim, Philip Torr,
• Abstract要約: 大規模言語モデル(LLM)は入力確認バイアスに対して非常に脆弱である。 MoLaCEは軽量な推論時間フレームワークで、アクティベーション強度の異なる専門家を混在させることで、確認バイアスに対処する。 検証バイアスを一貫して低減し、堅牢性を向上し、マルチエージェントの議論を上回ることを実証的に示す。
• 参考スコア（独自算出の注目度）: 24.182306712604966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are highly vulnerable to input confirmation bias. When a prompt implies a preferred answer, models often reinforce that bias rather than explore alternatives. This phenomenon remains underexplored, yet it is already harmful in base models and poses an even greater risk in multi-agent debate, where echo chambers reinforce bias instead of correction. We introduce Mixture of Latent Concept Experts (MoLaCE), a lightweight inference-time framework that addresses confirmation bias by mixing experts instantiated as different activation strengths over latent concepts that shape model responses. Our key insight is that, due to the compositional nature of language, differently phrased prompts reweight latent concepts in prompt-specific ways that affect factual correctness, so no single fixed intervention can be applied universally across inputs. This design enables a single LLM to emulate the benefits of debate internally while remaining computationally efficient and scalable. It can also be integrated into multi-agent debate frameworks to diversify perspectives and reduce correlated errors. We empirically show that it consistently reduces confirmation bias, improves robustness, and matches or surpasses multi-agent debate while requiring only a fraction of the computation.
• Abstract（参考訳）: 大規模言語モデル(LLM)は入力確認バイアスに対して非常に脆弱である。 プロンプトが望ましい回答を示す場合、モデルは選択肢を探るよりもバイアスを強める。 この現象は未解明のままであるが、既にベースモデルでは有害であり、エコーチャンバーが補正ではなくバイアスを補強するマルチエージェントの議論においてさらに大きなリスクをもたらす。 モデル応答を形作る潜在概念よりも、アクティベーション強度の異なる専門家を混在させることにより、確認バイアスに対処する軽量な推論時間フレームワークであるMixture of Latent Concept Experts(MoLaCE)を紹介する。 我々の重要な洞察は、言語の構成的性質のため、異なる言い回しによって、事実の正しさに影響を及ぼすプロンプト特異的な方法で、異なる言い回しによってリウェイトな概念が促されるため、入力にまたがる単一の固定的介入が普遍的に適用できないということである。 この設計により、単一のLLMが計算効率と拡張性を維持しながら内部で議論の利点をエミュレートできる。 また、マルチエージェントの議論フレームワークに統合して、視点を多様化し、相関エラーを減らすこともできる。 検証バイアスを一貫して低減し、堅牢性を向上し、計算のほんの一部しか必要とせず、マルチエージェントの議論にマッチまたは超越していることを示す。

関連論文リスト

• Directional Reasoning Injection for Fine-Tuning MLLMs [51.53222423215055]
  マルチモーダルな大言語モデル(MLLM)は急速に進歩しているが、その推論能力は強いテキストのみのモデルよりも遅れていることが多い。 このギャップを埋める既存の方法は、大規模マルチモーダル推論データや強化学習の監督された微調整に依存している。 この問題を解決するために,DRIFT(Directional Reasoning Injection for Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2025-10-16T18:06:46Z)
• Multi-Agent Debate for LLM Judges with Adaptive Stability Detection [46.67172123607961]
  エージェントが協調して判断し、反復的に応答を洗練するマルチエージェントの議論判断フレームワークを提案する。 議論の過程を数学的に定式化し、エージェントの相互作用を分析し、議論が静的アンサンブルと比較して正確さを増幅することを証明する。 複数のベンチマークやモデルを用いた実験により,本フレームワークは計算効率を維持しつつ,多数決よりも判定精度を向上させることが示された。
  論文  参考訳（メタデータ） (2025-10-14T16:30:30Z)
• MADIAVE: Multi-Agent Debate for Implicit Attribute Value Extraction [52.89860691282002]
  インプシット属性値抽出(AVE)は、電子商取引における商品の正確な表現に不可欠である。 マルチモーダル大言語モデル(MLLM)の進歩にもかかわらず、多次元データの複雑さのため暗黙のAVEは依然として困難である。 我々は,複数のMLLMエージェントを用いて推論を反復的に洗練するマルチエージェント討論フレームワークであるtextscmodelnameを紹介する。
  論文  参考訳（メタデータ） (2025-10-07T06:27:42Z)
• A Closer Look at Bias and Chain-of-Thought Faithfulness of Large (Vision) Language Models [58.32070787537946]
  思考の連鎖(CoT)推論は、大きな言語モデルの性能を高める。 大規模視覚言語モデルにおけるCoT忠実度に関する最初の総合的研究について述べる。
  論文  参考訳（メタデータ） (2025-05-29T18:55:05Z)
• Multimodal Inconsistency Reasoning (MMIR): A New Benchmark for Multimodal Reasoning Models [26.17300490736624]
  MLLM(Multimodal Large Language Models)は、一貫した視覚・テキスト入力で主に訓練され、テストされる。 本稿では,MLLMの意味的ミスマッチの検出と推論能力を評価するためのマルチモーダル不整合推論ベンチマークを提案する。 我々は6つの最先端MLLMを評価し、o1のような専用マルチモーダル推論能力を持つモデルは、その性能を大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2025-02-22T01:52:37Z)
• Chain of Thought Still Thinks Fast: APriCoT Helps with Thinking Slow [0.0]
  我々は、Agnostically Primed CoT (APriCoT)による対物プロンプトを導入する。 APriCoTは、全体的な精度を改善しつつ、ベースレート確率の影響を効果的に低減する。 以上の結果から,CoTだけでは提供できないような緩やかな思考プロセスが必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-08-16T10:34:50Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• Multimodal Chain-of-Thought Reasoning in Language Models [94.70184390935661]
  言語(テキスト)と視覚(画像)のモダリティを2段階のフレームワークに組み込んだマルチモーダルCoTを提案する。 その結果,ScienceQA と A-OKVQA のベンチマークは,提案手法の有効性を示した。
  論文  参考訳（メタデータ） (2023-02-02T07:51:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。