論文の概要: Towards Mitigating Fabricated Consensus: The Active Provenance Gate for Multi-Agent Debate Synthesis
- arxiv url: http://arxiv.org/abs/2609.31422v1
- Date: Fri, 25 Sep 2026 15:44:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.475929
- Title: Towards Mitigating Fabricated Consensus: The Active Provenance Gate for Multi-Agent Debate Synthesis
- Title（参考訳）: ファブリケートコンセンサスの緩和に向けて:多元性議論のためのアクティブ・プロバンスゲート
- Abstract要約: 本稿では,アクティブなポスト議論検証の導入が,事実に欠かせない要約の制作を緩和できるかどうか,実証研究と研究について述べる。
危機シミュレーションでは、自己修復メカニズムは平均的なデータProvenance Fidelityを2倍以上にします。
人間の研究では、大多数のユーザーは批判的なシナリオで失敗を明示するレポートを好んだ。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model-based multi-agent debate (MAD) systems are being increasingly used as complex decision pipelines in distributed processes. However, their final synthesis phase still remains inadequately controlled. Even with detailed debate logs, summarizing models are prone to fabricating smoothly written debate consensus that is not grounded in the debate's history. To address this safety gap, this paper presents empirical research and studies if the introduction of active post-debate verification can mitigate the production of such factually unsupported summaries, while still providing valuable information. Furthermore, it is examined whether explicitly signalling divergence is preferable in the absence of a reliable compromise. The Active Provenance Gate (APG) is introduced as a post-debate verification layer that treats the source as a hard constraint, analysing the debate logs, auditing each claim, and applying self-correction. In crisis simulations, the self-healing mechanism more than doubles the average data Provenance Fidelity in difficult condition scenarios, before the strict gate blocks unsupported claims and generates divergence reports. In the human study, a vast majority of the users (over 75%) preferred a report explicitly stating failure in critical scenarios, despite most of them perceiving fabricated consensus from the baseline system as more fluent. Our main contribution is the transition of data origin tracing from passive logging to active conditional blocking before publication.
- Abstract（参考訳）: 大規模言語モデルに基づくマルチエージェント討論(MAD)システムは、分散プロセスにおける複雑な意思決定パイプラインとして、ますます使われてきている。
しかし、最終的な合成段階は依然として十分に制御されていない。
詳細な議論の記録があるにもかかわらず、モデルを要約することは、議論の歴史に根ざしていない円滑に書かれた議論のコンセンサスを作る傾向がある。
この安全性のギャップに対処するため,本稿では,アクティブな議論後検証の導入が,そのような事実に反する要約の制作を軽減し,貴重な情報を提供しつつも,実証研究と研究を述べる。
さらに,信頼性の高い妥協がない場合に,信号の発散を明示的に行うことが望ましいかを検討した。
Active Provenance Gate(APG)は、ソースをハード制約として扱い、議論ログを分析し、各クレームを監査し、自己補正を適用する、ポストディベート検証レイヤとして導入された。
危機シミュレーションでは、自己修復メカニズムは、厳密なゲートブロックを禁止し、分岐レポートを生成する前に、困難な状況のシナリオにおいて平均的なデータProvenance Fidelityを2倍以上にします。
人間の研究では、75%以上のユーザ(75%以上)が、批判的なシナリオで失敗を明示するレポートを好んだ。
我々の主な貢献は、受動的ロギングから出版前のアクティブな条件付きブロッキングへの移行である。
関連論文リスト
- Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。
しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。
本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
論文 参考訳（メタデータ） (2026-09-17T18:28:45Z) - EVAR: Evidence-Validated Hypothesis Admission for Budget-Aware Narrative Reasoning [6.590648135605556]
EVARは、予算を考慮した物語推論のためのエビデンス検証仮説解釈フレームワークである。
EVARは、制御可能な推論コストを維持しながら、タスク性能とエビデンス忠実性の両方を改善していることを示す。
論文 参考訳（メタデータ） (2026-08-30T15:07:27Z) - MIRAGE: How Conversation State Shapes Historical Evidence Use in Multimodal Personal Agents [15.173843369238156]
MIRAGEは個人エージェントの会話状態の変動に使用される歴史的証拠の制御された研究である。
結果のみの正当性から推定されるのではなく, 状態変化下での歴史的証拠の使用を評価すべきである。
論文 参考訳（メタデータ） (2026-08-25T10:59:10Z) - When benchmark inferences do not compose: Projectibility in AI evaluation [0.0]
AIベンチマークの結果が1ステップで連続的なクレームに達することはめったにない。
評価者はそれをさらなるケースに一般化し、能力の証拠として解釈し、新しいタスクに外挿し、他のシステムやサイトへ輸送する。
保証リンクは保証チェーンを自動的に作らない。
論文 参考訳（メタデータ） (2026-07-28T18:07:04Z) - Perception Without Engagement: Dissecting the Causal Discovery Deficit in LMMs [68.58207076756237]
本稿では,結果評価からメカニズム診断へ移行する摂動に基づく評価プロトコルProCauEvalを紹介する。
因果推論において,ビデオコンテンツは体系的に過小評価されている。
教師のネガティブなアライメントに基づく強化学習フレームワークであるADPOを提案する。
論文 参考訳（メタデータ） (2026-05-10T08:48:58Z) - From Fluent to Verifiable: Claim-Level Auditability for Deep Research Agents [8.49451413641847]
研究生成が安価になるにつれて、監査可能性がボトルネックになる、と我々は主張する。
この観点からは,ディープリサーチエージェントの第一級設計および評価対象として,クレームレベルの監査性を提案する。
論文 参考訳（メタデータ） (2026-02-14T19:39:15Z) - Multimodal Fact-Level Attribution for Verifiable Reasoning [80.60864342985748]
マルチモーダル大言語モデル(MLLM)は、多段階推論と長文生成を含む実世界のタスクにますます利用されている。
既存のマルチモーダルグラウンドベンチマークと評価手法は、複雑なマルチモーダル推論における属性評価に失敗する。
我々は、直接観察以上の推論を必要とする設定において、ファクトレベルのマルチモーダル属性を評価するためのベンチマークであるMuRGAtを紹介する。
論文 参考訳（メタデータ） (2026-02-12T03:10:02Z) - Exploring Health Misinformation Detection with Multi-Agent Debate [0.11470070927586014]
健康情報検出のための2段階の枠組みを提案する。
第1段階では,検索した記事を独立に評価するために,大規模言語モデル (LLM) を用いる。
このスコアが、事前定義された閾値以下のコンセンサスフォールが不十分であることを示すと、システムは第2段階に進む。
複数のエージェントが構造化された議論を行い、矛盾する証拠を合成し、明確な正当性を持つ十分な評決を生成する。
論文 参考訳（メタデータ） (2025-11-29T12:39:30Z) - AMRFact: Enhancing Summarization Factuality Evaluation with AMR-Driven Negative Samples Generation [57.8363998797433]
抽象的意味表現(AMR)を用いた摂動要約を生成するフレームワークであるAMRFactを提案する。
提案手法は,AMRグラフに一貫した要約を解析し,制御された事実不整合を注入して負の例を生成し,一貫性のない事実不整合要約を高い誤差型カバレッジで生成する。
論文 参考訳（メタデータ） (2023-11-16T02:56:29Z) - From Chaos to Clarity: Claim Normalization to Empower Fact-Checking [57.024192702939736]
Claim Normalization(別名 ClaimNorm)は、複雑でノイズの多いソーシャルメディア投稿を、より単純で分かりやすい形式に分解することを目的としている。
本稿では,チェーン・オブ・ソートとクレーム・チェック・バシネス推定を利用した先駆的アプローチであるCACNを提案する。
実験により, CACNは様々な評価尺度において, いくつかの基準値を上回る性能を示した。
論文 参考訳（メタデータ） (2023-10-22T16:07:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。