論文の概要: Does Multi-Agent Collaboration Reduce Hallucination in Clinical Tasks?

• arxiv url: http://arxiv.org/abs/2610.27027v1
• Date: Mon, 19 Oct 2026 15:08:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.434006
• Title: Does Multi-Agent Collaboration Reduce Hallucination in Clinical Tasks?
• Title（参考訳）: 複数エージェントによる共同作業は幻覚を減少させるか?
• Abstract要約: 4つのモデルと3つの臨床的タスクで4つのシステム(単一LLMベースラインと3つのマルチエージェントトポロジー)を評価した。 共同作業はタスクパフォーマンスを向上するが,ルールとしての幻覚の低下は生じない。 レベルと変化の方向を設定するものは、トポロジやエージェントの数ではなくモデルである。
• 参考スコア（独自算出の注目度）: 4.3021464621302705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent LLM systems improve performance on clinical tasks, and that improvement is often read as evidence of a more trustworthy system. However, the two are not the same claim. A clinician acts on the stated reasoning and not only on the conclusion, so whether collaboration reduces hallucination, and what decides when it does, has to be measured in the reasoning too. Yet most evaluations score only the final answer. We evaluate four systems (a single-LLM baseline and three multi-agent topologies) across four models and three clinical tasks, scoring hallucination, under a factuality and faithfulness taxonomy, inside the rationale each system generates and reporting it alongside the task metric. We report that collaboration buys task performance but not lower hallucination as a rule, and no topology is reliably better than another. The effect differs by model: of the $36$ model--system--task comparisons, $12$ are large enough to resolve --- four decreases and eight increases, with no model on both sides. What sets the level, and the direction of any change, is the model rather than the topology or the number of agents. A self-correction experiment is consistent with this: shown its own flagged errors, every model except Llama-3.2-3B-Instruct reduces hallucination; the one model for which collaboration lowers hallucination gains the most, and Llama-3.2-3B-Instruct, the model whose hallucination it amplifies most, does not reduce its hallucination at all. We find that collaboration redistributes what its models can already do; it does not supply what they cannot.
• Abstract（参考訳）: マルチエージェントLSMシステムは臨床におけるパフォーマンスを向上し、その改善はより信頼できるシステムの証拠としてしばしば読まれる。 しかし、両者は同じ主張ではない。 臨床医は、結論だけでなく、記載された推論に作用するので、コラボレーションが幻覚を減らし、それがいつ決定されるかは、推論においても測定されなければならない。 しかし、ほとんどの評価は最終回答に過ぎません。 我々は,4つのモデルと3つの臨床課題にまたがる4つのシステム(単一LLMベースラインと3つのマルチエージェントトポロジ)を評価する。 共同作業はタスクのパフォーマンスを向上するが、ルールとして幻覚を低くすることはせず、トポロジが他のものより確実に優れているわけではないと報告する。 モデルによって効果は異なります – モデル-システム-タスク比較の36ドルのうち、12ドルは解決できるほどの大きさです。 レベルと変化の方向を設定するものは、トポロジやエージェントの数ではなくモデルである。 Llama-3.2-3B-インストラクトを除く全てのモデルは幻覚を減少させるが、Llama-3.2-3B-インストラクトは最も幻覚を減少させる。 コラボレーションは、そのモデルがすでにできることを再分配し、不可能なことを供給しない、ということに気付きます。

関連論文リスト

• Mechanisms of Prompt-Induced Hallucination in Vision-Language Models [58.991412160253276]
  制御されたオブジェクトカウント設定において、プロンプトが画像中のオブジェクト数をオーバーステートする障害モードについて検討する。 刺激誘発幻覚 (PIH) を, 追加訓練を伴わずに40%以上減少させる小さなアテンションヘッドのセットを同定した。 本研究は, 刺激による幻覚を誘発する内的メカニズムについての知見を提示し, モデル特異的な行動の実施方法の違いを明らかにした。
  論文  参考訳（メタデータ） (2026-01-08T18:23:03Z)
• HEAL: An Empirical Study on Hallucinations in Embodied Agents Driven by Large Language Models [27.72821031361892]
  本研究では,大規模な言語モデルにおいて,シーン・タスクの不整合下での長時間の作業を行う幻覚に関する最初の体系的研究について述べる。 私たちのゴールは、幻覚の発生範囲、どのような不整合が引き起こされるか、現在のモデルがどのように反応するかを理解することです。
  論文  参考訳（メタデータ） (2025-06-18T02:13:41Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• Are Reasoning Models More Prone to Hallucination? [70.04436965009072]
  最近進化した大推論モデル(LRM)は、長いチェーン・オブ・シークレット(CoT)推論能力を持つ複雑なタスクを解く上で、強力な性能を示している。 推論モデルは幻覚の傾向が強いか? 本稿では3つの観点からその問題に対処する。
  論文  参考訳（メタデータ） (2025-05-29T16:53:41Z)
• Generate, but Verify: Reducing Hallucination in Vision-Language Models with Retrospective Resampling [78.78822033285938]
  VLM(Vision-Language Models)は視覚的理解に優れ、視覚幻覚に悩まされることが多い。 本研究では,幻覚を意識したトレーニングとオンザフライの自己検証を統合した統合フレームワークREVERSEを紹介する。
  論文  参考訳（メタデータ） (2025-04-17T17:59:22Z)
• Exploring Hallucination of Large Multimodal Models in Video Understanding: Benchmark, Analysis and Mitigation [49.885797244626694]
  大型マルチモーダルモデル(LMM)の幻覚は、正しいように見えるが実際には正しくない応答を提供する。 本稿では,ビデオモダリティにおけるLMMの幻覚問題について検討することを目的としている。
  論文  参考訳（メタデータ） (2025-03-25T13:12:17Z)
• FG-PRM: Fine-grained Hallucination Detection and Mitigation in Language Model Mathematical Reasoning [18.927164579769066]
  既存のアプローチは、主に幻覚の存在を検知するが、それらのタイプや表現の微妙な理解は欠如している。 数学的推論タスクにおける一般的な幻覚を6つのタイプに分類する包括的分類法を導入する。 次に,FG-PRM(FG-PRM)を提案する。
  論文  参考訳（メタデータ） (2024-10-08T19:25:26Z)
• Detecting and Preventing Hallucinations in Large Vision Language Models [4.7264116948935975]
  M-HalDetectは、詳細な画像記述のための最初のマルチモーダル幻覚検出データセットである。 InstructBLIPから細粒度マルチモーダル報酬モデルを訓練し,その有効性を評価する。 LLaVAとmPLUG-OWLの幻覚をそれぞれ15%と57%低減する。
  論文  参考訳（メタデータ） (2023-08-11T21:35:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。