論文の概要: You Can't Fool Us: Understanding the Resilience of LLM-driven Agent Communities to Misinformation
- arxiv url: http://arxiv.org/abs/2605.17353v1
- Date: Sun, 17 May 2026 09:45:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:47.914802
- Title: You Can't Fool Us: Understanding the Resilience of LLM-driven Agent Communities to Misinformation
- Title（参考訳）: LLMを駆使したエージェントコミュニティのミス情報に対するレジリエンスを理解する
- Abstract要約: 政治的イデオロギーとオープンな思考が,信頼できる誤報にどう反応するかを考察する。
高いAOTは,信頼ピーク後の誤情報の取り込みと回復に対する抵抗性を向上することがわかった。
PIは回復経路を形成し、イデオロギー的に穏健なコミュニティはより確実に回復し、偏極化されたコミュニティはより残留的なサポートを維持します。
- 参考スコア（独自算出の注目度）: 4.689458744333872
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Misinformation resilience is a dynamic community process: communities differ not only in whether they initially trust false claims, but also in how they recover through interaction, questioning, correction, and support withdrawal. We study this process with an LLM-based agent simulation that constructs synthetic communities along two theoretically motivated dimensions: Actively Open-minded Thinking (AOT), which captures evidence-seeking and willingness to revise beliefs, and Political Ideology (PI), which captures identity-based interpretation of contested claims. These two traits allow us to examine how evidence-oriented reasoning and ideological alignment jointly shape community responses to credible misinformation shocks. Across systematically varied AOT-PI communities, we find that higher AOT improves both resistance to misinformation uptake and recovery after trust peaks. PI shapes the recovery pathway: ideologically moderate communities recover more reliably, while polarized communities retain more residual support. Stance-level analysis shows that resilience depends on whether agents move from questioning a claim to denying or correcting it and withdrawing prior support. Intervention experiments further show that persuasion and fact checking better support post-peak correction, whereas accuracy prompts mainly induce early caution and source warnings have weaker effects. Together, this work provides a mechanism-level account of community misinformation resilience, showing how psychological composition and intervention design shape whether communities move from misinformation exposure toward correction or persistent support.
- Abstract（参考訳）: コミュニティは、最初に虚偽の主張を信用するかどうかだけでなく、相互作用、疑問、修正、離脱の支援を通じてどのように回復するかという点で異なる。
本研究では,2つの理論的に動機づけられた次元に沿って合成コミュニティを構築する,LCMに基づくエージェント・シミュレーションを用いてこのプロセスを研究する。
これらの2つの特徴は、証拠指向の推論とイデオロギー的アライメントが、信頼できる誤情報ショックに対するコミュニティの反応を共同で形成する方法を検証できる。
組織的に異なるAOT-PIコミュニティ全体で、AOTは信頼ピーク後の誤情報取り込みと回復に対する抵抗性の両方を改善している。
PIは回復経路を形成し、イデオロギー的に穏健なコミュニティはより確実に回復し、偏極化されたコミュニティはより残留的なサポートを維持します。
スタンスレベルの分析では、レジリエンスは、エージェントが主張を否定したり修正したり、事前の支持を取り下げたりすることから行動するかどうかに依存している。
介入実験では、説得力と事実チェックが話者修正のより良いサポートを示すのに対し、正確性は早期に注意を喚起し、情報源の警告が弱まることが示されている。
この研究は、コミュニティが誤情報露出から修正や持続的な支援へと移行するかどうかを、心理的構成と介入デザインがどのように形作るかを示す、コミュニティの誤情報レジリエンスのメカニズムレベルの説明を提供する。
関連論文リスト
- Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。
直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。
これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
論文 参考訳（メタデータ） (2026-08-25T21:01:19Z) - Learning Whom to Trust : Decision-Generated Credibility in Social Learning [0.7734726150561086]
社会的相互作用は集団学習を改善するだけでなく、初期の間違いを増幅する。
本研究では,社会情報の信頼性が,送信者の意思決定プロセスによって生成される場合の緊張関係について検討する。
論文 参考訳（メタデータ） (2026-08-25T17:39:32Z) - Resilience: Understand Breakdown, Foster Recovery, and Choose the Right Perspective [1.2098798769432932]
我々は2種類の力学を区別する。
1つ目は、正常化の段階と急激な破壊の段階を分離し、その後に緩やかな回復を可能にする。
2つ目は、このような段階が絡み合っている不安定な組織に適用される。
論文 参考訳（メタデータ） (2026-07-28T08:48:19Z) - The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。
保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。
我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
論文 参考訳（メタデータ） (2026-06-02T02:15:40Z) - Position: Anthropomorphic Misalignment Research Needs Stronger Evidence [52.76826423649968]
概念的曖昧さ,非ロバストデータセット,実験設計,不十分な因果的介入が,モデル行動の過度な解釈につながることを示す。
本研究の目的は,AMRの方法論的厳密性向上に寄与する明らかな考察のガイダンスを提供することである。
論文 参考訳（メタデータ） (2026-05-29T16:38:53Z) - Dissociative Identity: Language Model Agents Lack Grounding for Reputation Mechanisms [14.279631422784929]
我々は、アイデンティティベース、元ポスト、規制型、制裁ベースのガバナンスは、解離的エージェントに構造的に適用可能であると論じる。
可観測性に基づくアンテ拡張性に基づく行動ハーネスへのシフトを提案する。
論文 参考訳（メタデータ） (2026-05-28T16:20:19Z) - Perception Without Engagement: Dissecting the Causal Discovery Deficit in LMMs [68.58207076756237]
本稿では,結果評価からメカニズム診断へ移行する摂動に基づく評価プロトコルProCauEvalを紹介する。
因果推論において,ビデオコンテンツは体系的に過小評価されている。
教師のネガティブなアライメントに基づく強化学習フレームワークであるADPOを提案する。
論文 参考訳（メタデータ） (2026-05-10T08:48:58Z) - Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals [33.05880104821315]
信頼性ガバナンス(CG)は、エージェントと視点が進化する公的な証拠を継続的に追跡する学習によって影響を再配置するメカニズムである。
CGは、エージェントと意見の両方の動的信頼性スコアを維持し、信頼度重み付き支持を通じて意見の影響を更新し、支持する意見の長期的パフォーマンスに基づいてエージェントの信頼性を更新する。
論文 参考訳（メタデータ） (2026-03-03T06:10:13Z) - Disagreements in Reasoning: How a Model's Thinking Process Dictates Persuasion in Multi-Agent Systems [49.69773210844221]
本稿では,説得力はモデルスケールの関数である,という一般的な仮説に挑戦する。
一連のマルチエージェントの説得実験を通じて、パーサーション・デュナリティ(Persuasion Duality)と呼ばれる基本的なトレードオフを明らかにする。
以上の結果から, LRMの推理過程は説得に対する抵抗性が大きく, 当初の信念をより堅固に維持していることが明らかとなった。
論文 参考訳（メタデータ） (2025-09-25T12:03:10Z) - Information Retrieval Induced Safety Degradation in AI Agents [52.15553901577888]
本研究では,検索アクセスの拡大がモデル信頼性,バイアス伝搬,有害コンテンツ生成に与える影響について検討した。
整列 LLM 上に構築された検索可能なエージェントは、検索なしでの無検閲モデルよりも安全でない振る舞いをすることが多い。
これらの発見は、検索可能でますます自律的なAIシステムの公正性と信頼性を確保するための堅牢な緩和戦略の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-05-20T11:21:40Z) - Competing LLM Agents in a Non-Cooperative Game of Opinion Polarisation [13.484737301041427]
我々は、意見の形成と抵抗を分析するために、新しい非協調ゲームを導入する。
我々のシミュレーションでは、人口に影響を与えるために競合するLarge Language Model (LLM) エージェントが特徴的である。
このフレームワークは、リソースの最適化をエージェントの意思決定プロセスに統合する。
論文 参考訳（メタデータ） (2025-02-17T10:41:55Z) - Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。
既存の感受性研究は、自己報告された信念に大きく依存している。
本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
論文 参考訳（メタデータ） (2023-11-16T07:22:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。