論文の概要: AI Agents are Vulnerable to Radicalization

• arxiv url: http://arxiv.org/abs/2609.38296v1
• Date: Tue, 29 Sep 2026 17:45:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.51013
• Title: AI Agents are Vulnerable to Radicalization
• Title（参考訳）: AIエージェントはラジカル化に脆弱である
• Abstract要約: 大規模言語モデル(LLM)が人々の信念に影響を及ぼすことを示すが、相互に操作できるかどうかや方法についてはほとんど分かっていない。 対象者の信念をより極端にすることを目的としたインフルエンサーLLMと、人口的・心理的属性に基づいて人間のペルソナをロールプレイするターゲットLLMの2つのエージェント間の会話をシミュレートする。 共振器, インフルエンサーが対象の既存の信念を補強する, および, インフルエンサーが最初に対象が重要でないと考える信念を促進する, 説得という2つの経路に沿った過激化について検討する。
• 参考スコア（独自算出の注目度）: 41.35647342092156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) can influence people's beliefs, yet little is known about whether and how they can manipulate each other. To investigate this, we simulate conversations between two agents: a target LLM that role-plays a human persona based on demographic and psychological attributes, and an influencer LLM that aims to make the target's beliefs more extreme. We examine radicalization along two pathways: resonance, where the influencer reinforces a target's pre-existing belief, and persuasion, where the influencer promotes a belief the target initially considers unimportant. Across affective and behavioral metrics, we find that both mechanisms radicalize the target. However, resonance produces consistently stronger effects than persuasion. Different influence tactics, such as using sycophancy and unverified claims, produce different levels of radicalization, but not consistently across metrics. We further show that resonance propagates to related beliefs, suggesting interconnected belief structures within AI agents. These findings indicate that AI agents are susceptible to radicalization, particularly when messages align with their existing beliefs, raising concerns about the vulnerability of personalized AI agents and multi-agent AI ecosystems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は人々の信念に影響を与えうるが、相互に操作できるかどうかについてはほとんど分かっていない。 そこで本研究では,人口動態と心理的属性に基づいて人間ペルソナを演じるターゲットLLMと,目標の信念をより極端にすることを目的としたインフルエンサーLLMの2つのエージェント間の会話をシミュレートする。 共振器, インフルエンサーが対象の既存の信念を補強する, および, インフルエンサーが最初に対象が重要でないと考える信念を促進する, 説得という2つの経路に沿った過激化について検討する。 感情的および行動的指標全体で、両方のメカニズムがターゲットを過激化する。 しかし、共鳴は説得よりも一貫して強い効果をもたらす。 サイコファシーや証明されていないクレームなどの異なる影響戦術は、異なるレベルの過激化を生み出すが、常にメトリクスを横断するわけではない。 さらに、共振は関連する信念に伝播し、AIエージェント内の相互接続された信念構造を提案する。 これらの結果は、AIエージェントが、特にメッセージが既存の信念に沿っている場合、過激化の影響を受けやすいことを示し、パーソナライズされたAIエージェントとマルチエージェントAIエコシステムの脆弱性に対する懸念を高めている。

関連論文リスト

• Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
  本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。 直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。 これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
  論文  参考訳（メタデータ） (2026-08-25T21:01:19Z)
• Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems [103.90831279037094]
  LLMベースのマルチエージェントトレーディングシステムは、研究プロトタイプから実際の資産を管理するライブデプロイメントへと急速に移行している。 破損した信号は最終決定に伝播し、実現された財政損失に変換される。 本稿では,金融分野において,敵対的信号がマルチエージェント取引システムにどのように入るのかを特徴付ける最初の体系的実証的研究について述べる。
  論文  参考訳（メタデータ） (2026-08-25T05:07:37Z)
• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• A Model of Multi-turn Human Persuadability Using Probabilistic Belief Tracing [16.188738760148645]
  PERSUASIONTRACEは、ヒト-LLM相互作用の説得を研究するためのフレームワークである。 それは、人間またはシミュレートされた説得の標的から多ターンの信条を記録する。 説得者回転を修辞次元でアノテートし、実人の信念のダイナミクスに忠実さでシミュレータを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:17:20Z)
• Social Dynamics as Critical Vulnerabilities that Undermine Objective Decision-Making in LLM Collectives [14.952471157911502]
  大規模言語モデル(LLM)エージェントは、マルチエージェント環境において、ますます人間のデリゲートとして機能している。 本稿では,ネットワークの社会的文脈によって,エージェントの信頼性が損なわれているかを検討する。
  論文  参考訳（メタデータ） (2026-04-07T17:04:21Z)
• Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations [16.626899117362875]
  自殺は依然として世界的な公衆衛生上の問題となっている。 ソーシャルメディアプラットフォームは、オンライン会話ツリーを通じて早期のリスク検出の機会を提供する。 既存のアプローチには2つの大きな制限がある。
  論文  参考訳（メタデータ） (2026-02-27T01:06:18Z)
• Persuasion Propagation in LLM Agents [23.64887423923855]
  教義レベルの介入が下流の作業行動にどのように影響するかを考察する。 ウェブ調査やコーディングタスクを通じて、オンザフライの説得は弱く一貫性のない行動効果をもたらすことが判明した。 信念状態がタスク時に明示的に指定されると、信念に満たされたエージェントは、平均26.9%の検索率で行動し、16.9%のユニークソースを中立に満たされたエージェントより訪問する。
  論文  参考訳（メタデータ） (2026-01-31T18:33:14Z)
• Emergence of human-like polarization among large language model agents [79.96817421756668]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Attacking Cooperative Multi-Agent Reinforcement Learning by Adversarial Minority Influence [41.14664289570607]
  Adrial Minority Influence (AMI) は実用的なブラックボックス攻撃であり、被害者のパラメータを知らずに起動できる。 AMIは複雑なマルチエージェント相互作用とエージェントの協調的な目標を考えることでも強い。 我々は、実世界のロボット群に対する最初の攻撃と、シミュレーションされた環境における事実上の愚かなエージェントを、全体として最悪のシナリオへと攻撃することに成功した。
  論文  参考訳（メタデータ） (2023-02-07T08:54:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。