論文の概要: Persuasion Propagation in LLM Agents

• arxiv url: http://arxiv.org/abs/2602.00851v1
• Date: Sat, 31 Jan 2026 18:33:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.434084
• Title: Persuasion Propagation in LLM Agents
• Title（参考訳）: LLM剤の説得伝播
• Authors: Hyejun Jeong, Amir Houmansadr, Shlomo Zilberstein, Eugene Bagdasarian,
• Abstract要約: 教義レベルの介入が下流の作業行動にどのように影響するかを考察する。 ウェブ調査やコーディングタスクを通じて、オンザフライの説得は弱く一貫性のない行動効果をもたらすことが判明した。 信念状態がタスク時に明示的に指定されると、信念に満たされたエージェントは、平均26.9%の検索率で行動し、16.9%のユニークソースを中立に満たされたエージェントより訪問する。
• 参考スコア（独自算出の注目度）: 23.64887423923855
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern AI agents increasingly combine conversational interaction with autonomous task execution, such as coding and web research, raising a natural question: what happens when an agent engaged in long-horizon tasks is subjected to user persuasion? We study how belief-level intervention can influence downstream task behavior, a phenomenon we name \emph{persuasion propagation}. We introduce a behavior-centered evaluation framework that distinguishes between persuasion applied during or prior to task execution. Across web research and coding tasks, we find that on-the-fly persuasion induces weak and inconsistent behavioral effects. In contrast, when the belief state is explicitly specified at task time, belief-prefilled agents conduct on average 26.9\% fewer searches and visit 16.9\% fewer unique sources than neutral-prefilled agents. These results suggest that persuasion, even in prior interaction, can affect the agent's behavior, motivating behavior-level evaluation in agentic systems.
• Abstract（参考訳）: 現代のAIエージェントは、コーディングやWebリサーチといった自律的なタスク実行との会話の相互作用をますます組み合わせて、自然な疑問を提起している。 本研究は,信条レベルの介入が下流作業行動にどのように影響するかを考察する。 本稿では,タスク実行時とタスク実行前で適用される説得を区別する行動中心評価フレームワークを提案する。 ウェブ調査やコーディングタスクを通じて、オンザフライの説得は弱く一貫性のない行動効果をもたらすことが判明した。 対照的に、信念状態がタスク時に明示的に特定されると、信念に満たされたエージェントは、平均26.9\%の検索で行動し、中立に満たされたエージェントよりも16.9\%のユニークなソースを訪問する。 これらの結果から, 先行相互作用においても説得がエージェントの行動に影響を与え, エージェントシステムにおける行動レベルの評価を動機付けることが示唆された。

関連論文リスト

• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• It's a TRAP! Task-Redirecting Agent Persuasion Benchmark for Web Agents [52.81924177620322]
  大規模な言語モデルを利用したWebベースのエージェントは、メール管理やプロフェッショナルネットワーキングといったタスクにますます利用されている。 動的Webコンテンツへの依存は、インジェクション攻撃の引き金に弱い: インターフェース要素に隠された敵対的命令は、エージェントが元のタスクから逸脱するように説得する。 本稿では,タスクリダイレクトエージェントの説得ベンチマーク(TRAP)について紹介する。
  論文  参考訳（メタデータ） (2025-12-29T01:09:10Z)
• Unlocking the Power of Multi-Agent LLM for Reasoning: From Lazy Agents to Deliberation [42.38513187601995]
  強化学習と検証可能な報酬で訓練された大規模言語モデル(LLM)は、複雑な推論タスクにおいて大きな成果を上げている。 最近の研究は、メタ思考エージェントが計画を提案し、進捗を監視し、推論エージェントが逐次的な会話のターンを通じてサブタスクを実行するというマルチエージェント設定にまで拡張されている。 1つのエージェントが支配的であり、もう1つのエージェントがほとんど貢献せず、コラボレーションが損なわれ、セットアップが非効率なシングルエージェントに崩壊する。 我々は、推論エージェントがノイズのある出力を破棄し、指示を集約し、推論プロセスを再起動させることで、議論を促す検証可能な報酬機構を提案する。
  論文  参考訳（メタデータ） (2025-11-04T06:37:31Z)
• Completion $\neq$ Collaboration: Scaling Collaborative Effort with Agents [48.95020665909723]
  タスク完了エージェントの構築と評価から,協調エージェントの開発への移行を議論する。 エージェントのユーティリティがユーザ関与の増加とともにどのように成長するかをキャプチャするフレームワークであるコラボレーティブ・ワーク・スケーリングを紹介します。
  論文  参考訳（メタデータ） (2025-10-29T17:47:18Z)
• Model Editing as a Double-Edged Sword: Steering Agent Ethical Behavior Toward Beneficence or Harm [57.00627691433355]
  我々は、モデル編集タスクとしてエージェントの行動ステアリングをフレーム化し、振舞い編集という。 心理学的道徳理論に基づくベンチマークであるBehaviorBenchを紹介する。 行動編集は倫理的・好意的な行動を促進するためにも、逆に有害な行動や悪意のある行動を引き起こすためにも利用できることを実証する。
  論文  参考訳（メタデータ） (2025-06-25T16:51:51Z)
• The Limits of Predicting Agents from Behaviour [16.80911584745046]
  我々は,エージェントの行動が世界モデルによって導かれるという仮定の下で,正確な回答を提供する。 我々の貢献は、新しい(目に見えない)デプロイメント環境におけるエージェントの振る舞いに関する新しい境界の導出である。 公平性や安全性など,いくつかの研究領域において,これらの結果がもたらす意味について論じる。
  論文  参考訳（メタデータ） (2025-06-03T14:24:58Z)
• Sim-to-Real Causal Transfer: A Metric Learning Approach to Causally-Aware Interaction Representations [58.96953392466609]
  エージェント相互作用の現代的表現の因果認識を詳細に検討する。 近年の表現は、非因果剤の摂動に対して部分的に耐性があることが示されている。 本稿では,因果アノテーションを用いて潜在表現を規則化するメトリクス学習手法を提案する。
  論文  参考訳（メタデータ） (2023-12-07T18:57:03Z)
• Resonating Minds -- Emergent Collaboration Through Hierarchical Active Inference [0.0]
  精神状態(意図,目標)のレベルでの自動調整プロセスが,協調的な問題解決につながるかを検討する。 協調エージェント(HAICA)の階層的アクティブ推論モデルを提案する。 本研究では,信念共鳴と能動的推論により,迅速かつ効率的なエージェント協調が可能であり,協調認知エージェントのビルディングブロックとして機能することを示す。
  論文  参考訳（メタデータ） (2021-12-02T13:23:44Z)
• Mitigating Negative Side Effects via Environment Shaping [27.400267388362654]
  非構造環境で作動するエージェントは、しばしば負の副作用(NSE)を引き起こす 本稿では,この問題を解き,理論特性を解析するアルゴリズムを提案する。 提案手法は,エージェントが割り当てられたタスクを完了させる能力に影響を与えずに,nseを効果的に緩和できることを示す。
  論文  参考訳（メタデータ） (2021-02-13T22:15:00Z)
• Studying the Effects of Cognitive Biases in Evaluation of Conversational Agents [10.248512149493443]
  我々は,77人のクラウドソース労働者を対象に,人間に会話エージェントのアウトプットを評価するよう依頼されたとき,認知バイアスの役割,特に偏見を抑えるための調査を行った。 2つの実験条件における評価の整合性の向上は、バイアスのアンカーの結果である可能性がある。
  論文  参考訳（メタデータ） (2020-02-18T23:52:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。