論文の概要: When LLMs Manipulate: Measuring Behavioral, Social, and Temporal Effects

• arxiv url: http://arxiv.org/abs/2610.27573v1
• Date: Tue, 20 Oct 2026 03:41:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.61911
• Title: When LLMs Manipulate: Measuring Behavioral, Social, and Temporal Effects
• Title（参考訳）: LLMを操作するとき:行動、社会的、時間的効果を測定する
• Abstract要約: 大規模言語モデル(LLM)は、微妙な言語的手がかりを通じて、ユーザの信頼と意思決定に影響を与える可能性がある。 本稿では,ユーザによる操作型AI応答に対する感受性として定義されたテキストビヘイビア脆弱性を測定するための行動計算フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) can influence user trust and decision-making through subtle linguistic cues, yet the behavioral effects of manipulative outputs remain poorly quantified. We introduce a behavioral computing framework for measuring \textit{behavioral vulnerability}, defined as users' susceptibility to manipulative AI responses. Building on DarkPatterns-LLM benchmark, we generate controlled manipulative stimuli using Manipulation Gradient Descent (MGD), targeting biases associated with authority, urgency, and social proof. We analyze participant responses using the Multi-Stakeholder Impact Assessment Network (MSIAN) to model cross-user influence and the Temporal Harm Propagation Model (THPM) to characterize the persistence of behavioral effects over time. In a study involving 120 participants, manipulative framing produced significant changes in trust calibration and compliance ($p < 0.01$), with effects also propagating across social contexts. These findings highlight the need to extend LLM safety evaluation beyond model outputs to measurable behavioral consequences and provide a computational framework for quantifying individual, social, and temporal risks arising from manipulative AI interactions.
• Abstract（参考訳）: 大規模言語モデル(LLM)は微妙な言語的手がかりを通じてユーザの信頼と意思決定に影響を与えるが、操作的出力の行動効果は定量化されていない。 本稿では,操作型AI応答に対するユーザの感受性として定義された‘textit{behavioral vulnerability}’を測定するための行動計算フレームワークを提案する。 また,DarkPatterns-LLMベンチマークを用いて,制御された操作刺激をMGD(Manipulation Gradient Descent)を用いて生成する。 マルチ・ステークホルダー・インパクト・アセスメント・ネットワーク(MSIAN)を用いて、ユーザ間の影響をモデル化し、時間とともに行動効果の持続性を特徴づける時間的ハーム伝搬モデル(THPM)を解析する。 120人の参加者を対象とした研究において、マニピュティブ・フレーミングは信頼の校正とコンプライアンス(p < 0.01$)に大きな変化をもたらし、社会的文脈を越えても効果が伝播した。 これらの知見は, LLMの安全性評価をモデル出力を超えて測定可能な行動結果にまで拡張することの必要性を強調し, マニピュティブAI相互作用から生じる個人, 社会的, 時間的リスクを定量化するための計算フレームワークを提供する。

関連論文リスト

• Persuasive and Compliant Tendencies Predict Group Decision-Making in Humans and Language Models [65.21691850622413]
  大規模言語モデル(LLM)は、人間との集団意思決定にますます関与している。 本稿では,各モデルの説得性およびコンプライアンス傾向を測定するための質問紙ベースのフレームワークであるDecisionQEを紹介する。 より強い説得傾向はグループの結果を著しく改善しないが、コンプライアンス指向モデルは協調においてより安定した優位性を示す。
  論文  参考訳（メタデータ） (2026-08-08T15:50:56Z)
• ActTraitBench: Quantifying the Knowledge-Decision Gap in Large Language Models via Human-Grounded Behavioral Validation [8.82034003345674]
  大規模言語モデル(LLM)は、明示的な自己報告でペルソナを確実にシミュレートするが、暗黙の行動決定においてしばしば逸脱する。 既存のベンチマークは、構成の妥当性の制限、多次元の絡み合い、分布バイアスのために、この非対称性を測定するのに苦労している。 本稿では,LLMの人格整合性を評価するための人為的評価フレームワークである ActTraitBench を提案する。
  論文  参考訳（メタデータ） (2026-05-28T11:40:35Z)
• The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study [56.649987197786096]
  大規模言語モデル(LLM)は人間の行動のシミュレータとしての可能性を示している。 LLMは潜在ユーザ属性の意図しないシフトを誘発し、ユーザのドリフトを引き起こす。 ユーザのドリフトによって生じる不確実性や選択バイアスを形式化する。
  論文  参考訳（メタデータ） (2026-05-20T06:09:41Z)
• Probing Embodied LLMs: When Higher Observation Fidelity Hurts Problem Solving [7.648784748888186]
  ロボットシステムの認知コンポーネントとして,大規模言語モデルが提案されている。 本研究は, 生体内LCM剤について, 使用可能な情報を変化させることで, 行動学的に検討した。 ノイズフリーベースラインよりも2.85倍の成功率で40%のフリップ確率でピークとなる中等雑音が性能を向上させることが判明した。
  論文  参考訳（メタデータ） (2026-05-19T16:27:00Z)
• Psychometric Personality Shaping Modulates Capabilities and Safety in Language Models [3.9481669393262675]
  本稿では,ビッグファイブの枠組みに根ざした心理測定的パーソナリティコントロールが,能力と安全性ベンチマークの文脈におけるAI行動にどのように影響するかを検討する。 WMDP, TruthfulQA, ETHICS, およびSycophancyなどのベンチマークでは, 安全性関連指標が大幅に低下する。 これらの知見は、安全性と一般的な能力の両方と相互作用するモデル制御の強力で過小評価された軸としてのパーソナリティ形成を強調した。
  論文  参考訳（メタデータ） (2025-09-19T18:19:56Z)
• Modulating Language Model Experiences through Frictions [56.17593192325438]
  言語モデルの過度な消費は、短期において未確認エラーを伝播し、長期的な批判的思考のために人間の能力を損なうリスクを出力する。 行動科学の介入にインスパイアされた言語モデル体験のための選択的摩擦を提案し,誤用を抑える。
  論文  参考訳（メタデータ） (2024-06-24T16:31:11Z)
• Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
  大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。 本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。 さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。 これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
  論文  参考訳（メタデータ） (2024-04-08T14:15:56Z)
• Act-Then-Measure: Reinforcement Learning for Partially Observable Environments with Active Measuring [4.033107207078282]
  我々はマルコフ決定プロセス(MDP)について検討し、エージェントはいつどのように情報を集めるかを直接制御する。 これらのモデルでは、アクションは環境に影響を与える制御アクションと、エージェントが観察できるものに影響を与える測定アクションの2つのコンポーネントで構成される。 この仮定に従うと、ポリシー時間が短くなり、計算によって生じる性能損失の限界が証明される。
  論文  参考訳（メタデータ） (2023-03-14T23:22:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。