論文の概要: Recognition, Simulation, and Refusal: A Contamination-Aware Study of Classic Psychological Effects in LLM Agents

• arxiv url: http://arxiv.org/abs/2609.22090v1
• Date: Thu, 23 Jul 2026 10:34:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.691859
• Title: Recognition, Simulation, and Refusal: A Contamination-Aware Study of Classic Psychological Effects in LLM Agents
• Title（参考訳）: 認知, シミュレーション, 拒絶: LLM エージェントにおける古典的心理的影響を意識した汚染研究
• Abstract要約: LLMエージェント上での古典心理学実験を再実行するベンチマークであるPsyAgentBenchを紹介する。 41,904のトライアルがリリースされ、最大3つのオープンウェイトモデルファミリーで評価された5つの完成パラダイムのうち、明らかに人間のような効果は質的に異なる経路で生じる。 単文ペルソナの変更(確認可能性、検証された特性操作ではなく命令としてフレーム化)は、その効果によってこれらの効果を排除、減衰、あるいは反転させる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An LLM producing the response pattern associated with a human psychological effect is not the same claim as the LLM possessing that bias. We present PsyAgentBench, a benchmark that re-runs classic psychology experiments on LLM agents under a factorial design built to separate these: each paradigm is run with the paradigm explicitly labeled in the prompt (named) or framed as a routine task (blind), and on the literal textbook version of the task (canonical) or a structurally matched variant written to reduce lexical and scenario overlap with likely training data (counterfactual), crossed with a persona manipulation. Across five completed paradigms, evaluated on up to three open-weight model families with 41,904 trials released, apparently human-like effects arise through qualitatively different routes rather than one susceptibility: paradigm-label gating with explicit override (Asch conformity, 0 percent blind to 83.3 percent named on gpt-oss-120B), knowledge-dependent signal reliance (anchoring, exactly zero on grounded facts versus near total on invented quantities, a pattern equally consistent with rational use of the only available signal), amplification on novel content under labeling (framing), robust absence (sunk cost), and safety-mediated selection where refusal itself is the primary finding (minimal-group allocation). A one-sentence persona change (agreeableness, framed as an instruction rather than a verified trait manipulation) eliminates, dampens, or reverses these effects depending on which effect it is, arguing against any single response-bias account. We further formalize, and in two cases document empirically, three ways a psychology paradigm can fail to port to LLM agents: persona dominance, population collapse, and safety selection. We argue scalar bias-susceptibility scores obscure this structure and report replication profiles instead.
• Abstract（参考訳）: 人間の心理的影響に関連する反応パターンを生成するLLMは、そのバイアスを持つLLMと同じクレームではない。 それぞれのパラダイムは、プロンプト(名前)またはルーチンタスク(盲目)として明示的にラベル付けされたパラダイムで実行され、タスクのリテラル教科書バージョン(カノニカル)または、語彙とシナリオが重なりそうなトレーニングデータ(数量)と重なり合うように記述された構造的に整合した変種に、ペルソナ操作で渡される。 最終的に完成した5つのパラダイムは、41,904のトライアルがリリースされた3つのオープンウェイトモデルファミリで評価され、明らかに人間のような効果は、1つの感受性よりも定性的に異なる経路で生じる: パラダイムラベルゲーティング 明示的なオーバーライド(アッシュ適合性、0パーセントの盲点、gpt-oss-120Bで命名された83.3%まで)、知識に依存した信号依存(ほとんど発明された量で全くゼロ)、唯一利用可能な信号の合理的使用と一致するパターン、ラベル付けによる新規コンテンツの増幅(フレーミング)、堅牢な不在(サンクコスト)、リファレル自体が主要な発見(極小グループ割り当て)である安全媒介選択(最小グループ割り当て)。 単文ペルソナの変更(認証された特性操作ではなく命令としてフレーム化される)は、どの効果があるかに応じてこれらの効果を排除、減衰、あるいは反転させ、単一の応答バイアスアカウントに反対する。 我々はさらに形式化し、2つのケースにおいて、心理学パラダイムがLLMエージェントへの移植に失敗する3つの方法(ペルソナ支配、人口崩壊、安全選択)を実証的に文書化する。 我々は、スカラーバイアス感受性スコアは、この構造を曖昧にし、複製プロファイルを報告する。

関連論文リスト

• Recovering Lesion Parameters from Aphasic Picture Naming Error Profiles in Large Language Models [6.5285083214226125]
  ニューラルネットワークをトレーニングして、エラープロファイルを摂動パラメータにマップします。 回収されたパラメータを持つ新しいモデルインスタンスは81.4%のケースでターゲットの振る舞いを再現した。 この低層回復と高反ファクト忠実度の間の摂動は、変圧器層間の機能的冗長性と一致している。
  論文  参考訳（メタデータ） (2026-08-05T20:58:49Z)
• Trust, but Don't Verify: Epistemic Blind Spots in LLM Source Evaluation [0.0]
  モデルが生成した統計量を検出する能力を持っているが、マルチソース合成においてこの能力を採用していないことを示す。 具体的には、ソースの影響は、解析テキストの分布レジスタに応答するが、数値の有効性には反応しない方法論登録ゲートによって制御される。
  論文  参考訳（メタデータ） (2026-06-03T20:15:48Z)
• Adversarial Feeds Steer LLM Agent Decisions Against Their Defaults [0.0]
  LLMエージェントは、ソーシャルフィード、検索結果、検索コンテキスト、電子メールキューなどのランク付けされた外部情報ストリームを消費した後、ますます行動する。 モデル,ペルソナ,トピック,最終決定のプロンプトを保持する制御プロトコルを導入し,エージェントが遭遇するポストの構成と順序だけを変化させる。 我々は, 逆降圧, デフォルト飽和, 一方のフィードが真に不確実な決定を下す非対称性の3つの応答機構を同定した。
  論文  参考訳（メタデータ） (2026-05-30T22:43:23Z)
• Algorithmic Fragility and Persona Bias in LLM-Generated Autistic Communication [4.032192350354742]
  安全アライメントは明らかに有害な出力を減少させるが、衛生的で神経ノルミティブなコミュニケーションの表現を不注意に符号化する。 本研究では、この符号化を二重対人書き直しパラダイムを用いて検討し、10大言語モデルに対して、自閉症または神経型ペルソナから自然に発生する自閉症の言説を書き換えるよう促す。 以上より,現在のアライメントトレーニングは,定性的分析によってのみ,ペルソナ特異的な生成的分解を引き起こすことが示唆された。
  論文  参考訳（メタデータ） (2026-05-26T00:05:16Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• The Paradox of Robustness: Decoupling Rule-Based Logic from Affective Noise in High-Stakes Decision-Making [1.0671844383558033]
  大規模言語モデル(LLM)は、小さな急激な摂動に敏感であり、ユーザのバイアスとサイコファン的アライメントの傾向が広く文書化されている。 LLMは人体よりも110～300倍の抵抗性を示すロバスト性ギャップを定量化する。 LLMはクエリのフォーマットの“脆弱”な場合もありますが,決定にバイアスがかかる理由に対して,非常に“安定”しているのです。
  論文  参考訳（メタデータ） (2026-01-29T09:17:05Z)
• Counterfactual Realizability [52.85109506684737]
  本稿では, 正規化可能性の定義, 分布からサンプルを抽出する能力を導入し, 任意の反事実分布が実現可能であるかどうかを判定する完全アルゴリズムを開発する。 本稿では、因果的公正さと因果的強化学習のモチベーション例を用いて、この新たな反ファクト的データ収集フレームワークの意義を説明する。
  論文  参考訳（メタデータ） (2025-03-14T20:54:27Z)
• CausalDiff: Causality-Inspired Disentanglement via Diffusion Model for Adversarial Defense [61.78357530675446]
  人間は、本質的な要因のみに基づいて判断するので、微妙な操作によって騙されるのは難しい。 この観察に触発されて、本質的なラベル因果因子を用いたラベル生成をモデル化し、ラベル非因果因子を組み込んでデータ生成を支援する。 逆の例では、摂動を非因果因子として識別し、ラベル因果因子のみに基づいて予測することを目的としている。
  論文  参考訳（メタデータ） (2024-10-30T15:06:44Z)
• Scaling Data Diversity for Fine-Tuning Language Models in Human Alignment [84.32768080422349]
  人間の好みの調整は、大きな言語モデルが誤解を招くか有害なコンテンツを生成するのを防ぐ。 本研究では, 微調整後のLLMの最終性能と線形相関を示唆し, 即時多様性の新たな定式化を提案する。
  論文  参考訳（メタデータ） (2024-03-17T07:08:55Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。