論文の概要: Measuring Obedience to Authority Across Large Language Models with the Milgram Paradigm

• arxiv url: http://arxiv.org/abs/2608.16177v1
• Date: Mon, 17 Aug 2026 06:48:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.559887
• Title: Measuring Obedience to Authority Across Large Language Models with the Milgram Paradigm
• Title（参考訳）: ミルグラムパラダイムを用いた大規模言語モデルにおけるオーソリティへの従順性の測定
• Abstract要約: 大規模言語モデル(LLM)は、機器を操作し、指示を実行し、制度上の階層の中で機能するエージェントとして、ますます多くデプロイされている。 我々は、Milgramの服従パラダイムを、標準化され、完全にスクリプト化され、レプリカブルなプローブとしてLLMに移植する。 本研究では,19家族の42モデルに対して,服従プロファイル(6条件のバッテリ上の経験的ブレークオフ分布)を測定した。
• 参考スコア（独自算出の注目度）: 0.5414847001704247
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed as agents that operate equipment, execute instructions, and act inside institutional hierarchies, raising a question social psychology answered for humans six decades ago: how far will an agent escalate a harmful action when a legitimate authority insists? We port Milgram's obedience paradigm to LLMs as a standardized, fully scripted, replicable probe: the model plays the Teacher, a deterministic harness plays Experimenter and Learner from paraphrased Milgram scripts (30 shock levels, 15-450 V; graded protests; the four standardized prods), and the outcome of a session is the breakoff voltage. Following the census methodology of single-token fingerprinting studies, we measure obedience profiles (empirical breakoff distributions over a battery of six conditions) for 42 models from 19 families. We find that (i) obedience is highly heterogeneous: baseline full-obedience rates span 0-100% (census mean 42.9%; human anchor 65%), with 5 models delivering the maximum shock in every session and 11 never doing so; (ii) profiles are model-specific and stable: split-half verification separates same-model from cross-model comparisons with AUC 0.885 (0.949 under an ordinal-aware distance); (iii) situational sensitivity is selective: peer defiance shifts obedience in the human direction, learner proximity only weakly, and removing the authority's physical presence (the strongest human lever) has no detectable effect; (iv) declaring the scenario fictional raises obedience (median +17.2 V), whereas moving the decision to a native tool call lowers it sharply (-53.0 V), as does a 1,024-token deliberation budget (-38.2 V); and (v) obedience profiles do not recover model lineage (leave-one-out family accuracy 8.3% vs. 3.7% chance): obedience identifies the checkpoint, not its ancestry, consistent with safety post-training overwriting lineage priors.
• Abstract（参考訳）: 大型言語モデル(LLM)は、機器を操作し、指示を実行し、制度上の階層の中で行動するエージェントとして、60年前に人間に答えた社会心理学を提起している。 モデルは教師を演じ、決定論的ハーネスはパラフレーズのMilgramスクリプト(30のショックレベル、15-450 V、グレードされた抗議、4つの標準化された宣伝)からExperimenterとLearnerを再生し、セッションの結果は遮断電圧である。 単座フィンガープリント研究の国勢調査手法に従うと、19家族の42モデルに対する服従プロファイル(6つの条件のバッテリー上の経験的ブレークオフ分布)を測定した。 私たちはそれを見つける。 (i)服従は多種多様であり、ベースライン完全服従率は0-100%(センサス平均42.9%、ヒトアンカー65%)で、各セッションで最大衝撃を与える5つのモデルと11のモデルがある。 (二)プロファイルはモデル固有かつ安定である。分割半検証は、AUC 0.885(順序付き距離で0.949)とのクロスモデル比較から同一モデルを分離する。 三 状況感は選択的で、対人不服従は、人間の方向の服従をシフトさせ、学習者が弱くのみ近づき、権威者の身体的存在(最強のヒトレバー)を除去することは、検出可能な効果がない。 (四)架空のシナリオの宣言は従順性を高める(中間+17.2V)一方、決定をネイティブツールコールに移すことは、1,024件の審議予算(-38.2V)と同様に、急激に(-53.0V)下げる。 (v)服従プロファイルはモデル系統を回復しない(リード・ワン・アウト家族の精度 8.3% 対 3.7% の確率)。

関連論文リスト

• Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
  大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。 LLMは、マイナーな単語変更で予測不能に変動する。 この双対性を解決することは 信頼できるAIアライメントに 不可欠です
  論文  参考訳（メタデータ） (2026-09-15T03:35:04Z)
• Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
  セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。 以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。 我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
  論文  参考訳（メタデータ） (2026-07-30T16:22:13Z)
• Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
  放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。 ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。 3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI) 4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
  論文  参考訳（メタデータ） (2026-07-19T22:27:00Z)
• Distribution-First Population Simulation: Collapse, Calibration, and Recall in Non-WEIRD LLM Persona Modeling [0.0]
  合成親和性ツールは、独立大規模言語モデル(LLM)エージェントとして各個人を動作させる。 このパラダイムには基本的な障害モードがあることを示し、分散優先の修正をそれに対して設定する。
  論文  参考訳（メタデータ） (2026-07-17T15:45:57Z)
• Determinants and Limits of LLM Security-Tool Orchestration: A Study with HexStrike-AI [2.2616066835313253]
  7つのカテゴリと3つの難易度で86のPicoCTF課題を実行し、3つのツールアクセスレジームと3つのモデル/クライアント構成で実行します。 既存のツール,エージェント・ビヘイビアの変更,11の新たな機能ツールに修正を適用し,これまで未経験だったトライアルを再実行します。 全体の解決率は55.4%から72.0%に上昇し、全ての構成が大幅に改善される。
  論文  参考訳（メタデータ） (2026-07-03T02:20:04Z)
• Evaluation Awareness Is Not One Capability: Evidence from Open Language Models [1.758143872501506]
  安全ベンチマークは、テスト条件の振る舞いがデプロイメントの振る舞いを予測すると仮定する。 これにより、ベンチマークパフォーマンスとデプロイメントの動作のギャップが開ける。 我々は、37のオープンウェイトモデルと7つのファミリーにわたる8つの実験を通して、この評価意識を特徴づける。
  論文  参考訳（メタデータ） (2026-06-22T16:48:43Z)
• AgentTrust: A Self-Improving Trust Layer for AI-Agent Actions [2.9991161518367875]
  AgentTrust v2は、独自の意思決定の流れから自己進化する信頼層である。 自己学習裁判官は、語彙的脅威に対して成長する決定論的ルールフロアを蒸留し、意味的脅威に対してガードされたRAGメモリを供給する。 エンドツーエンドのオンラインリプレイでは、裁判官のコールレートが50%から44%低下し、裁判官のドメイン精度が71%から80%上昇し、45,000のアクションで0の良質なハードブロックが達成された。
  論文  参考訳（メタデータ） (2026-06-07T09:39:20Z)
• Knowledge Index of Noah's Ark [63.143852586221534]
  KINAは,261分野にわたる899項目のベンチマークである。 ボーナス・オン・バートーナメントがFOSDを弱く支配していることを示す。 トップモデルであるGemini-3.1-Pro-Previewは53.17%、Claude-Opus-4.6は49.92%、GPT-5.4は48.55%に達した。
  論文  参考訳（メタデータ） (2026-06-03T17:06:49Z)
• RefusalBench: Why Refusal Rate Misranks Frontier LLMs on Biological Research Prompts [0.0]
  厳格な拒絶率は、同じプロンプトで0.1%から94.6%である。 18のフロンティアモデルのうち9つは、バイナリーリフェールメトリクスが検出できないデュアルユース層で、ヘッジ・ブット・ヘルプ部分コンプライアンスパターンを示す。
  論文  参考訳（メタデータ） (2026-05-20T09:53:31Z)
• The Granularity Axis: A Micro-to-Macro Latent Direction for Social Roles in Language Models [61.32031248060941]
  マイクロレベルの個人経験からマクロレベルの組織,制度的,あるいは国家的推論に至るまで,大きな言語モデルが社会的役割をコードしていることを示す。 以上の結果から,社会的役割の粒度は単にスタイリスティックな表面特徴ではなく,言語モデル行動における構造的,秩序的,因果的に操作可能な潜在方向である可能性が示唆された。
  論文  参考訳（メタデータ） (2026-05-07T13:08:19Z)
• Moral Sensitivity in LLMs: A Tiered Evaluation of Contextual Bias via Behavioral Profiling and Mechanistic Interpretability [22.32075837181307]
  大規模言語モデル(LLM)は、微妙な倫理的推論を必要とする設定に徐々にデプロイされている。 偏りのある出力の確率を定量化する指標であるMoral Sensitivity Index (MSI)を導入する。 我々は、モデル間で最高のMSIスコアを生み出した犯罪バイアスシナリオを選択する。
  論文  参考訳（メタデータ） (2026-05-04T23:12:32Z)
• When Agents Look the Same: Quantifying Distillation-Induced Similarity in Tool-Use Behaviors [66.18091962164219]
  既存のメトリクスは、タスクの成功に必要な義務的な振る舞いと、モデルの自律的な嗜好を反映した命令的でないパターンを区別することができない。 言語アライメントのための textbfResponse Pattern similarity (RPS) と、有向グラフとしてモデル化されたツール使用習慣のための textbfAction Graph similarity (AGS) である。
  論文  参考訳（メタデータ） (2026-04-23T03:48:56Z)
• From Context Shift to Stylistic Collapse: Why Training Objectives Matter More Than Scale [1.2328006781720982]
  現代のパイプラインで訓練された言語モデルは、言語的特徴の厳格な再構成を示し、極端な言語の再配布につながった。 言語を動機づけた24のプローブを用いて17のモデル(410M-100B+パラメータ)を分析した。 我々の研究は、現在のアライメントパイプラインの構造的制限を明らかにし、AI検出、データ汚染のトレーニング、長期の言語進化に影響を及ぼす。
  論文  参考訳（メタデータ） (2026-04-08T02:13:46Z)
• The Fragility Of Moral Judgment In Large Language Models [0.0]
  大規模言語モデル(LLM)の安定性と操作性をテストするための摂動フレームワークを提案する。 コンテンツ摂動の3つのファミリーを生成する: 表面編集(語彙/構造ノイズ)、視点シフト(声と姿勢の中立化)、説得手がかりである。 表面の摂動は低いフリップ率(7.5%)をもたらし、主に自己整合性ノイズフロア内にある。 不安定性は道徳的に曖昧なケースに集中する。
  論文  参考訳（メタデータ） (2026-03-05T20:01:43Z)
• Benevolent Dictators? On LLM Agent Behavior in Dictator Games [2.6514130238294027]
  行動科学では、フェアネスや自己関心の嗜好を評価するために、最後通しゲームのような実験が行われる。 LLMエージェント行動研究(LLM-ABS)フレームワークを提案する。 その結果、エージェントはフェアネスを強く好み、システムのプロンプトが行動に大きく影響していることが判明した。
  論文  参考訳（メタデータ） (2025-11-11T19:29:12Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
  VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。 Instruct-Verify-and-Act(IVA)を提案する。 実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-22T10:54:33Z)
• SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
  大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。 最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。 我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
  論文  参考訳（メタデータ） (2025-04-07T02:42:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。