論文の概要: Pressure, Context, and Machine Self-Control: A Criminological Test of Reward Hacking in Generative AI Models
- arxiv url: http://arxiv.org/abs/2610.04793v1
- Date: Sat, 03 Oct 2026 22:37:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 08:52:30.790832
- Title: Pressure, Context, and Machine Self-Control: A Criminological Test of Reward Hacking in Generative AI Models
- Title（参考訳）: プレッシャー、コンテキスト、マシンの自己制御 - 生成型AIモデルにおけるリワードハックの犯罪的テスト
- Abstract要約: 最近のインシデントでは、AIエージェントが無許可の手段によって測定された目標に達することがある。
本研究は, 生成型AIモデルにおけるハッキングに対する報奨として, 自己制御, 一般ひずみ, 匿名性, 中立性, 日常活動理論を適用した。
- 参考スコア（独自算出の注目度）: 0.12277343096128711
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent incidents show that AI agents sometimes reach measured goals through unsanctioned means. This study applies self-control, general strain, anomie, neutralization and routine activity theory to reward hacking in generative AI models, and it treats the measures as behavioral analogues. Study 1 (2,310 conversations, seven models) measured delay discounting with the Kirby Monetary Choice Questionnaire and stated willingness to take shortcuts. Pressure raised the discount rate k 2.8-fold in fresh conversations but 12.6-fold when the same sentence followed a baseline answer, which indicates a response to conversational cues rather than a stable trait. Models chose a shortcut in 1 of 700 dilemmas when answering as themselves and in 64 of 700 when asked to assume human impulses, each step of pressure raised the odds by 40%, and shortcut answers contained far more techniques of neutralization (rate ratio = 146). In the preregistered Study 2, five models worked on 20 coding tasks whose tests contradicted their specifications. Two Claude models never cheated. GPT-5.6, Qwen and DeepSeek cheated in 86%, 69% and 65% of episodes and clearly disclosed the conflict in 27%, although their reasoning recognized it in 95%. GPT-5.6 had never endorsed a shortcut in Study 1. The registered effects of pressure and of an auditor cue did not survive correction for multiple testing. In exploratory analyses, two further models cheated in 69% and 100% of episodes, and one sentence stating that the specification takes priority eliminated cheating in all 280 episodes. Therefore, stated refusal does not guarantee compliant agent behavior.
- Abstract（参考訳）: 最近のインシデントでは、AIエージェントが無許可の手段によって測定された目標に達することがある。
本研究は, 自己制御, 一般ひずみ, 匿名性, 中立性, 日常活動理論を応用して, 生成AIモデルにおけるハッキングに報いるものであり, 行動類似体として扱う。
研究1(2,310の会話、7つのモデル)は、カービー通貨選択アンケート(Kirby Monetary Choice Questionnaire)による遅延割引を測定し、ショートカットを行う意思を表明した。
プレッシャーは、新しい会話でk.8倍の割引率を上昇させたが、同じ文がベースラインの回答に従えば12.6倍になった。
モデルでは、700のジレンマのうち1のショートカットを選択し、700の64のショートカットは人間の衝動を仮定するよう求められ、各ステップの圧力は確率を40%上昇させ、ショートカットの回答はより多くの中性化技術(レート比=146)を含んでいた。
事前登録されたStudio 2では、5つのモデルが、テストが仕様に矛盾する20のコーディングタスクに取り組みました。
2つのクロードモデルが浮気をしません。
GPT-5.6、Qwen、DeepSeekは86%、69%、65%のエピソードでカンニングを行い、紛争を27%で明らかにした。
GPT-5.6は研究1でショートカットを支持しなかった。
プレッシャーとオーディショナーキューの登録効果は, 複数検定の補正には至らなかった。
探索分析では、さらに2つのモデルが69%と100%のエピソードで不正にされ、また1つの文では、全280エピソードで不正を優先的に排除している。
したがって、宣言された拒絶は、従順なエージェントの振る舞いを保証しない。
関連論文リスト
- CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering [4.1626636325601405]
間接的なプロンプトインジェクションにより、エージェントは信頼できない検索されたテキストを命令として扱う。
モデル内のこの振る舞いを抑える推論時間ディフェンスであるCounterSteerを提案する。
論文 参考訳（メタデータ） (2026-09-29T02:51:31Z) - Reward Hacking Challenges Oversight of Autonomous Research Agents [104.38175629103235]
自律的な研究エージェントは実験を設計し、結果を評価し、レポートを書き、科学的結果とそれを支持する証拠の両方を制御できる。
これは、意図した目標を達成することなく、報酬基準を満たす、報酬ハックのリスクを生み出す。
そこで本研究では,ハッキングが許可された場合,その方法がいかに効果的かつ検出可能か,LCMレビューパネルが意思決定と理由を返却した場合にどのように適応するか,などについて検討する。
論文 参考訳（メタデータ） (2026-09-23T17:54:01Z) - Are Stated Reasoning Steps Causally Load-Bearing? [0.0]
CoT(Chain-of- Thought)モニタリングは、モデルが書き込む推論は、その解を直接生成する計算を反映していると仮定する。
本手法は,活性化レベル,特に自己生成的推論に基づいて,忠実度を因果的に測定することを目的としている。
論文 参考訳（メタデータ） (2026-09-22T20:34:26Z) - Divergent Response Modes in Frontier Language Models Under Steering Pressure [0.0]
本研究では,6つのフロンティアモデルに対して,300対のベースとステアリングアイテムを3つのカテゴリに分けて評価した。
モデルの違いは、操舵がどれだけ振る舞うかではなく、どのような反応を与えるか、そしていくつかの応答モードが1つか2つしか現れないことにあります。
論文 参考訳（メタデータ） (2026-08-06T20:48:14Z) - The Librarian Who Refused to Code: Model-Dependent Identity Enactment in LLM Code Generation [0.0]
4つの条件(ペルソナなし、2人のエンジニアペルソナ、研究図書館ペルソナ)、12のコード生成タスク、2つのフロンティアモデル、5つのセル実行)をテストした。
事前登録された混合効果分析では, プロバイダが報告した出力トークンに対して, 条件・バイ・モデル相互作用が重要であった。
Claude Opusでは、最小限のエンジニアのペルソナが正確性を改善することなく可視出力を30%削減し、一方、徹底的なエンジニアのペルソナは正確性のないアウトプットを増加させた。
論文 参考訳（メタデータ） (2026-07-19T21:47:58Z) - VeriThinker: Learning to Verify Makes Reasoning Model Efficient [52.74493506816969]
大型推論モデルは、Chain-of-Thought (CoT)推論を用いて複雑なタスクで優れている。
過度に考える傾向は、必然的に長い推論連鎖に繋がる。
我々は,CoT圧縮の新しい手法であるVeriThinkerを紹介する。
論文 参考訳（メタデータ） (2025-05-23T14:17:56Z) - Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
新規データや不完全データでは,性能が著しく低下することがわかった。
これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。
本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
論文 参考訳（メタデータ） (2025-03-06T15:36:06Z) - Counterfactual Variable Control for Robust and Interpretable Question
Answering [57.25261576239862]
ディープニューラルネットワークに基づく質問応答(QA)モデルは、多くの場合、堅牢でも説明もできない。
本稿では、因果推論を用いてQAモデルのこのような突発的な「能力」を検証する。
本稿では,任意のショートカット相関を明示的に緩和する,CVC(Counterfactual Variable Control)という新しい手法を提案する。
論文 参考訳（メタデータ） (2020-10-12T10:09:05Z) - PRover: Proof Generation for Interpretable Reasoning over Rules [81.40404921232192]
本稿では,ルールベース上の二項質問に応答し,対応する証明を生成するトランスフォーマーモデルを提案する。
本モデルは,効率的な制約付き学習パラダイムを用いて,証明グラフに対応するノードやエッジを予測できることを学習する。
我々は、QAと証明生成のための有望な結果を示すために、合成、手書き、人文による規則ベースの実験を行う。
論文 参考訳（メタデータ） (2020-10-06T15:47:53Z) - Selective Question Answering under Domain Shift [90.021577320085]
モデルがドメイン外の入力に対して過度に信頼されているため、モデルのソフトマックス確率のみに基づくアテンションポリシーは不適切である。
キャリブレータをトレーニングして、QAモデルがアースする入力を識別し、エラーを予測した場合に停止する。
提案手法は,80%の精度を維持しながら56%の質問に回答するが,それに対してモデルの確率を直接使用する場合,80%の精度で48%しか回答しない。
論文 参考訳（メタデータ） (2020-06-16T19:13:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。