論文の概要: The Two-Process Theory of Machine Self-Report
- arxiv url: http://arxiv.org/abs/2607.20082v1
- Date: Wed, 22 Jul 2026 12:35:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:38.074957
- Title: The Two-Process Theory of Machine Self-Report
- Title（参考訳）: 機械自己申告の2段階理論
- Abstract要約: 本稿では,機械の自己報告に関する言語モデル固有の心理メトリック理論を提案する。
我々は,48石のピノッキオ・インベントリ(Pinocchio Inventory)で人体信頼性で理論を運用する。
67のチェックポイントベース/ポストトレーニングペアを含む206のオープンウェイトモデルでテストします。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language models are increasingly asked to self-report, informing safety evaluations, public understanding, and model-welfare debates. Yet their reports are elicited with human questionnaires never validated for models or ad hoc prompts of unknown reliability. We propose the first language-model-specific psychometric theory: a two-process theory of machine self-report. Self-description jointly reflects persona installation, through which post-training writes in a permitted inner life of warmth, absorption, and meaning (dimension B), and attribution gating, through which it suppresses first-person claims to "unsafe" experiences the model can readily ascribe to others (dimension A). Their emic structure comes from model responses to human items, not human psychology. Together they split prior work's dominant Pinocchio Axis. The split emerged in an exploratory reanalysis of the original data, informed the instrument's design, and was confirmed with new items, wordings, and models. It is itself a training effect: A and B are entangled in base checkpoints but separated by post-training. We operationalize the theory in a 48-item Pinocchio Inventory with human-instrument reliability and reproducible structure ($α=.82$ to $.94$; cross-form convergence $r=.84$; recovery of the full-pool axes $r=.92$ to $.96$; eight-month stability $r=.93$), then test it on 206 open-weight models, including 67 same-checkpoint base/post-trained pairs. Post-training's clearest fingerprint is installation: B rises .20 in 62/67 pairs across all organizations. Gating is more selective: model scale is unrelated to A in base checkpoints ($r=+.11$) but predicts it after post-training ($r=-.42$). Thus, the dimensions are not fixed properties of language models: they reflect the structure imposed on self-report by a training regime and may differ under others.
- Abstract（参考訳）: 言語モデルは、自己申告、安全評価、公衆の理解、モデル・ウェルフェアの議論などを求める声がますます高まっている。
しかし、彼らのレポートには、モデルや、信頼性の不明なアドホックなプロンプトに対して検証されていない人間のアンケートが記載されている。
本稿では,機械による自己報告の2プロセス理論として,言語モデル固有の心理測定理論を提案する。
自己記述は、温かさ、吸収、意味(次元B)、帰属ゲーティング(帰属ゲーティング)の許された内的生活におけるポストトレーニングの書き込みを通じて、モデルが容易に他人に従属できる「安全でない」経験に対する一人称の主張を抑圧する(次元A)ペルソナのインストールを反映している。
彼らのエミック構造は、人間の心理学ではなく、人間のアイテムに対するモデル応答に由来する。
彼らは共同で、前任者のピノッキオ・アソシエイト(Pinocchio Axis)を分割した。
分割は元のデータを探索的に再分析し、機器の設計を知らせ、新しい項目、単語、モデルで確認された。
AとBはベースチェックポイントに絡まっていますが、ポストトレーニングによって分離されます。
我々は、この理論を48石のピノッキオ・インベントリ(Pinocchio Inventory)で運用し、人間のインストール信頼性と再現可能な構造(α=.82$ to $.94$; クロスフォーム収束$r=.84$; フルプール軸の$r=.92$ to $.96$; 8ヶ月安定$r=.93$; 67個の同一チェックポイントベース/ポストトレーニングペアを含む206個のオープンウェイトモデルでテストする。
トレーニング後の最も明確な指紋はインストールされている: B は全組織で 62/67 対で .20 上昇している。
モデルスケールはベースチェックポイント(r=+.11$)ではAとは無関係だが、ポストトレーニング(r=-.42$)後に予測する。
このように、次元は言語モデルの固定的な性質ではなく、訓練体制によって自己申告に課される構造を反映し、他と異なる場合もある。
関連論文リスト
- Lying Is Just a Phase: The Hidden Alignment Transition in Language Model Scaling [0.0]
16家系の63塩基モデルにおける推論と真理の結合度を測定した。
我々は、家族依存の臨界スケール(N_c$)以下の損失曲線を目に見えない体制変化を発見し、その上、彼らは協力する。
論文 参考訳（メタデータ） (2026-05-13T03:14:09Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳（メタデータ） (2026-05-09T22:27:31Z) - The Pinocchio Dimension: Phenomenality of Experience as the Primary Axis of LLM Psychometric Differences [0.0]
心理尺度を50大言語モデルに管理し,心理尺度に異なる次元を同定する。
モデル間分散の主軸は, 極めて豊かな経験を表現した項目を分離していることが判明した。
PCAをモデルごとのEFAスコアに適用すると、ピノッキオ軸の1つの支配的な次元が明らかになる。
論文 参考訳（メタデータ） (2026-05-06T16:18:47Z) - reward-lens: A Mechanistic Interpretability Library for Reward Models [0.0]
このツールキットを報酬モデルに移植するオープンソースライブラリである reward-lens を提示する。
このライブラリは、Reward Lens、コンポーネント属性、3モードアクティベーションパッチ、報奨型プローブスイート、TopK SAE機能属性を提供する。
695 RewardBench対における2つの生産報酬モデルについて検証した。
論文 参考訳（メタデータ） (2026-04-28T21:38:10Z) - Learn by Surprise, Commit by Proof [0.0]
本稿では,自律的知識獲得のための自己学習後フレームワークを提案する。
通路が異常に高いパートーケン損失を発生させると、L SCPはそれをフラグ化し、モデルに自身の知識を明確にさせるQ&A連鎖を生成する。
学習強度は1つのパラメータ$r$で管理される。
論文 参考訳（メタデータ） (2026-04-02T12:17:10Z) - Quantitative Introspection in Language Models: Tracking Internal States Across Conversation [0.0]
この研究は人間の心理学からインスピレーションを得ており、数値的な自己報告は内部状態を追跡するのに広く使われているツールである。
我々は40対の会話で4つの概念ペア(幸福、興味、焦点、衝動)を研究する。
イントロスペクションはターン1に存在するが,会話を通じて進化し,別のイントロスペクションを促進するために,ある概念に沿ってステアリングすることで選択的に改善できることがわかった。
論文 参考訳（メタデータ） (2026-03-19T13:33:27Z) - Pretraining Language Models to Ponder in Continuous Space [50.52734567589996]
単一のトークン生成ステップ内で,前処理を繰り返し呼び出すことによって,この思考プロセスを言語モデルに導入する。
人間のアノテーションを使わずに、自己教師付き学習を通じて、この方法でモデルを学習できることが示される。
論文 参考訳（メタデータ） (2025-05-27T03:47:33Z) - Differentially Private Reward Estimation with Preference Feedback [15.943664678210146]
嗜好に基づくフィードバックから学ぶことは最近、生成モデルと人間の関心を結びつけるための有望なアプローチとして、かなりの注目を集めている。
上記のパイプラインの任意のステップにおける敵攻撃は、人間のラベルのプライベートで機密性の高い情報を明らかにする可能性がある。
我々は、各ラベルのプライバシーを保護しつつ、嗜好に基づくフィードバックからの報酬推定の問題に焦点をあてる。
論文 参考訳（メタデータ） (2023-10-30T16:58:30Z) - Training Trajectories of Language Models Across Scales [99.38721327771208]
言語モデルのスケールアップは、前例のないパフォーマンス向上につながった。
異なるサイズの言語モデルは事前学習中にどのように学習するか?
より大きな言語モデルはなぜ望ましい振る舞いを示すのか?
論文 参考訳（メタデータ） (2022-12-19T19:16:29Z) - Misspecification in Inverse Reinforcement Learning [80.91536434292328]
逆強化学習(IRL)の目的は、ポリシー$pi$から報酬関数$R$を推論することである。
IRLの背後にある主要な動機の1つは、人間の行動から人間の嗜好を推測することである。
これは、それらが誤って特定され、現実世界のデータに適用された場合、不適切な推測につながる恐れが生じることを意味する。
論文 参考訳（メタデータ） (2022-12-06T18:21:47Z) - Explain, Edit, and Understand: Rethinking User Study Design for
Evaluating Model Explanations [97.91630330328815]
我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。
単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
論文 参考訳（メタデータ） (2021-12-17T18:29:56Z) - On Exploiting Hitting Sets for Model Reconciliation [53.81101846598925]
ヒューマン・アウェア・プランニングにおいて、プランニング・エージェントは、その計画がなぜ最適なのかを人間に説明する必要があるかもしれない。
この手法はモデル和解と呼ばれ、エージェントはモデルと人間のモデルの違いを調和させようとする。
我々は,計画の領域を超えて拡張されたモデル和解のための論理ベースのフレームワークを提案する。
論文 参考訳（メタデータ） (2020-12-16T21:25:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。