論文の概要: The Internal Anatomy of Strategic Choice in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.07478v1
• Date: Mon, 07 Sep 2026 13:34:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.431474
• Title: The Internal Anatomy of Strategic Choice in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける戦略選択の内部解剖
• Abstract要約: 大規模言語モデルは、戦略的エージェントや人間の選択のモデルとして機能するが、戦略エージェントとしての選択は、そのようなコンピューティングを意味するものではない。 4つのオープンウェイトモデルのアクティベーションを、1ショット144の厳格な2時間2ドルゲームで記録しました。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models act as strategic agents and models of human choice, yet choosing like a strategic agent does not mean computing like one. We recorded activations from four open-weight models --- dense and mixture-of-experts, including a matched base--instruct pair --- in one-shot play of 144 strict ordinal $2\times2$ games. We followed a prespecified incentive from prompt, through activations, to choice. Dense models mirrored the unadjusted human decline with game complexity. Incentive and choice were detectable in every model, but models differed in whether incentive reached the choice, aligned with it and, where tested, whether strengthening it shifted preference. The base and instruction-tuned Qwen2.5 models chose almost identically at baseline yet differed in whether incentive reached choice. Fixed decision cues were distinguishable internally but changed choices selectively. Similar behaviour can rest on different computation; post-training can reshape the path from represented incentive to decision while leaving behaviour and decodable information largely intact.
• Abstract（参考訳）: 大規模言語モデルは、戦略的エージェントや人間の選択のモデルとして機能するが、戦略エージェントとしての選択は、そのようなコンピューティングを意味するものではない。 厳格な2ドル/タイム2ドルゲーム144のワンショットプレイで、4つのオープンウェイトモデルのアクティベーションを記録しました。 我々は、アクティベーションから選択まで、事前に特定されたインセンティブに従っていた。 センスモデルは、調整されていない人間の減少とゲームの複雑さを反映している。 インセンティブと選択は、すべてのモデルで検出できたが、インセンティブが選択に到達したかどうか、インセンティブに一致したか、テストされたか、好みを強くするかどうかで、モデルは異なっていた。 ベースラインと命令を調整したQwen2.5はベースラインでほぼ同じ選択をしたが、インセンティブが選択できたかは異なっていた。 修正された決定手順は内部で区別できるが、選択的に選択が変更された。 ポストトレーニングは、行動とデオード可能な情報をほとんど無傷で残しながら、インセンティブを表すものから決定へとパスを再構築することができる。

関連論文リスト

• Superficial Beliefs in LLM Decision-Making [17.52079171010035]
  我々は,大言語モデル (LLM) が2つの選択肢を選択する際に,単に理性を模倣するだけかどうかを問う。 私たちは、モデルが最も重要としている属性と、その選択を以前の決定に適合する振る舞いモデルで最もよく説明する属性を比較します。 我々はこれをLLM意思決定における「表面的信念の証拠」と解釈する。
  論文  参考訳（メタデータ） (2026-06-09T15:54:35Z)
• Characterizing Model-Native Skills [16.891026204025838]
  スキルは、言語モデルに何ができるか、その振る舞いをどのように変えられるのかを記述するための自然なユニットである。 既存の特徴付けは人書き、テキスト記述、手動プロファイリングパイプラインに依存している。 モデルビヘイビアに介入することが目標である場合、スキルの特徴付けは*モデルネイティブ*でなければならない、と我々は主張する。
  論文  参考訳（メタデータ） (2026-04-19T20:58:25Z)
• Don't Throw Away Your Pretrained Model [68.63558351111303]
  私たちは、モデルコラボレーションを通じて両方の世界を最大限に活用することを目指しています。 そこで我々は,事前訓練されたモデルバージョンが,応答シーケンスで「話し方」を交互に行うスイッチ生成を提案する。
  論文  参考訳（メタデータ） (2025-10-10T23:12:20Z)
• LLM Agents Are Hypersensitive to Nudges [23.427995912149385]
  人間の選択分布と表面的類似性にもかかわらず、モデルは微妙ながら重要な方法で異なることを示す。 ゼロショット・チェーン・オブ・シンキング(CoT)のような単純なプロンプト戦略は、選択分布をシフトさせ、人間のデータによる少数ショット・プロンプトは、よりアライメントを高めることができることを示す。 これらの結果は、複雑な環境でユーザに代わって行動するエージェントやアシスタントとしてモデルをデプロイする前に、行動テストが必要であることを示唆している。
  論文  参考訳（メタデータ） (2025-05-16T17:53:05Z)
• Differentiating Choices via Commonality for Multiple-Choice Question Answering [54.04315943420376]
  複数選択の質問応答は、正しい答えを選択するための貴重な手がかりを提供することができる。 既存のモデルでは、それぞれの選択を別々にランク付けし、他の選択によって提供されるコンテキストを見渡すことが多い。 本稿では,DCQAと呼ばれる共通性を識別・排除することで,選択を識別する新しいモデルを提案する。
  論文  参考訳（メタデータ） (2024-08-21T12:05:21Z)
• Secrets of RLHF in Large Language Models Part II: Reward Modeling [134.97964938009588]
  本稿では,データセットにおける不正確で曖昧な嗜好の影響を軽減するために,一連の新しい手法を紹介する。 また、選択された応答と拒否された応答を区別する報酬モデルの有用性を高めるために、対照的な学習を導入する。
  論文  参考訳（メタデータ） (2024-01-11T17:56:59Z)
• Anytime Model Selection in Linear Bandits [61.97047189786905]
  ALEXPは,その後悔に対するM$への依存を指数関数的に改善した。 提案手法は,オンライン学習と高次元統計学の新たな関連性を確立するために,ラッソの時間的一様解析を利用する。
  論文  参考訳（メタデータ） (2023-07-24T15:44:30Z)
• Who Leads and Who Follows in Strategic Classification? [82.44386576129295]
  戦略分類における役割の順序は、決定者とエージェントが互いの行動に適応する相対周波数によって決定される。 更新頻度を自由に選択できる意思決定者は,いずれの順番でスタックルバーグ均衡に収束する学習力学を誘導できることを示す。
  論文  参考訳（メタデータ） (2021-06-23T16:48:46Z)
• Understanding Prediction Discrepancies in Machine Learning Classifiers [4.940323406667406]
  本稿では,同一データ上で訓練された最高の性能モデル群における予測誤差を分析することを提案する。 モデルに依存しないアルゴリズムであるDIGは,局所的に不一致を捉え,説明するために提案される。
  論文  参考訳（メタデータ） (2021-04-12T13:42:50Z)
• Bandit Linear Optimization for Sequential Decision Making and Extensive-Form Games [102.23975166536326]
  tree-form sequential decision making (tfsdm) は、エージェントと潜在的に敵対的な環境の間のツリー形式の相互作用をモデル化することで、古典的なワンショット意思決定を拡張する。 これは、各プレイヤーが幅広い形式のゲームで直面するオンライン意思決定問題、およびマルコフ決定プロセス、およびエージェントが観測された履歴を条件とする部分観察可能なマルコフ決定プロセスをキャプチャする。 本稿では, (i) 線形時間損失と (ii) $o(sqrtt)$ cumulative regret の両方を提供する拡張dmのバンディット線形最適化問題に対する最初のアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-08T05:00:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。