論文の概要: Beyond Successful Play: Diagnosing Opponent Modeling in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.17310v1
• Date: Mon, 12 Oct 2026 19:08:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.444608
• Title: Beyond Successful Play: Diagnosing Opponent Modeling in Large Language Models
• Title（参考訳）: 成功したプレイを超えて: 大規模言語モデルにおける反対モデリングの診断
• Abstract要約: 言語モデルエージェントは、相互作用によって振る舞いが変化する他の人に適応することが期待される。 本稿では,アルゴリズムに逆らって隠れて探すためのベンチマークと診断フレームワークを提案する。 いくつかのテスト環境では遊びが改善するが、診断では相手の予測や信念追跡の限界が明らかになる。
• 参考スコア（独自算出の注目度）: 5.075049666153032
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language-model agents are expected to adapt to others whose behavior changes through interaction. Yet adaptation may rely on learned behavioral patterns rather than theory of mind (ToM): the ability to infer others' mental states, including beliefs and intentions. We introduce a benchmark and diagnostic framework for repeated hide-and-seek against algorithmic opponents with explicitly defined recursive belief updates. Their ground-truth beliefs and action probabilities let us distinguish adaptive play, action prediction, and belief tracking through live interaction, fixed-history evaluation, and controlled information interventions. With structured elicitation and behavioral supervised fine-tuning (SFT), we find improved play in several tested settings, but diagnostics reveal limitations in opponent prediction and belief tracking. We test whether supervising opponent action probabilities can address this predictive deficit in Qwen2.5-7B-Instruct. Predictions improve when the model is told the opponent's type and parameter settings, but become less accurate when it must infer the opponent from history without this information. Training on examples that also omit these details reduces the gap, although improvements vary across opponents. Is this limitation specific to smaller open-weight models, or does it also appear in a frontier model? GPT-5.4 also benefits from correct opponent beliefs: supplying them improves its predictions and choices, whereas deeper explicit belief reports and self-generated memory do not consistently improve forecasting from interaction history. This contrast suggests that using useful belief information is easier than inferring it autonomously, even for a frontier model. Together, our findings distinguish improved play and action prediction from reliable belief tracking, providing a framework for evaluating mentalizing and testing targeted improvements.
• Abstract（参考訳）: 言語モデルエージェントは、相互作用によって振る舞いが変化する他の人に適応することが期待される。 しかし適応は、心の理論(ToM)よりも学習された行動パターン(信念や意図を含む他者の精神状態を推測する能力)に依存している可能性がある。 本稿では,再帰的信念更新を明示的に定義したアルゴリズムに対して,隠蔽を繰り返すためのベンチマークと診断フレームワークを提案する。 彼らの根底からの信念と行動確率は、適応的な遊び、行動予測、信念追跡を、生きた相互作用、固定的歴史評価、制御された情報介入を通じて区別することができる。 構造化エリケーションと行動制御微調整 (SFT) により, いくつかのテスト環境での遊びの改善が見られたが, 診断の結果, 相手の予測や信念の追跡に限界があることが判明した。 我々は,Qwen2.5-7B-Instructにおけるこの予測的欠陥に,相手行動確率の監視が対処できるかどうかを検証した。 モデルが相手のタイプやパラメータの設定を伝えると予測が改善するが、この情報なしで相手を歴史から推測する必要がある場合には精度が低下する。 これらの詳細を省略した例のトレーニングはギャップを減らしますが、改善は相手によって異なります。 この制限はより小さなオープンウェイトモデルに特化していますか? GPT-5.4は、正反対の信念の恩恵を受ける: それらを供給することは予測と選択を改善するが、深い明示的な信念報告と自己生成記憶は相互作用の歴史からの予測を一貫して改善しない。 この対比は、フロンティアモデルであっても、有用な信念情報を使用することは、それを自律的に推測するよりも容易であることを示唆している。 本研究は,遊びと行動予測の改善を信頼性のある信念追跡と区別し,目標とした改善の精神化とテストを行うための枠組みを提供する。

関連論文リスト

• Action-Consequence Alignment for Reliable Planning and Self-Improving in Latent World Models [50.093046379641315]
  学習された世界モデルが類似した行動結果対応を維持しているかどうかを検討する。 その結果、近くの代替手段は、記録された目標から遠く離れた物理的結果を生み出すにもかかわらず、より低い予測誤差を得られることが示された。 これらの結果は、予測学習と信頼性プランニングをブリッジする実践原則として、アクション・エフェクト・アライメントを支援する。
  論文  参考訳（メタデータ） (2026-10-03T14:12:16Z)
• Better Behavioral Prediction, More Faithful Model Ablations? Evidence from Sequential Choice [0.2538209532048867]
  認知を説明するために予測モデルを使用するには、正確な行動予測以上のものが必要である。 入力アブレーションは、モデルから情報を取り除き、結果のパフォーマンス変化を行動の重要性の証拠として解釈する、魅力的なルートを提供する。 我々は、既知の生成ポリシーを持つ2つの合成逐次バンディットタスクでテストする。
  論文  参考訳（メタデータ） (2026-09-28T18:38:49Z)
• TimeLitmus: A Diagnostic Benchmark for Cross-Modal Understanding and Explanation Faithfulness in Event-Conditioned Time-Series Prediction [48.104261148149654]
  TimeLitmusは、イベント条件付き時系列予測における相互理解と忠実さの説明のための診断ベンチマークである。 TimeLitmusには財務と交通の計4,856件の評価記録がある。
  論文  参考訳（メタデータ） (2026-09-21T14:38:49Z)
• World Models for Embodied Intelligence: From Plausible to Controllable to Actionable [100.13060753774657]
  世界モデルは、隠れた状態を維持し、結果を予測し、介入を比較し、実行が期待から外れたときに適応することによって、インテリジェンスにおける知覚と意思決定を結びつける。 これは、どの予測能力が振る舞いを改善するかという、中心的な疑問を提起する。 可塑性モデルは、タスク関連時間的・幾何学的・物理的構造を保存し、制御可能なモデルは、介入がどのように構造を変えるかを予測し、アクション可能なモデルは、予測を計画、行動、学習、評価、検証、回復、データ選択において測定可能な利得に変換する。
  論文  参考訳（メタデータ） (2026-09-15T06:22:42Z)
• Mode Collapse Happens: Evaluating Critical Interactions in Joint Trajectory Prediction Models [2.9498907601878974]
  モード崩壊,モードの正しさ,カバレッジの指標を導入し,予測の逐次的次元を強調した。 我々のフレームワークは、研究者が新たな洞察を得て、より一貫性があり正確な予測モデルの開発を進めるのに役立つ。
  論文  参考訳（メタデータ） (2025-06-29T09:53:12Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• On the (Un-)Avoidability of Adversarial Examples [4.822598110892847]
  ディープラーニングモデルの逆例は、その信頼性に大きな懸念を引き起こしている。 小摂動下でのモデルラベルの変更が正当化されるかどうかを決定するためのフレームワークを提供する。 適応的なデータ拡張は、決定論的ラベルの下で1-アレスト近傍の分類の整合性を維持していることを示す。
  論文  参考訳（メタデータ） (2021-06-24T21:35:25Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• Undersensitivity in Neural Reading Comprehension [36.142792758501706]
  現在の読書理解モデルは、分布内テストセットによく一般化するが、敵対的に選択された入力では不十分である。 本稿では,入力テキストが有意に変化するが,モデルの予測は行わない,過度な予測過敏性の相補的問題に焦点をあてる。 モデルが同じ答えを誤って予測する問題の意味的バリエーションの中から探索するノイズの多い逆攻撃を定式化する。
  論文  参考訳（メタデータ） (2020-02-15T19:03:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。