論文の概要: LLMs Are Not Good Strategists, Yet Memory-Enhanced Agency Boosts Reasoning
- arxiv url: http://arxiv.org/abs/2608.12626v1
- Date: Wed, 12 Aug 2026 22:17:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.337301
- Title: LLMs Are Not Good Strategists, Yet Memory-Enhanced Agency Boosts Reasoning
- Title(参考訳): LLMは良いストラテジストではないが、記憶力強化された機関が推論を強化
- Abstract要約: EpicStarは、エージェントが長期的推論に取り組むためのポリシーとしてメモリを学習することを可能にするフレームワークである。
推論中、動的ゲーティング機構は、検索されたアクションを直接実行するか、または新しい推論を実行するかを決定する。
これはベースライン法よりも優れており、トークンの桁数を桁違いに減らしながら高い利得率を達成する。
- 参考スコア(独自算出の注目度): 4.794581688428893
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Strategic reasoning in Large Language Models (LLMs) within long-horizon environments is often limited by inconsistent subgoals. In these settings, finite attention resources prevent the model from maintaining strategic coherence over thousands of steps. This limitation leads to strategic drift, where localized decisions fail to sustain a coherent trajectory across reasoning. To address this, we introduce EpicStar, a framework that enables agents to learn memory as policy to tackle long-horizon reasoning. Specifically, the agent maintains a bank of successful past episodes as a heuristic alongside a working memory to track short-term environmental changes. During inference, a dynamic gating mechanism determines whether to execute a retrieved action directly or to perform new reasoning through a contextual fusion of the retrieved episodes and current working memory. Utilizing StarCraft II as the testbed, we evaluated EpicStar against diverse opponent styles. It significantly outperforms baseline methods, achieving higher win rates while consuming an order of magnitude fewer tokens, and it maintains this advantage consistently across difficulty levels and opponent strategies. Our findings provide compelling evidence that structured cross-episode memory is essential for enabling LLM agents to perform robust, long-term strategic execution in dynamic, autonomous settings.
- Abstract(参考訳): 大言語モデル(LLM)の長期的環境における戦略的推論は、しばしば一貫性のないサブゴールによって制限される。
これらの設定において、有限の注意資源は、モデルが何千ものステップにわたって戦略的一貫性を維持するのを防ぐ。
この制限は戦略的なドリフトにつながり、局所的な決定は推論を通して一貫性のある軌道を維持するのに失敗する。
これを解決するために,エージェントが長期的推論に対処するためのポリシーとしてメモリを学習することを可能にするフレームワークであるEpicStarを紹介した。
特に、エージェントは、短期的な環境変化を追跡するためのワーキングメモリとともに、ヒューリスティックとして成功した過去のエピソードの銀行を維持している。
推論中、動的ゲーティング機構は、検索された動作を直接実行するか、検索されたエピソードと現在の動作メモリのコンテキスト融合を通して新しい推論を行うかを決定する。
StarCraft IIをテストベッドとして使用し、EpicStarを多様な対戦スタイルに対して評価した。
ベースライン手法よりもはるかに優れており、トークンの桁数を桁違いに減らしながら高い勝利率を達成することができ、難易度や反対戦略に一貫してこの優位性を維持することができる。
本研究は,LLMエージェントが動的・自律的な環境下で長期的かつ堅牢な戦略的実行を行えるよう,構造化エピソードメモリが不可欠であることを示すものである。
関連論文リスト
- Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks [56.45762972211923]
マルチターン攻撃に対するLDMの安全性を確保するためのプロアクティブ・ディフェンス・フレームワークを提案する。
特殊なエージェントが補完的な防衛戦略を実行するような、協調的なマルチエージェントアーキテクチャを採用している。
マルチターン攻撃における進化戦略をシミュレートするEMRAデータセットを提案する。
論文 参考訳(メタデータ) (2026-07-31T14:04:49Z) - SAM: State-Adaptive Memory for Long-Horizon Reasoning Agent [51.274445160155864]
ロングホライゾンのエージェント推論は、思考、ツールコール、観察、部分的な結論を含む長い相互作用履歴を通して行動するために大きな言語モデルを必要とする。
既存のアプローチでは、インタラクション履歴の切り抜き、短いサロゲートに圧縮、あるいは再利用のために選択した部分を取得することで、この問題に対処している。
我々は、インテント駆動リコールのための生のトラジェクトリページを保持しながら、継続的なインタラクションをコンパクトなメモリキューに統合するスタンドアロンフレームワークであるState-Adaptive Memoryを提案する。
論文 参考訳(メタデータ) (2026-05-23T08:37:16Z) - Beyond Scaling: Assessing Strategic Reasoning and Rapid Decision-Making Capability of LLMs in Zero-sum Environments [15.538910160052964]
本稿では,マルチエージェント評価フレームワークであるStrategic Tactical Agent Reasoning (STAR) Benchmarkを紹介する。
STARはターンベースとリアルタイムの両方の設定をサポートし、長期戦略計画の制御可能な分析を可能にする。
対話型環境における戦略的インテリジェンスは、推論の深さだけでなく、計画をタイムリーな行動に変換する能力にも依存することを示す。
論文 参考訳(メタデータ) (2026-03-10T08:14:13Z) - Controllable LLM Reasoning via Sparse Autoencoder-Based Steering [66.36947132041657]
大規模推論モデル(LRM)は、人間のような認知的推論戦略を示す。
現在、推論戦略はLEM自身によって自律的に選択されている。
既存の手法は、LRMの隠蔽状態における概念的絡み合いによって、きめ細かい推論戦略を制御するのに苦労している。
論文 参考訳(メタデータ) (2026-01-07T05:26:26Z) - Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents [57.38404718635204]
大規模言語モデル (LLM) エージェントは、有限コンテキストウィンドウによる長距離推論において基本的な制限に直面している。
既存のメソッドは通常、長期記憶(LTM)と短期記憶(STM)を独立したコンポーネントとして扱う。
本稿では,エージェントのポリシーに LTM と STM 管理を直接統合する統合フレームワークである Agentic Memory (AgeMem) を提案する。
論文 参考訳(メタデータ) (2026-01-05T08:24:16Z) - Memory as Action: Autonomous Context Curation for Long-Horizon Agentic Tasks [23.201035830828726]
大規模言語モデルは、長期のエージェントタスクにおいて課題に直面します。
既存のワーキングメモリメソッドは、エージェントのコアポリシーから切り離された外部メカニズムに依存している。
本稿では,一貫したポリシーの一部として明示的な編集操作を実行することで,エージェントが作業メモリを積極的に管理する新しいフレームワーク,Memory-as-Actionを提案する。
論文 参考訳(メタデータ) (2025-10-14T15:29:57Z) - Society of Mind Meets Real-Time Strategy: A Hierarchical Multi-Agent Framework for Strategic Reasoning [16.35236123729838]
我々は,Strategic Planner (SP) と呼ばれるメタコントローラの下で,特殊模倣学習エージェントを利用する階層型マルチエージェントフレームワークを提案する。
専門家によるデモンストレーションによって、各特殊エージェントは、航空支援や防御演習のような独特の戦略を学び、一貫性のある、構造化された多段階のアクションシーケンスを生成する。
SPはこれらの提案を1つの環境適応プランに編成し、局所的な決定が長期的な戦略と整合することを保証する。
論文 参考訳(メタデータ) (2025-08-08T05:57:12Z) - Agents of Change: Self-Evolving LLM Agents for Strategic Planning [28.172006841163938]
HexMachinaは、環境発見と戦略改善を分離する継続的学習マルチエージェントシステムである。
制御されたカタナトロン実験では、HexMachinaはスクラッチから学び、最強の人造ベースラインを上回るプレイヤーを進化させる。
論文 参考訳(メタデータ) (2025-06-05T05:45:24Z) - EPO: Explicit Policy Optimization for Strategic Reasoning in LLMs via Reinforcement Learning [69.55982246413046]
戦略的推論のための明示的なポリシー最適化(EPO)を提案する。
我々は,マルチターン強化学習(RL)による戦略的推論モデルを訓練し,プロセス報酬と反復的な自己プレイを活用する。
本研究は, EPOに出現する様々な協調的推論機構と, 新規戦略の創出における有効性を明らかにするものである。
論文 参考訳(メタデータ) (2025-02-18T03:15:55Z) - Paths to Equilibrium in Games [6.812247730094933]
我々は、強化学習におけるポリシー更新に触発されたペアワイズ制約を満たす戦略の列について研究する。
我々の分析は、戦略的な更新を劣化させる報酬が、満足のいく道に沿って均衡に進むための鍵である、という直感的な洞察を明らかにした。
論文 参考訳(メタデータ) (2024-03-26T19:58:39Z) - K-Level Reasoning: Establishing Higher Order Beliefs in Large Language Models for Strategic Reasoning [76.3114831562989]
マルチエージェント環境で戦略を動的に適応させるためには、LLM(Large Language Model)エージェントが必要である。
我々は,「K-Level Reasoning with Large Language Models (K-R)」という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-02T16:07:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。