論文の概要: Decision-Sufficient State Representations: Measuring and Reducing Write-Time Regret
- arxiv url: http://arxiv.org/abs/2609.32805v2
- Date: Tue, 29 Sep 2026 02:16:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.619981
- Title: Decision-Sufficient State Representations: Measuring and Reducing Write-Time Regret
- Title(参考訳): 決定に十分な状態表現:書き込み時間レグレットの測定と削減
- Abstract要約: 増え続ける仕事のラインには、エージェントが長いものではなく短い状態を持っている。
読者の損失を定量化し、トレーニングが減るかどうかを問う。
TextWorldの調理ゲームでは、必要になるまでにどれぐらいの期間の事実を運ばなければならないかを制御するが、その事実を保持する128の状態がほぼ全てのゲームで勝利する。
- 参考スコア(独自算出の注目度): 4.384608239484155
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long tasks produce more history than an LLM agent can hold in its context, and more than it uses reliably even when the history fits. A growing line of work therefore has agents carry a short written state instead: at every step a writer rewrites the state, and a reader acts from the state alone. Steps stay cheap, but anything the writer drops is lost before later decisions reveal that they need it. We quantify this loss and ask whether training can reduce it. Comparing the written state with the best state of the same size written in hindsight, we split the reader's loss into a budget loss, which any state of that size must incur, and a write-time regret, which comes from the writer's choices. In TextWorld cooking games where we control how long a fact must be carried before it is needed, a 128-token state holding the facts wins nearly every game, while prompted language-model writers win at most 17%. Almost all of the loss is write-time regret, and it grows with the delay. We then train the writer from the reader's own loss. DSSR (decision-sufficient state representations) scores candidate states by how well the reader acts after the writer carries them forward, and teaches the writer to prefer the better ones. This forward-rolled score predicts game outcomes ($ρ= 0.48$), whereas scoring a candidate as a fixed context, as hindsight methods usually do, does not ($ρ\leq 0.07$). On a pre-registered test split opened once, training adds +7.0 [+1.9, +12.2] points of success when facts are needed soon, bringing a plain summary writer to the level of belief- and slot-based memory prompts. The gain shrinks as the delay grows and is significant only at the shortest delay. We trace this limit to credit assignment: keeping a fact now pays off only if every later rewrite keeps it too, which a per-step score cannot see.
- Abstract(参考訳): 長いタスクは、LLMエージェントがそのコンテキストで保持できるよりも多くの履歴を生成します。
エージェントは、すべてのステップにおいて、ライターが状態を書き直し、読み手は、状態から単独で振る舞う。
ステップは安く保たれるが、ライターが落としたものはすべて、その後、必要なことが分かる前に失われる。
この損失を定量化し、トレーニングによって削減できるかどうかを問う。
書かれた状態と、後から書かれた同じ大きさの最良の状態を比較すると、我々は読者の損失を予算の損失に分割する。
TextWorldの調理ゲームでは、必要になるまでに事実をどれだけ長く持ち運ばなければならないかをコントロールし、その事実を保持する128の州がほぼ全てのゲームで勝利し、言語モデルライターが最大17%で勝利する。
ほとんどすべての損失は書き込み時の後悔であり、遅延とともに増大します。
そして、読者自身の損失から作家を訓練する。
DSSR (Decision-sufficient state representations) は、読者が読者を前進させた後にどのように振る舞うかによって、候補者の状態をスコアし、著者により良い状態を好むように教える。
この前向きのスコアはゲーム結果(ρ=0.48$)を予測するが、後向きのメソッドが通常行うように、候補を固定されたコンテキストとしてスコアする(ρ\leq 0.07$)。
登録済みのテストスプリットが一度オープンすると、トレーニングは事実がすぐに必要になったときに+7.0[+1.9, +12.2]の成功点を追加し、平易な要約ライターを信念とスロットベースのメモリプロンプトのレベルに導く。
遅延が増加するにつれて利得は減少し、最短遅延でのみ顕著となる。
事実を保ち続けることは、後続の書き直しがすべて継続している場合のみであり、ステップごとのスコアは見ることができない。
関連論文リスト
- When Does Selection Replace Extraction? A Pre-Registered Test of Agent Memory with a Typed Decision Model [1.439518478021091]
会話記憶はLLM抽出事実を必要とするのか、それとも適切な生のターンを選択するのか?
近年の研究では、格付けが良い生の歴史も見受けられるが、格付けが重要かどうかについては意見が分かれている。
われわれはLoCoMoの会話とLongMemEvalについて事前登録した。
論文 参考訳(メタデータ) (2026-09-28T03:34:07Z) - ERRAND: Budgeted Maintenance of Agent Memory [6.793389156312514]
ERRANDを導入し、再検証を価格設定のエラーとして扱う。
errandインデックスは単一話者で、両方の信念の両端で消滅する。
ERRANDは、事前登録されたキャリバー上のすべての非オークルポリシーをクリアし、すべてのバインド予算において、プライマリな設定と条件付きで、ベースキャップで10.0ppのエキサイティングな再検証を導く。
論文 参考訳(メタデータ) (2026-09-02T19:59:29Z) - FACTWASH: Catching AI Rewrites That Wash Hearsay into Fact [0.0]
AIシステムは情報を常に書き直す:会話が記憶される記憶となり、ドキュメントが答えになる。
私たちはファクト・ウォッシングと呼んでいる。これはオープンソースのライトタイム・ゲートで、判断的にそれをキャッチし、裁判官ではなく、名前のついた旗や証拠を持っています。
コストの安いチェックはいつ,モデルが必要なのか?
論文 参考訳(メタデータ) (2026-08-04T09:20:54Z) - Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History [2.5401434059780468]
Engramは、バイテンポラルデータモデル上のデュアルプロセスメモリエンジンである。
高速書き込みパスは、クリティカルパスにLSMなしでエピソードを付加する。
ハイブリッドリードパスは、密度、語彙、グラフ、および電流/セイレンス信号を融合する。
論文 参考訳(メタデータ) (2026-06-05T11:43:56Z) - Spoiler Alert: Narrative Forecasting as a Metric for Tension in LLM Storytelling [15.25806708314033]
我々は、既存のルーブリックは説得力のある人間の物語の重要な次元である物語の緊張を見落としていると論じる。
本稿では,100-Endingsメートル法について紹介する。
ルーリックベースの審査員とは異なり、100-EndingsはニューヨーカーのストーリーをLSMのアウトプットよりはるかに上位にランク付けしている。
論文 参考訳(メタデータ) (2026-04-10T19:33:43Z) - Incorporating Self-Rewriting into Large Language Model Reasoning Reinforcement [54.63337314382886]
自己書き起こしフレームワークを導入し、モデルが独自の推論テキストを書き直し、その後、書き直し推論から学習し、内部思考プロセスの品質を向上させる。
アルゴリズム設計において、モデルの一貫した正当性によって定義される「単純な」サンプルのみを書き換える選択的な書き換え手法を提案する。
モデルサイズが異なる多様なタスクの実験は、自己書き換えの有効性を検証する。
論文 参考訳(メタデータ) (2025-11-20T13:10:52Z) - The Markovian Thinker [70.4118072391945]
強化学習(Reinforcement Learning, RL)は、LongCoT(LongCoT)という長鎖のLLMを学習するための強力なレシピとなっている。
しかし、状態がプロンプトプラス全ての先行推論トークンである標準的なRLの「思考環境」は、州を無拘束にし、思考が長くなるにつれて注意に基づく政策に二次計算を支払うよう強制する。
我々は,一定サイズの状態に条件付けしながら,政策が推論を進めるパラダイムであるマルコフ的思考を提案する。
論文 参考訳(メタデータ) (2025-10-08T01:18:13Z) - Help Me Write a Story: Evaluating LLMs' Ability to Generate Writing Feedback [57.200668979963694]
我々は1,300のストーリーからなる新しいテストセットを提示し、故意に執筆問題を紹介した。
本研究では,この作業においてよく用いられるLCMの性能を,自動評価と人的評価の両方を用いて検討する。
論文 参考訳(メタデータ) (2025-07-21T18:56:50Z) - LongReD: Mitigating Short-Text Degradation of Long-Context Large Language Models via Restoration Distillation [79.90766312484489]
回復蒸留(LongReD)による長期事前トレーニング
LongReDは、選択されたレイヤの隠れた状態をオリジナルのモデルから短いテキストで蒸留する。
一般的なテキストベンチマークの実験では、LongReDはモデルの短文性能を効果的に維持することを示した。
論文 参考訳(メタデータ) (2025-02-11T08:37:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。