論文の概要: Read More, Reason Deeper: Latent Workspaces for Long-Sequence Recommendation

• arxiv url: http://arxiv.org/abs/2610.39188v1
• Date: Thu, 29 Oct 2026 02:12:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-03 07:35:37.793099
• Title: Read More, Reason Deeper: Latent Workspaces for Long-Sequence Recommendation
• Title（参考訳）: Reason Deeper, より詳しく読む - ロングシーケンスレコメンデーションのための潜在ワークスペース
• Abstract要約: 我々はLWR(Latent Workspace Ranker)を導入し、永続的な銀行で型付きエビデンスを保持し、固定サイズの候補ローカルワークスペースを伝播する。 LWRは、長い歴史において全ての家族をリードし、推論計算により改善を続け、追加のトレーニング計算を、ジョイントフロンティアで最速の適合率で品質ゲインに変換する。
• 参考スコア（独自算出の注目度）: 12.025750724164338
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-sequence recommendation can improve along two axes: \emph{evidence scaling} exposes longer histories, while \emph{reasoning scaling} adds layers that interpret that evidence for a candidate. Existing models couple them: sequence encoders propagate every added event through depth, whereas one-shot selection prevents later layers from revisiting omitted evidence. We introduce the Latent Workspace Ranker (LWR), which keeps typed evidence in persistent banks and propagates a fixed-size candidate-local workspace. Each layer rereads the banks from its evolving workspace and archives compact post-interaction state, allowing history length and reasoning depth to grow independently. We compare four architectures across various history--depth configurations using evidence scaling at fixed depth, reasoning scaling at fixed 10K history, and their joint compute-efficient frontier. LWR leads all families at long histories, continues improving with reasoning compute, and converts additional training compute into quality gains at the fastest fitted rate on the joint frontier. At 10K history, it improves NE by 0.19% over HSTU while using 69.6% fewer forward GFLOP/request. It also outperforms existing baselines on two billion-scale ranking surfaces. These results show that separating addressable evidence from propagated state makes reading more and reasoning deeper independently controllable and jointly useful.
• Abstract（参考訳）: ロングシーケンスのレコメンデーションは2つの軸に沿って改善できる: \emph{evidence scaling} は長い履歴を公開し、 \emph{reasoning scaling} は候補の証拠を解釈するレイヤを追加する。 シーケンスエンコーダは、追加されたすべてのイベントを深さを通じて伝播する一方、ワンショット選択は、後続のレイヤが省略されたエビデンスを再考するのを防ぐ。 我々はLWR(Latent Workspace Ranker)を導入し、永続的な銀行で型付きエビデンスを保持し、固定サイズの候補ローカルワークスペースを伝播する。 各層は、その進化するワークスペースから銀行を読み取り、コンパクトな相互作用後の状態をアーカイブし、歴史の長さと推論の深さを独立して成長させる。 固定深度でのエビデンススケーリング,固定深度10K履歴でのスケーリングの推論,計算効率の両面でのフロンティアを用いた,さまざまな履歴構成の4つのアーキテクチャを比較した。 LWRは、長い歴史において全ての家族をリードし、推論計算により改善を続け、追加のトレーニング計算を、ジョイントフロンティアで最速の適合率で品質ゲインに変換する。 10Kの歴史において、HSTUよりも0.19%改善し、GFLOP/requestを69.6%削減した。 また、20億のランキングで既存のベースラインを上回っている。 これらの結果から, 対応可能な証拠を伝播状態から分離することで, より独立的に制御し, 共同で有用であることを示す。

関連論文リスト

• Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval [0.0]
  本研究では,2つのメモリパラメータ間の相互作用(構造深さと応答モデルに供給されるコンテキスト幅)を実験的に検討する。 1Kから4Kへの幅の増大は精度を10.11-17.98ポイント向上させる一方、深さの増大はモノトニックゲインを与えない。 これらの結果は、より深いメモリ構造ではなく、大規模で一貫性のあるコンテキストブロックのさらなる研究を動機付けている。
  論文  参考訳（メタデータ） (2026-10-06T13:04:43Z)
• StateTree: Enhancing Long-Term Dialogue Reasoning via Reinforcement Learning [13.06908863038075]
  StateTreeはデータ駆動のRL手法であり、検証済みの真理の少ない対話から挑戦的な補助タスクを構築する。 木深度を漸進的に増加させるカリキュラムRLトレーニングを適用し,ステップレベルの推論フラグメントをエッジに持つ構成変種を導入する。 StateTreeは、フル長のRLコストなしで128Kトークンに一般化し、クロスセッション検索、時間的推論、知識更新、合成マルチホップ推論などの機能を提供する。
  論文  参考訳（メタデータ） (2026-09-30T02:38:52Z)
• PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents [85.82624962221026]
  本稿では、読みを推論から切り離すPARSERを紹介する。 単一のチャンクにバインドされた軽量サブエージェントのバンクは、ドキュメント全体を並列に読み取る。 7Kから896Kまでのコンテキストを持つマルチホップQAでは、4Bバックボーンを持つPARSERが最強のシーケンシャルメモリベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-09-06T16:19:01Z)
• LongCrafter: Towards Diverse Long-Context Understanding via Evidence-Graph-Guided Instruction Synthesis [25.64387650835006]
  LongCrafterは階層的なタスク分類とエビデンスベースのパイプラインを結合する構造化合成フレームワークである。 LongCrafterはタスク整列した長いコンテキストを構築し、それらをパラグラフの依存関係をモデル化する明示的なエビデンスグラフに分解し、位置するエビデンスに厳格に根ざした命令応答ペアを生成する。 LongCrafterのデータに基づいて微調整されたモデルは、すべてのSFTベースラインや、公式の訓練後のモデルよりも優れています。
  論文  参考訳（メタデータ） (2026-07-07T11:35:48Z)
• STOP: Structured On-Policy Pruning of Long-Form Reasoning in Low-Data Regimes [13.293115227628775]
  ロングチェーン・オブ・シークレット (Long CoT) 推論は多段階問題のパフォーマンスを向上させるが、過度な考えも引き起こす。 長文推論トレースを解析・解析するオンラインアルゴリズムSTOP(Structured On-policy Pruning)を提案する。
  論文  参考訳（メタデータ） (2026-05-13T08:28:05Z)
• DTS: Enhancing Large Reasoning Models via Decoding Tree Sketching [54.98126916293868]
  大規模推論モデル(LRMs)は、精度を低下させる、非常に長い連鎖のトレースを生成する。 本稿では,高エントロピートークンを分岐することで推論空間をスケッチするモデル非依存デコーディングフレームワークを提案する。 このアプローチは、追加のトレーニングや監督を必要とせず、効率と正確性を両立させる最適解を近似する。
  論文  参考訳（メタデータ） (2025-11-01T17:41:28Z)
• Rethinking Thinking Tokens: LLMs as Improvement Operators [80.12087211785949]
  推論トレーニングは、LLMに長い思考の連鎖(長いCoT)を生み出す動機を与え、自己チェックによるソリューション戦略を探索することを可能にする。 これにより、精度が高くなりますが、コンテキストの長さ、トークン/計算コスト、応答レイテンシが膨らみます。 現在のモデルはメタ認知を活用して、このParetoフロンティアで他の組み合わせを提供できるのでしょうか? i) 多様なドラフトを並列に生成し、(ii) それらを有界なテキストワークスペースに蒸留し、(iii) このワークスペース上に条件付き精製する。
  論文  参考訳（メタデータ） (2025-10-01T17:08:59Z)
• TL;DR: Too Long, Do Re-weighting for Efficient LLM Reasoning Compression [55.37723860832064]
  高度なデータアノテーションに依存しない動的比に基づくトレーニングパイプラインを提案する。 我々は、DeepSeek-R1-Distill-7BとDeepSeek-R1-Distill-14Bのモデルと、様々な難易度を持つ様々なベンチマークのモデルに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2025-06-03T09:23:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。