論文の概要: Speculate with Memory: Lossless Acceleration for LLM Agents
- arxiv url: http://arxiv.org/abs/2607.12236v1
- Date: Tue, 14 Jul 2026 00:36:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.000695
- Title: Speculate with Memory: Lossless Acceleration for LLM Agents
- Title(参考訳): メモリによる推測: LLMエージェントのロスレス加速
- Abstract要約: 投機的実行は、より小さく安価なモデルを使用して、環境がアイドル状態にある間に次のステップを予測し、事前起動することにより、LCMエージェントを加速させる。
我々は,過去のエージェント・トラジェクトリから学習する3つのオンライン記憶システムを備えた投機機を開発した。
提案手法は,行動予測,観測予測,連鎖予測という3つの推測型にまたがる6つのベンチマークで評価する。
- 参考スコア(独自算出の注目度): 41.48103818220709
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Speculative execution accelerates LLM agents by using a smaller, cheaper model to predict and pre-launch the next step while the environment is idle. However, existing speculators are stateless and discard all information between tasks, preventing prediction quality from improving with experience. We equip the speculator with three online memory systems that learn from past agent trajectories: a contrastive transition table tracking action-sequence statistics, an episodic memory retrieving contextually similar segments, and a confusion tracker suppressing recurring errors. We evaluate this approach on six benchmarks spanning three speculation types: action prediction, observation prediction, and chained prediction. Memory-augmented speculation yields a 19--39\% relative accuracy improvement on action prediction and up to a $2.5\times$ increase on observation prediction tasks with repetitive action spaces. These gains grow continuously as memory accumulates and generalize across speculator models of varying cost. All speculation is lossless because it runs during idle time at zero added wall-clock cost, and the actor's trajectory is identical to non-speculative execution.
- Abstract(参考訳): 投機的実行は、より小さく安価なモデルを使用して、環境がアイドル状態にある間に次のステップを予測し、事前起動することにより、LCMエージェントを加速させる。
しかし、既存の投機家はステートレスであり、全ての情報をタスク間で破棄し、予測品質が経験によって改善されるのを防ぐ。
我々は,過去のエージェントトラジェクトリから学習する3つのオンラインメモリシステム,コントラスト遷移表追跡行動系列統計,文脈的に類似したセグメントを検索するエピソードメモリ,繰り返し発生するエラーを抑制する混乱トラッカを備える。
提案手法は,行動予測,観測予測,連鎖予測という3つの推測型にまたがる6つのベンチマークで評価する。
メモリ拡張された推測は、アクション予測に対する19-39-%の相対的精度向上と、反復的なアクション空間を持つ観測予測タスクに対する最大2.5-times$の増加をもたらす。
メモリが蓄積され、様々なコストの投機モデルにまたがって一般化されるにつれて、これらのゲインは継続的に成長する。
全ての憶測は、アイドル時間中に壁時計のコストをゼロにすることで失われ、アクターの軌道は非投機的実行と同一である。
関連論文リスト
- Repurposing Deep Limit Order Book Forecasting for Scenario-Conditioned Market Impact Modeling [49.590388401787834]
本稿では,機械的に有効な反事実メッセージの注入前後の予測者の予測分布を比較するモデルに依存しないフレームワークを提案する。
トランスフォーマーをベースとした予測器は、スピアマンの相関関係を0.99と97.2%と、実現した歴史的成果との方向性の一致で、シナリオランキングを回復した。
論文 参考訳(メタデータ) (2026-09-15T10:06:03Z) - Uncertainty-Guided Sparse Refinement for Action Chunking Transformer Policies [10.02061062596699]
最近のアクションチャンキング手法は、時間的に拡張されたアクションシーケンスを予測することによって、有望な性能を示す。
本研究では,チャンクベースのビジュモータポリシのためのスパース改良フレームワークであるUncertainty-Guided Refinement (UGR)を提案する。
論文 参考訳(メタデータ) (2026-09-14T16:37:35Z) - Future-as-Label: Scalable Supervision from Real-World Outcomes [0.0]
時が自由な監督を生み出す: 現実の出来事に関する予測は、検証可能な結果に解決する。
我々は、実世界の予測に時間をかけて検証可能な報酬で強化学習を拡張した。
我々は、因果的にマスキングされた情報から確率予測を行うために言語モデルを訓練する。
論文 参考訳(メタデータ) (2026-01-09T22:15:12Z) - Reverberation: Learning the Latencies Before Forecasting Trajectories [18.978852734171593]
過去を未来へブリッジし、空間的および時間的にエージェントを接続することは、軌道予測タスクの中核にある。
異なるエージェントは、特定の軌道変更イベントに注意し、処理し、反応するために、明確な遅延優先を示す可能性がある。
音響学における残響曲線に着想を得て,新しい残響曲線とそれに対応する残響軌道予測モデルを提案する。
論文 参考訳(メタデータ) (2025-11-14T10:59:24Z) - ForeSight: Multi-View Streaming Joint Object Detection and Trajectory Forecasting [7.401111319849394]
ForeSightは、自動運転車における視覚に基づく3D知覚のための、新しい共同検出および予測フレームワークである。
ForeSightは最先端のパフォーマンスを達成し、EPAの54.9%を達成し、従来の手法を9.3%上回る結果となった。
論文 参考訳(メタデータ) (2025-08-09T20:18:10Z) - Robust Planning for Autonomous Driving via Mixed Adversarial Diffusion Predictions [51.88828388720111]
本稿では、通常と逆のエージェント予測を混合した自律運転のロバストな計画手法について述べる。
本研究では,実験時の拡散モデルに偏りを生じさせ,候補計画と衝突する可能性のある予測を生成することにより,逆予測の分布を生成する。
本手法が単エージェントおよび多エージェントジェイウォーキングシナリオおよび赤信号違反シナリオに与える影響について述べる。
論文 参考訳(メタデータ) (2025-05-18T09:44:57Z) - Learning Through Retrospection: Improving Trajectory Prediction for Automated Driving with Error Feedback [41.94295877935867]
自動走行では、周囲の車両の軌道予測がシーンダイナミクスの推論をサポートし、エゴ車両の安全な計画を可能にする。
既存のモデルは、観測された情報に基づいて将来の軌跡を予測するための瞬間的なタスクとして予測を扱う。
提案手法は,推論中の誤差を補正し,再現する手法である。
論文 参考訳(メタデータ) (2025-04-18T16:35:12Z) - Price predictability in limit order book with deep learning model [0.0]
本研究では,ディープラーニングモデルを用いた高周波価格変化の予測について検討する。
未定義の目標価格プロセスでは,過去の情報を組み込むことで予測が無意味になることが判明した。
論文 参考訳(メタデータ) (2024-09-21T14:40:13Z) - Movement-Prediction-Adjusted Naive Forecast [6.935130578959931]
MPANF (Motion-Prediction-Adjusted Naive forecast) は, 偏差ベースラインを超えて点予測を改善するために設計されている。
MPANFは、信頼できる動き予測が利用できる場合に有効な第2段階の手法として機能する。
論文 参考訳(メタデータ) (2024-06-20T16:32:18Z) - Adaptive Human Trajectory Prediction via Latent Corridors [49.13061580045407]
シーン固有の適応軌道予測の問題を定式化する。
本稿では,潜伏回廊と呼ばれる即時チューニングにインスパイアされた新しい適応手法を提案する。
0.1%の追加モデルパラメータでは、MOTシンスシミュレーションデータの改善が23.9%、MOTおよびワイルドトラックにおけるADEが16.4%となる。
論文 参考訳(メタデータ) (2023-12-11T18:59:12Z) - Streaming Motion Forecasting for Autonomous Driving [71.7468645504988]
ストリーミングデータにおける将来の軌跡を問うベンチマークを導入し,これを「ストリーミング予測」と呼ぶ。
我々のベンチマークは本質的に、スナップショットベースのベンチマークでは見過ごされていない安全上の問題であるエージェントの消失と再出現を捉えている。
我々は,任意のスナップショットベースの予測器をストリーミング予測器に適応させることのできる,"Predictive Streamer"と呼ばれるプラグアンドプレイメタアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-02T17:13:16Z) - AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。
我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。
私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
論文 参考訳(メタデータ) (2022-09-19T03:34:59Z) - You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory
Prediction [52.442129609979794]
軌道予測のための最近の深層学習手法は有望な性能を示す。
そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。
本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
論文 参考訳(メタデータ) (2021-10-11T14:24:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。