論文の概要: Bud ContextCompact 2.0: Context Compaction for Agent Success and Accuracy with Small Language Models and Constrained Context Windows
- arxiv url: http://arxiv.org/abs/2610.25516v1
- Date: Sun, 18 Oct 2026 20:15:30 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:28:25.687139
- Title: Bud ContextCompact 2.0: Context Compaction for Agent Success and Accuracy with Small Language Models and Constrained Context Windows
- Title(参考訳): Bud ContextCompact 2.0:小さな言語モデルと制約付きコンテキストウィンドウによるエージェントの継承と正確性のためのコンテキスト圧縮
- Abstract要約: コンテキストのコンパクト化は、セッションを継続できるように、古いターンを要約に置き換える。
損失があり、モデルコールのコストがかかります。
Bud ContextCompact 2.0は、Budエージェントランタイムに組み込まれたコンパクト化であり、2つの設定で評価する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Agents that work for many turns outgrow the context window of the model that serves them, and on small language models (SLMs) and constrained inference systems that window is small. Context compaction replaces older turns with a summary so a session can continue, but it is lossy, costs a model call, and can help or hurt depending on when it runs. We describe Bud ContextCompact 2.0, the compaction built into the Bud agent runtime, and evaluate it in two settings. On recall questions over recorded agent sessions, compaction to a 16K budget raised a 1.2B-parameter model's accuracy to 0.335, from 0.247 with truncation and 0.176 with its full 32K history (p < 0.001), and raised a 9B model from 0.515 (truncation) to 0.577 (p = 0.04). On 100 SWE-bench Verified tasks run end to end by a 27B reasoning model on a 49K-token window (556 graded sessions), compaction raised the resolve rate on long sessions from 41% to 53% (+12.3 points, 95% CI +1.6 to +23.0, McNemar p = 0.043), left short sessions unchanged, and used 13% fewer tokens per solved task at equal total cost. The main failure without compaction was not the history overflowing but a reasoning turn exhausting the room the history left. The gain has limits: it vanished under a 45-minute session budget, because each summary took a median of 161 s, and in a threshold study it appeared only when compaction triggered early enough to leave room. An 8B model submitted after about ten turns at 5-8K tokens and never needed compaction. We argue that the accuracy results transfer across hardware, including CPU inference, for an equivalent model and window, while the time cost scales with the hardware and must be budgeted for.
- Abstract(参考訳): 多くのエージェントで機能するエージェントは、それらを提供するモデルのコンテキストウインドウや、小さな言語モデル(SLM)や、ウィンドウが小さい制約付き推論システムよりも多くなります。
コンテキストのコンパクト化は、セッションが継続できるように、古いターンをサマリに置き換える。
Bud ContextCompact 2.0は、Budエージェントランタイムに組み込まれたコンパクト化であり、2つの設定で評価する。
記録されたエージェントセッションに関するリコール質問では、16K予算の圧縮により1.2Bパラメータモデルの精度が0.335まで上昇し、トランケーション付き0.247からフル32K履歴付き0.176まで上昇し(p < 0.001)、0.515(トランケーション)から0.577(p = 0.04)まで9Bモデルが上昇した。
49Kのウィンドウ(556のグレードセッション)で27Bの推論モデルによって100のSWE-bench検証タスクが終端まで実行され、コンパクト化は41%から53%(+12.3ポイント、95% CI +1.6から+23.0、McNemar p = 0.043)の長いセッションでの解決率を高めた。
圧縮のない主な失敗は、履歴のオーバーフローではなく、歴史が残した部屋を消耗させる理由だった。
それぞれのサマリーが中央値161秒であり、しきい値の研究では、コンパクト化が部屋を出るのに十分早く引き起こされたときにのみ現れるため、45分間の予算で消滅した。
約10ターンで5-8Kのトークンで8Bモデルが送信され、圧縮は不要だった。
我々は、CPU推論を含むハードウェア間での正確な結果が等価なモデルとウィンドウで転送されるのに対して、時間コストはハードウェアでスケールし、予算を支払わなければならないと論じる。
関連論文リスト
- Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks [5.632168383670357]
小型のオープンウェイトモデル(2-9B)は普通のラップトップ上で動作しますが、クラウドスケールのエージェントで実際のタスクを完了することはめったにありません。
これらの失敗のかなりの割合は、モデルよりもハーネスに起因していることを示す。
我々は,Windows と Ollama 用のローカルファーストエージェントハーネスである Mingbird を紹介した。
論文 参考訳(メタデータ) (2026-10-01T16:32:07Z) - Low-Rank Frequency Convolution and Noise-Range Augmentation for Real-Time Pitch Estimation on Edge Devices [0.0]
本報告では、我々の初期の研究の周波数畳み込みネットワーク(FrCN)を低ランクの形式に分解する。
トレーニング中に使用するノイズの範囲は、干渉が深刻であるときにモデルがどのように振る舞うかを設定する際に、アーキテクチャを支配していることも示される。
論文 参考訳(メタデータ) (2026-09-20T03:53:39Z) - Zero-Shot Self-Orchestration with Ledger-Based Control for Improved LLM Coding Performance [2.8543100656957883]
共有作業空間に対する管理作業者の足場の影響について検討する。
監督のオプス5は1回のパスで91%の得点を記録した。
マネジャーの実行はトークンの請求書を3倍にしますが、より大きなモデルに移行するよりも、より安価で精度が得られます。
論文 参考訳(メタデータ) (2026-08-27T00:11:41Z) - Token Optimization and Context Window Management in Multi-Agent AI Workflows [0.0]
マルチエージェントAI合成は、モデル品質だけでなく、トークンコスト、レイテンシ、コンテキストウィンドウ品質によって制限されている。
本稿では,トークン最適化とコンテキストウィンドウ管理のための実践的フレームワークを提案する。
運用では、約3.5-10.5分間の運用ベースラインから61-116秒のコールドロード遅延を計測し、60-70%のトークン削減を見積もった。
論文 参考訳(メタデータ) (2026-08-17T22:56:50Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳(メタデータ) (2026-06-04T05:43:12Z) - Three Roles, One Model: Role Orchestration at Inference Time to Close the Performance Gap Between Small and Large Agents [0.4666493857924357]
複雑なマルチステップ環境において,推論時足場のみに追加のトレーニング計算を使わずに,小さなモデルの性能を向上させることができるかどうかを検討した。
我々は,AppWorldベンチマークのQwen3-8Bを,完全精度と4ビット量子化構成の両方で評価した。
本格的な推測では、私たちの足場付き8Bモデルは、オリジナルのAppWorld評価からDeepSeek-Coder 33Bインストラクション(7.1%)を上回っています。
論文 参考訳(メタデータ) (2026-04-13T13:40:33Z) - LLMs Can Easily Learn to Reason from Demonstrations Structure, not content, is what matters! [53.84130385074551]
大推論モデル(LRM)は、長いチェーン・オブ・シント(Long CoT)に従うことによって複雑な推論問題に取り組む
また,Large Language Model (LLM) は,データ効率の教師付き微調整 (SFT) とパラメータ効率の低い低ランク適応 (LoRA) により,Long CoT推論を効果的に学習できることを見出した。
たった17kのCoTトレーニングサンプルで、Qwen2.5-32B-Instructモデルは、幅広い数学およびコーディングベンチマークで大幅に改善されている。
論文 参考訳(メタデータ) (2025-02-11T08:48:48Z) - Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach [70.44265766483633]
本稿では,潜在空間における暗黙的推論によるテスト時間計算のスケールアップが可能な,新しい言語モデルアーキテクチャについて検討する。
我々のモデルは繰り返しブロックを繰り返すことで動作し、テスト時に任意の深さに展開する。
結果のモデルが推論ベンチマークの性能を劇的に改善できることが示される。
論文 参考訳(メタデータ) (2025-02-07T18:55:02Z) - The Surprising Effectiveness of Test-Time Training for Few-Shot Learning [59.309477460893916]
言語モデル(LM)は、トレーニングディストリビューション内のタスクにおいて印象的なパフォーマンスを示しているが、しばしば構造的に新しいタスクで苦労している。
LMの推論と少数ショット学習能力を改善するメカニズムとして,テストタイムトレーニング(TTT)の有効性を検討する。
本研究は,新しいタスクにおける文脈内学習の限界を強調し,言語モデルの適応性を高めるためのテストタイムトレーニングの可能性を示した。
論文 参考訳(メタデータ) (2024-11-11T18:59:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。