論文の概要: Token Optimization and Context Window Management in Multi-Agent AI Workflows
- arxiv url: http://arxiv.org/abs/2608.17188v1
- Date: Mon, 17 Aug 2026 22:56:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.159311
- Title: Token Optimization and Context Window Management in Multi-Agent AI Workflows
- Title(参考訳): マルチエージェントAIワークフローにおけるトークン最適化とコンテキストウィンドウ管理
- Abstract要約: マルチエージェントAI合成は、モデル品質だけでなく、トークンコスト、レイテンシ、コンテキストウィンドウ品質によって制限されている。
本稿では,トークン最適化とコンテキストウィンドウ管理のための実践的フレームワークを提案する。
運用では、約3.5-10.5分間の運用ベースラインから61-116秒のコールドロード遅延を計測し、60-70%のトークン削減を見積もった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent AI workflows are limited not only by model quality but by token cost, latency, and context-window quality. This paper presents a practitioner framework for token optimization and context-window management, grounded in an internal production dashboard that extracts structured work items from meetings, email, and chat with LLMs and routes summaries across workstreams. Six patterns are described: context stratification, fetch-once/process-locally architecture, schema-contracted prompts, token-aware fallback chains, semantic caching, and inter-agent communication compression. In production they cut measured cold-load latency to 61-116 seconds (six timed runs) from an operational baseline of roughly 3.5-10.5 minutes, with an estimated 60-70% token reduction. It also reports a controlled context-composition study: 2,420 confirmatory trials across 11 model configurations, using 661 anonymized workplace items scored for relevance. Holding the prompt at a fixed ten items, replacing some high-relevance items with same-domain low-relevance items improves the model's relevance-score concordance on the target items, versus high-relevance items only; we call this relevance-contrast context. In the all-11 paired analysis, the 50:50 signal/noise condition improved relevance accuracy by +0.077 over the 100% condition (naive 95% CI [+0.056, +0.098], Cohen's d = 0.49, Holm-adjusted p < .001, n = 220). These cells are not independent; by the nine model families the effect is +0.084 (95% interval [+0.064, +0.103]), reported as a within-corpus descriptive comparison, not a population inference. A Fusion-of-N follow-up found that learned synthesis did not beat the mechanical set union of item IDs. The contribution is a measured engineering layer between model research and production agent practice: repeatable patterns and evaluation methods for faster, cheaper, more reliable workflows.
- Abstract(参考訳): マルチエージェントAIワークフローは、モデル品質だけでなく、トークンコスト、レイテンシ、コンテキストウィンドウ品質によって制限されている。
本稿では,会議や電子メール,LLMとのチャットから構造化作業項目を抽出し,ワークストリーム間のサマリーをルーティングする内部生産ダッシュボードを基盤として,トークン最適化とコンテキストウィンドウ管理のための実践的フレームワークを提案する。
コンテキスト階層化、フェッチオンス/プロセスローカルアーキテクチャ、スキーマ対応プロンプト、トークン対応フォールバックチェーン、セマンティックキャッシング、エージェント間通信圧縮の6つのパターンが説明されている。
運用では、約3.5-10.5分間の運用ベースラインから61-116秒(タイムアウト6秒)のコールドロード遅延を計測し、60-70%のトークン削減を見積もった。
また、11のモデル構成で2,420の確認試験を行い、661の匿名化された職場アイテムを用いて関連性を確認した。
固定された10項目にプロンプトを保持し、いくつかの高関連項目を同じドメインの低関連項目に置き換えることで、対象項目の関連性スコアの一致を、高関連項目のみに改善する。
オール11ペア分析では、50:50の信号/雑音条件により、100%の条件(95% CI [+0.056, +0.098], Cohen's d = 0.49, Holm-adjusted p < .001, n = 220)に対して、関連性が+0.077向上した。
これらの細胞は独立したものではなく、9つのモデルファミリーによって、効果は+0.084(95%間隔 [+0.064, +0.103])であり、集団推定ではなく、体内記述の比較として報告されている。
Fusion-of-Nのフォローアップでは、学習された合成がアイテムIDの機械的集合結合に勝っていないことが判明した。
このコントリビューションは、モデルリサーチとプロダクションエージェントのプラクティスの間の測定されたエンジニアリングレイヤである。
関連論文リスト
- AgentWeave: Routing Before Reasoning for Efficient Function Calling in Tool-Rich Language Models [0.0]
我々は,有界モデル可視アクション空間を構成する決定論的事前推論ルーティング層であるAgentWeaveを紹介する。
オールツールの露出とは対照的に、AgentWeaveは70.18%のツールを減らし、61.70%の入力トークンを減らし、平均的なローカルモデルのレイテンシを50.95%低下させる。
論文 参考訳(メタデータ) (2026-08-24T10:38:08Z) - Less Context, Better Agents: Efficient Context Engineering for Long-Horizon Tool-Using LLM Agents [1.7849339006560665]
Microsoft Dynamics 365 Finance and Operationsにおける自動経費項目化の問題点について検討する。
ユーザモデル、完全な会話履歴、コンテキストは、最後の5つのツールコール/レスポンスペアにプルーニングされ、自動要約でプルーニングされる。
91.6%が完全なアイテム化、99.64%がアイテム化され、553,374のトークンと5.79時間である。
論文 参考訳(メタデータ) (2026-06-08T22:01:28Z) - Models Can Model, But Can't Bind: Structured Grounding in Text-to-Optimization [54.749573452394664]
定式化自体が単純である場合でも、インスタンスデータが大きくなるにつれて精度が低下する。
我々は, 数値データを構造化ファイルに外部化する単純な推論時アプローチであるBINDを用いて, モデルがプロンプトプロンプトからではなく, データをバインドする。
我々は,モデルのみをバインディングのみに微調整することで仮説を検証し,3つの構造的に異なる最適化カテゴリにおいて,エンドツーエンドのSFTおよびRLよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-05-20T21:25:41Z) - X-SYNTH: Beyond Retrieval -- Enterprise Context Synthesis from Observed Digital Human Attention [0.0]
本稿では,デジタルヒューマンアテンションに基づく企業コンテキスト合成のためのフレームワークであるX-SYNTHを提案する。
X-SYNTHは、個々の行動ベースラインをデジタルツインシグナチャ(DTS)としてモデル化する
4段階のパイプラインは、クエリの埋め込みではなく、行動パターンに基づいてランク付けされたコンテキストを組み立てる。
論文 参考訳(メタデータ) (2026-05-15T00:54:02Z) - PHANTOM: Polymorphic Honeytoken Adaptation with Narrative-Tailored Organisational Mimicry [0.2538209532048867]
ハネトケンは、不正な属性アクセスを検出するために植えられたデコイデジタル資産である。
PHANTOMは,組織固有の知識を符号化することで,文脈的に説得力のあるハネトケンを生成するフレームワークである。
結果は外部のAPIコールなしで再現されるため、パイプラインは空調された環境で完全にデプロイできる。
論文 参考訳(メタデータ) (2026-05-04T17:14:13Z) - Context Engineering: A Practitioner Methodology for Structured Human-AI Collaboration [0.0]
本稿では、AIツールのプロンプトに付随する完全な情報ペイロードの組み立て、宣言、シークエンシングのための構造化手法であるContext Engineeringを紹介する。
4つのAIツール間で200のドキュメント化されたインタラクションに関する観察的研究では、不完全なコンテキストがイテレーションサイクルの72%に関連付けられている。
構造化コンテキストアセンブリは、タスク毎の平均イテレーションサイクルを3.8から2.0に削減し、ファーストパスの受け入れを32%から55%に改善した。
論文 参考訳(メタデータ) (2026-04-05T20:30:44Z) - The Limits of Long-Context Reasoning in Automated Bug Fixing [4.853967615615349]
大規模言語モデル(LLM)は、コンテキスト全体を直接推論することができる。
LLMの最近の進歩は、ソフトウェア工学のベンチマークで強力なパフォーマンスを実現している。
我々は,現在のLLMが長文コードとパッチ生成を確実に実行可能であるかどうかを体系的に評価する。
論文 参考訳(メタデータ) (2026-02-17T22:51:40Z) - OmniEAR: Benchmarking Agent Reasoning in Embodied Tasks [52.87238755666243]
OmniEARは,言語モデルが身体的相互作用やツールの使用,マルチエージェントの協調にどう影響するかを評価するためのフレームワークである。
我々は、家庭と工業領域にまたがる1500のシナリオにおける連続的な物理的特性と複雑な空間的関係をモデル化する。
我々の体系的な評価は、モデルが制約から推論しなければならない場合、厳しい性能劣化を示す。
論文 参考訳(メタデータ) (2025-08-07T17:54:15Z) - MonkeyOCR: Document Parsing with a Structure-Recognition-Relation Triplet Paradigm [60.14048367611333]
MonkeyOCRはドキュメント解析のためのビジョン言語モデルである。
SRR(Structure-Recognition-Relation)三重項パラダイムを活用することで、最先端の技術の進歩を図っている。
論文 参考訳(メタデータ) (2025-06-05T16:34:57Z) - Learning Adaptive Parallel Reasoning with Language Models [70.1745752819628]
本稿では,適応並列推論(Adaptive Parallel Reasoning, APR)を提案する。
APRは、spawn()とjoin()操作を使用して適応的なマルチスレッド推論を可能にすることで、既存の推論メソッドを一般化する。
鍵となる革新は、親と子の両方の推論スレッドを最適化して、事前に定義された推論構造を必要とせずにタスクの成功率を高める、エンドツーエンドの強化学習戦略である。
論文 参考訳(メタデータ) (2025-04-21T22:29:02Z) - The Surprising Effectiveness of Test-Time Training for Few-Shot Learning [59.309477460893916]
言語モデル(LM)は、トレーニングディストリビューション内のタスクにおいて印象的なパフォーマンスを示しているが、しばしば構造的に新しいタスクで苦労している。
LMの推論と少数ショット学習能力を改善するメカニズムとして,テストタイムトレーニング(TTT)の有効性を検討する。
本研究は,新しいタスクにおける文脈内学習の限界を強調し,言語モデルの適応性を高めるためのテストタイムトレーニングの可能性を示した。
論文 参考訳(メタデータ) (2024-11-11T18:59:45Z) - FamiCom: Further Demystifying Prompts for Language Models with Task-Agnostic Performance Estimation [73.454943870226]
言語モデルは、コンテキスト内学習能力に優れています。
本稿では,タスク非依存のパフォーマンス推定のためのより包括的な尺度であるFamiComを提案する。
論文 参考訳(メタデータ) (2024-06-17T06:14:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。