論文の概要: Metacognitive Decoding: Efficient Inference for Diffusion Language Agents
- arxiv url: http://arxiv.org/abs/2610.37642v1
- Date: Tue, 27 Oct 2026 17:55:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.739068
- Title: Metacognitive Decoding: Efficient Inference for Diffusion Language Agents
- Title(参考訳): メタ認知的デコーディング:拡散言語エージェントの効率的な推論
- Abstract要約: 本稿では,現在の応答のニーズに応じて拡散生成を誘導するメタ認知コントローラを提案する。
提案手法は,最も効率的なベースラインと比較して,推定FLOPを平均で20.6%削減する。
- 参考スコア(独自算出の注目度): 46.40919575811864
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion language models offer a promising path to efficient agents through parallel token generation. However, efficient interaction requires adapting both where computation is spent and how much text is generated. We introduce a metacognitive controller that guides diffusion generation according to the needs of the current response and the agent's interaction with the environment. It learns when to finalize tokens and how far generation should extend, reducing overall computation within responses. Our controller, a lightweight plug-in for the diffusion backbone, is trained on agent trajectories to balance correctness and generation cost. This approach connects the agent's generation process to the interaction the agent serves. Experiments across five benchmarks demonstrate that our approach reduces inference FLOPs by 20.6% on average compared with the most efficient baseline, while maintaining competitive task accuracy. Ablation studies further validate the effectiveness of our approach.
- Abstract(参考訳): 拡散言語モデルは、並列トークン生成による効率的なエージェントへの有望な経路を提供する。
しかし、効率的な相互作用は、計算に費やされた場所と、どれだけのテキストが生成されるかの両方に適応する必要がある。
本稿では,現在の応答とエージェントの環境との相互作用のニーズに応じて拡散生成を誘導するメタ認知コントローラを提案する。
トークンをいつファイナライズするか、生成がどこまで拡張されるべきかを学ぶことで、レスポンス内の全体的な計算を減らします。
拡散バックボーン用軽量プラグインであるコントローラは, エージェントトラジェクトリを用いて, 精度と生成コストのバランスをとるように訓練されている。
このアプローチはエージェントの生成プロセスとエージェントが提供するインタラクションを結びつける。
5つのベンチマーク実験により,提案手法は,最も効率的なベースラインに比べて平均20.6%の予測FLOPを削減し,競争力のあるタスク精度を維持した。
アブレーション研究は我々のアプローチの有効性をさらに検証する。
関連論文リスト
- Signals: Trajectory Sampling and Triage for Agentic Interactions [1.6631602844999722]
エージェント間相互作用をトリアージするための軽量な信号ベースフレームワークを提案する。
提案手法は,ライブインタラクションから,安価で広く適用可能な信号を計算し,軌道トリアージのための構造化属性としてアタッチする。
その結果, 信号を用いたサンプリングでは, フィルタリングでは74%, ランダムサンプリングでは54%と, 82%の情報化率が得られることがわかった。
論文 参考訳(メタデータ) (2026-04-01T01:08:07Z) - Agent Q-Mix: Selecting the Right Action for LLM Multi-Agent Systems through Reinforcement Learning [68.85408801740228]
協調型マルチエージェント強化学習問題としてトポロジ選択を再構成する強化学習フレームワークである textbfAgent Q-Mix を提案する。
提案手法は,Qmix値分解を用いて分散化された通信決定を学習し,各エージェントがラウンドワイド通信グラフを共同生成する一連の通信行動から選択する。
エージェントQ-Mixは,エージェント故障に対して優れたトークン効率とロバスト性を示しながら,既存手法と比較して高い平均精度を達成する。
論文 参考訳(メタデータ) (2026-04-01T00:38:24Z) - DLLM Agent: See Farther, Run Faster [94.74432470237817]
拡散大言語モデル(DLLM)は、自己回帰(AR)デコーディングの代替として、魅力的な効率とモデリング特性を持つ。
我々は、DLLMとARのバックボーンを同一のエージェントワークフロー内でインスタンス化することで、制御された環境でこれを研究する。
DLLMエージェントはARエージェントよりも平均30%以上速く、場合によっては8倍のスピードアップを達成している。
論文 参考訳(メタデータ) (2026-02-07T09:01:18Z) - FedScalar: A Communication efficient Federated Learning [0.0]
フェデレーテッド・ラーニング(FL)は分散機械学習でかなりの人気を集めている。
emphFedScalarは、エージェントが単一のスカラーを使用して更新を通信することを可能にする。
論文 参考訳(メタデータ) (2024-10-03T07:06:49Z) - Real-Time Motion Prediction via Heterogeneous Polyline Transformer with
Relative Pose Encoding [121.08841110022607]
既存のエージェント中心の手法は、公開ベンチマークで顕著な性能を示した。
K-nearest neighbor attention with relative pose encoding (KNARPE) は、トランスフォーマーがペアワイズ相対表現を使用できる新しいアテンション機構である。
エージェント間でコンテキストを共有し、変化しないコンテキストを再利用することで、私たちのアプローチはシーン中心のメソッドと同じくらい効率的になり、最先端のエージェント中心のメソッドと同等に実行されます。
論文 参考訳(メタデータ) (2023-10-19T17:59:01Z) - MADiff: Offline Multi-agent Learning with Diffusion Models [79.18130544233794]
MADiffは拡散型マルチエージェント学習フレームワークである。
分散ポリシと集中型コントローラの両方として機能する。
実験の結果,MADiffは様々なマルチエージェント学習タスクにおいて,ベースラインアルゴリズムよりも優れていた。
論文 参考訳(メタデータ) (2023-05-27T02:14:09Z) - Lightweight Distributed Gaussian Process Regression for Online Machine
Learning [2.0305676256390934]
エージェントのグループは、ストリーミングデータを通じて共通の静的潜伏関数を協調的に学習することを目指している。
本稿では,通信,計算,メモリにおけるエージェントの限られた能力を認識する軽量分散ガウスプロセス回帰(GPR)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-11T01:13:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。