論文の概要: DART-SD: Diamond-topology Aware Retrieval and Tuning for Self-Distillation of Multi-Turn Tool-Calling Agents
- arxiv url: http://arxiv.org/abs/2608.18524v1
- Date: Wed, 19 Aug 2026 04:19:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.27814
- Title: DART-SD: Diamond-topology Aware Retrieval and Tuning for Self-Distillation of Multi-Turn Tool-Calling Agents
- Title(参考訳): DART-SD:ダイアモンドトポロジーによる多孔工具カートリング剤の自己蒸留のための検索と調整
- Abstract要約: 本稿では,DART-SD(Diamond-topology Aware Retrieval and Tuning for Self-Distillation)を提案する。
複雑なマルチターンツールコールベンチマークの実験では、DART-SDは従来の全軌道ベースラインよりも大幅に優れていた。
- 参考スコア(独自算出の注目度): 9.202344369632138
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Equipping Large Language Models (LLMs) with multi-turn tool-calling capabilities is essential for building autonomous agents. However, progress is fundamentally limited by the reliance on full-length trajectory imitation. For tasks involving multiple order-independent sub-goals, the optimal solution space forms a vast combinatorial diamond lattice. Forcing this rich topology into monolithic trajectories causes a severe topological collapse, indiscriminately penalizing valid alternative explorations and severely degrading policy diversity. To address this, we propose DART-SD (Diamond-topology Aware Retrieval and Tuning for Self-Distillation), a novel framework that shifts the paradigm from global forcing to topology-guided localized correction. DART-SD first models the execution process as a converging Interaction-State Transition Graph (ISTG), faithfully capturing the inherent diamond topology of successful and failed exploratory paths. During autonomous rollouts, the framework identifies the Critical Topological Breakpoint (CTB) and retrieves success-supported recovery references. Finally, we introduce a progressive self-distillation paradigm through CTB-guided localized supervision, ensuring that the training loss is calculated exclusively on the generated recovery steps while strictly protecting the valid reasoning prefix from destructive gradient updates. Experiments on complex multi-turn tool-calling benchmarks demonstrate that DART-SD significantly outperforms traditional full-trajectory baselines.
- Abstract(参考訳): マルチターンツールコール機能を備えた大規模言語モデル(LLM)の取得は、自律エージェントの構築に不可欠である。
しかし、進行は完全な軌跡模倣に依存しているため、基本的に制限されている。
複数の順序非依存な部分ゴールを含むタスクに対して、最適解空間は巨大な組合せダイヤモンド格子を形成する。
このリッチトポロジをモノリシックな軌道に強制すると、深刻なトポロジ的崩壊が起こり、有効な代替探索を無差別に罰せられ、政策の多様性が著しく低下する。
そこで我々は,DART-SD(Diamond-topology Aware Retrieval and Tuning for Self-Distillation)を提案する。
DART-SDはまず、実行プロセスを収束する相互作用状態遷移グラフ(ISTG)としてモデル化し、成功し、探索に失敗したダイヤモンドのトポロジーを忠実に捉えた。
自律的なロールアウトの間、このフレームワークはクリティカル・トポロジカル・ブレークポイント(CTB)を特定し、成功支援されたリカバリ基準を検索する。
最後に, CTB誘導局所監視による進行的自己蒸留パラダイムを導入し, トレーニング損失が生成した回復段階のみに限定して算出され, 有効な理由付けプレフィックスを破壊的勾配更新から厳格に保護する。
複雑なマルチターンツールコールベンチマークの実験では、DART-SDは従来の全軌道ベースラインよりも大幅に優れていた。
関連論文リスト
- ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳(メタデータ) (2026-09-01T10:54:13Z) - Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。
既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。
本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
論文 参考訳(メタデータ) (2026-07-08T09:27:15Z) - AnE: Pushing the Reasoning Frontier of Multimodal LLMs via Anchor Evolution [61.593935260052795]
Supervised Fine-Tuning (SFT) とReinforcement Learning (RL) による後学習は多モーダル大規模言語モデル(MLLM)における推論の強化に不可欠である
既存のパラダイムは、静的データの制限により、しばしばパフォーマンスのボトルネックに達する。
我々は,真理に順応したデータキュレーションとモデル進化を統合する新しいパラダイムであるアンカー進化(AnE)を提案する。
論文 参考訳(メタデータ) (2026-05-25T08:26:34Z) - DiffusionOPD: A Unified Perspective of On-Policy Distillation in Diffusion Models [55.01951088768769]
DiffusionOPDはオンライン政策蒸留(OPD)に基づく拡散モデルのための新しいマルチタスクトレーニングパラダイムである
本研究では,DiffusionOPDがトレーニング効率と最終性能において,マルチリワードRLとカスケードRLのベースラインを一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2026-05-14T16:49:09Z) - Joint Geometric and Trajectory Consistency Learning for One-Step Real-World Super-Resolution [14.52346301984322]
拡散に基づくReal-World Image Super-Resolution (Real-ISR)は、印象的な知覚品質を実現するが、反復サンプリングによる高い計算コストに悩まされる。
本稿では,GTASR(Geometric Trajectory Alignment Super-Resolution)を提案する。
論文 参考訳(メタデータ) (2026-02-27T18:13:31Z) - DSDR: Dual-Scale Diversity Regularization for Exploration in LLM Reasoning [34.572542770447974]
検証器を用いた強化学習(RLVR)は、大規模言語モデル(LLM)推論を改善するための中心的なパラダイムであるが、既存の手法では探索が制限されることが多い。
DSDRは,LLM推論の多様性をグローバルおよびカップリングコンポーネントに分解する,大規模多変量正規化強化学習フレームワークである。
我々は,DSDRが有界正規化の下で最適な正当性を保ち,グループベース最適化において情報的学習信号を保持し,原理化されたグローバル-ローカル結合規則を導出することを示す理論的支援を提供する。
論文 参考訳(メタデータ) (2026-02-23T14:37:01Z) - ProRAG: Process-Supervised Reinforcement Learning for Retrieval-Augmented Generation [54.071574153853994]
ProRAGは、学習段階の監視をオンライン最適化ループに統合するために設計されたプロセス教師付き強化学習フレームワークである。
本フレームワークは,(1)構造化推論形式でモデルを初期化するための監視されたポリシーワームアップ,(2)中間推論品質を定量化するためのMCTSベースのプロセスリワードモデル(PRM)の構築,(3)細粒度プロセスの好みに合わせてポリシーを調整するためのPRM誘導推論リファインメント,(4)プロセススーパービジョン強化学習と2つのグラニュラリティー・アドバンテージ・メカニズムの4段階から構成される。
論文 参考訳(メタデータ) (2026-01-29T16:04:59Z) - Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants [85.33837131101342]
本稿では,基盤基盤,アルゴリズム最適化,認知推論,統合マルチモーダルインテリジェンスという4つの柱で構成された戦略ロードマップを提案する。
この移行は、複雑な構造的推論、動的自己補正、シームレスなマルチモーダル統合が可能な次世代AIの開発に不可欠である、と我々は主張する。
論文 参考訳(メタデータ) (2026-01-20T14:58:23Z) - On The Presence of Double-Descent in Deep Reinforcement Learning [43.22339935902436]
二重降下パラドックスは深部強化学習(DRL)の非定常領域においてほとんど探索されていない。
本稿では, DDがモデルフリーDRLに存在することを示す予備的証拠として, Actor-Critic フレームワークを用いて, 様々なモデルキャパシティを体系的に調査する。
これらの知見は、DDをDRLの因子として確立し、より汎用的で、転送可能で、堅牢なエージェントを設計するための情報ベースのメカニズムを提供する。
論文 参考訳(メタデータ) (2025-11-10T09:45:03Z) - Restoration Score Distillation: From Corrupted Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
Score Distillation (DSD) の原理的一般化である textitRestoration Score Distillation (RSD) を提案する。
RSDは、ぼやけた画像、不完全画像、低解像度画像など、広範囲の汚職タイプに対応している。
自然と科学の両方のデータセットの様々な復元作業において、教師モデルを一貫して上回っている。
論文 参考訳(メタデータ) (2025-05-19T17:21:03Z) - SDR-GAIN: A High Real-Time Occluded Pedestrian Pose Completion Method for Autonomous Driving [2.6663666678221376]
我々は,SDR-GAIN(Generative Adrial Imputation Nets)の分離と次元化に基づく新しいリアルタイム閉鎖型歩行者ポーズ補完フレームワークを提案する。
SDR-GAINは、キーポイント座標の数値分布から直接人間のポーズを学習し、行方不明位置を補間することを目的としている。
COCOとJAADデータセットで実施された実験は、SDR-GAINが従来の機械学習とTransformerベースの欠落データアルゴリズムを上回ることを示した。
論文 参考訳(メタデータ) (2023-06-06T09:35:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。