論文の概要: AtomSD: Procedural Atom-Guided Self-Distillation for LLM Agents
- arxiv url: http://arxiv.org/abs/2610.26926v1
- Date: Sat, 17 Oct 2026 14:12:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.399079
- Title: AtomSD: Procedural Atom-Guided Self-Distillation for LLM Agents
- Title(参考訳): AtomSD:LLM剤のための手続き的原子誘導自己蒸留
- Abstract要約: 本稿では、Intent、When、Do、Avoidのガイダンスを表す、細粒度で独立して適用可能な手続き的Atomについて紹介する。
AtomSD(Atom-Guided Self-Distillation)は、学習者が自身の成功した軌道から手続き的なAtomを継続的に抽出し、Atom条件の監視とタスク-リワード最適化を通じて進化するポリシーに蒸留する、Atom誘導型自己蒸留フレームワークである。
- 参考スコア(独自算出の注目度): 38.66051891575811
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) possess broad factual knowledge and strong reasoning capabilities, but solving complex tasks also requires procedural knowledge about how to act. Existing approaches often represent procedural knowledge through trajectories or bundled skills, limiting flexible reuse across interaction histories. This paper introduces Procedural Atoms, fine-grained and independently applicable units that represent Intent, When, Do, and Avoid guidance. Building on this representation, we propose AtomSD, an Atom-guided Self-Distillation framework in which the learner continually extracts Procedural Atoms from its own successful trajectories and distills them into the evolving policy through Atom-conditioned supervision and task-reward optimization. Comprehensive experiments show that AtomSD consistently outperforms strong reward-based and distillation methods, exceeding the state-of-the-art baseline by up to 9.31 points in average performance. Further analyses demonstrate that the proposed Procedural Atoms provide effective guidance, highlighting the value of atom-level procedural knowledge for policy learning.
- Abstract(参考訳): 大規模言語モデル(LLM)は、幅広い事実知識と強力な推論能力を持っているが、複雑なタスクの解決には、行動に関する手続き的な知識も必要である。
既存のアプローチは、しばしば手続き的な知識を軌跡や束縛されたスキルを通して表現し、相互作用履歴間の柔軟な再利用を制限する。
本稿では、Intent、When、Do、Avoidのガイダンスを表す、細粒度で独立して適用可能な手続き的Atomについて紹介する。
この表現に基づいて、我々は、学習者が自身の成功した軌道から手続き的なAtomを継続的に抽出し、Atom条件の監督とタスク・リワード最適化を通じて進化するポリシーに蒸留するAtomSD(Atom-guided Self-Distillation framework)を提案する。
総合的な実験によると、AtomSDは強い報酬ベースと蒸留法を一貫して上回り、平均的なパフォーマンスで最先端のベースラインを9.31ポイント上回っている。
さらに分析した結果、提案した手続き的原子は、政策学習における原子レベルの手続き的知識の価値を強調し、効果的なガイダンスを提供することが示された。
関連論文リスト
- Knowledge-guided Disentanglement with Atomic Actions for Action Recognition [19.532318459169446]
複雑なシーンでのアクション認識は、しばしば複数の細かいアクションを同時に含む。
既存の手法の多くは全体論的な表現に依存しており、微妙な相互作用や微妙な意味論を捉えるには不十分である。
我々は, きめ細かな意味的知識を活用し, 行動表現を増強する知識誘導型原子行動拡散(KDA)を提案する。
論文 参考訳(メタデータ) (2026-07-28T03:54:27Z) - From Atomic Actions to Standard Operating Procedures: Iterative Tool Optimization for Self-Evolving LLM Agents [90.3279207163486]
EvoSOPは、エージェントが実行軌跡からSOPを抽出し、反復的にツールセットを最適化することを可能にするフレームワークである。
EvoSOPはタスク成功率を大幅に向上し,インタラクションラウンドの回数を大幅に削減することを示す。
論文 参考訳(メタデータ) (2026-07-08T12:09:49Z) - PADME: Procedure Aware DynaMic Execution [7.8148770419284865]
本稿では,プロシージャをグラフベースで表現するエージェントフレームワークであるPADME(Process Aware DynaMic Execution)を紹介する。
手動グラフ構築や非構造化推論に依存する以前の作業とは異なり、PADMEは手続き的テキストを自動で実行可能なグラフに変換する。
PADMEは、ALFWorldとScienceWorldを含む4つの異なるベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-10-13T11:15:49Z) - Atom-Searcher: Enhancing Agentic Deep Research via Fine-Grained Atomic Thought Reward [35.459263116373485]
大規模言語モデル(LLM)は、目覚ましい問題解決能力を示すが、静的な内部知識のために複雑なタスクに苦しむ。
エージェントディープリサーチの最近の進歩は、LSMに自律的に情報を分析し、検索し、合成する権限を与えている。
我々はまず、推論を微粒な機能単位に分解する新しいLCM思考パラダイムであるAtomic Thoughtを提案する。
そこで我々は,Atom ThoughtとATRを統合したエージェントディープリサーチのための新しいRLフレームワークAtom-Searcherを提案する。
論文 参考訳(メタデータ) (2025-08-18T10:23:10Z) - Can Atomic Step Decomposition Enhance the Self-structured Reasoning of Multimodal Large Models? [68.72260770171212]
本稿では,最小のセマンティック・アトミックステップから構成される自己構造的思考の連鎖(SCoT)のパラダイムを提案する。
本手法は, 複雑なタスクに対して認知的CoT構造を生成するだけでなく, 過度に考える現象を緩和する。
我々は,提案したAtomThinkがベースラインMLLMの性能を大幅に向上することを示すため,広範囲な実験を行った。
論文 参考訳(メタデータ) (2025-03-08T15:23:47Z) - AtomThink: Multimodal Slow Thinking with Atomic Step Reasoning [68.65389926175506]
思考の自己構造連鎖(SCoT)の新たなパラダイムを提案する。
本手法は, 複雑なタスクに対する認知的CoT構造を生成するだけでなく, より簡単なタスクに対して過度に考える現象を緩和する。
我々は,提案したAtomThinkがベースラインMLLMの性能を大幅に向上することを示すため,広範囲な実験を行った。
論文 参考訳(メタデータ) (2024-11-18T11:54:58Z) - Watch Every Step! LLM Agent Learning via Iterative Step-Level Process Refinement [50.481380478458945]
反復的なステップレベルプロセスリファインメント(IPR)フレームワークは、エージェントトレーニングを強化するためのステップバイステップのガイダンスを提供する。
3つの複雑なエージェントタスクに関する我々の実験は、我々のフレームワークが様々な強力なベースラインより優れていることを示した。
論文 参考訳(メタデータ) (2024-06-17T03:29:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。