論文の概要: Progress-Aware Distillation for Mitigating Stagnation in Small Language Model Agents

• arxiv url: http://arxiv.org/abs/2610.19439v2
• Date: Sat, 17 Oct 2026 04:49:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 21:22:33.487025
• Title: Progress-Aware Distillation for Mitigating Stagnation in Small Language Model Agents
• Title（参考訳）: 小言語モデルエージェントの劣化緩和のための進歩型蒸留法
• Abstract要約: 本稿では,学生が生成した軌道の停滞を明示的に検出し,罰するプログレッシブ・アウェア蒸留(ProD)を提案する。 ProDは、蒸留したSLM剤の成功率とタスクコンプリート効率を両立させながら、進行の停滞を著しく軽減する。
• 参考スコア（独自算出の注目度）: 46.28779971848411
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While LLM-based agent systems have demonstrated remarkable proficiency in reasoning and solving complex real-world tasks, they also come with substantial token consumption and inference latency, limiting their practical deployment. To enhance the efficiency of agent systems, recent efforts have focused on transferring agentic capabilities from large-scale models to small language models (SLMs) via supervised fine-tuning-based distillation. Nevertheless, as interaction trajectories grow longer, involving extended reasoning-action chains and extensive environmental feedback, distilled student agents tend to experience progress stagnation: becoming trapped in unproductive loops characterized by persistent failed strategies and difficulty making meaningful progress. Our systematic analysis shows that this phenomenon consistently occurs across diverse SLMs and task domains. To address this issue, we propose Progress-Aware Distillation (ProD), which explicitly detects and penalizes stagnation in student-generated trajectories. ProD encodes the stagnation gap between student and teacher into an adaptive margin for dynamically penalizing possible stagnation. By iteratively applying this procedure, ProD enables student agents to progressively approximate teacher behavior. Extensive experiments involving 8 SLMs, ranging from 0.6B to 8B parameters, on both in-domain and out-of-domain benchmarks, demonstrate that ProD substantially mitigates progress stagnation while enhancing both the success rates and task-completion efficiency of distilled SLM agents.
• Abstract（参考訳）: LLMをベースとしたエージェントシステムは、複雑な現実世界のタスクの推論と解決に顕著な習熟性を示してきたが、トークンの消費と推論のレイテンシも大幅に増加し、実際の展開が制限された。 エージェントシステムの効率を高めるため、近年の取り組みは、大規模モデルから教師付き微調整蒸留による小型言語モデル(SLM)へのエージェント能力の移転に重点を置いている。 それでも、相互作用の軌跡が長くなり、長い推論-行動連鎖と広範な環境フィードバックが伴うため、蒸留された学生エージェントは進行の停滞を経験する傾向にある。 系統解析により,この現象は多種多様なSLMやタスク領域で一貫して発生することが明らかとなった。 この問題に対処するために,学生が生成した軌道の停滞を明示的に検出し,罰するプログレッシブ・アウェア蒸留(ProD)を提案する。 ProDは、学生と教師の間の停滞ギャップを適応マージンにエンコードし、動的に停滞を罰する。 この手順を反復的に適用することにより、学生エージェントは段階的に教師の振る舞いを近似することができる。 ドメイン内ベンチマークとドメイン外ベンチマークの両方において、0.6Bから8Bパラメータを含む8個のSLMを含む広範囲な実験により、ProDは、蒸留したSLMエージェントの成功率とタスクコンプリート効率を両立させながら、進行の停滞を著しく軽減することを示した。

関連論文リスト

• ReSAIL: Mitigating Collapse in Iterative Agent Self-Distillation [10.981168734023385]
  反復的な自己蒸留により、エージェントは連続したデプロイメントから学ぶことができる。 反復型自己蒸留法(ReSAIL)の適応的・選択的拡張について紹介する。 ALFWorldとTextCraftでは、ReSAILは3サイクルにわたるモデルスケールで大幅に向上している。
  論文  参考訳（メタデータ） (2026-09-30T08:49:03Z)
• TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
  大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。 しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。 凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。 MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
  論文  参考訳（メタデータ） (2026-08-18T23:40:28Z)
• Learning with Rare Success but Rich Feedback via Reflection-Enhanced Self-Distillation [71.16738415436458]
  本稿では、生の障害フィードバックを補正管理のアクティブソースに変換するフレームワークであるReflection-Enhanced Self-Distillation(RESD)を紹介する。 RESDは、局所的なエラーを診断するために振り返りリフレクションを生成し、持続的なグローバルなプレイブックをキュレートすることで、障害の軌跡を解釈する。 複数の連続学習課題に対する実証的な評価は、RESDが標準の自己蒸留ベースラインを大幅に上回っていることを示している。
  論文  参考訳（メタデータ） (2026-05-12T20:46:05Z)
• Towards a Virtual Neuroscientist: Autonomous Neuroimaging Analysis via Multi-Agent Collaboration [53.772014300855375]
  我々は,自律型エンドツーエンド神経画像解析のためのマルチエージェントシステムであるNIAgentを紹介する。 従来のフラットなツール呼び出しエージェントとは異なり、NIAgentはコード中心の実行パラダイムを採用している。 本稿では,コホートレベルの検定とエージェント視覚検査を組み合わせた,自律的品質管理のための階層的検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-10T06:30:19Z)
• AEM: Adaptive Entropy Modulation for Multi-Turn Agentic Reinforcement Learning [13.755500788361815]
  強化学習(RL)は、大規模言語モデル(LLM)エージェントが環境と相互作用し、マルチターンタスクを解く能力を大幅に改善した。 既存のアプローチは、プロセス報酬モデルや補助的な自己監督信号など、密集した中間監視を導入することが多い。 本稿では、RLトレーニング中にエントロピーダイナミクスを適応的に調整し、探索・探索トレードオフを改善するための監督不要な信用割当手法であるAEMを提案する。
  論文  参考訳（メタデータ） (2026-05-01T05:54:37Z)
• Experiential Reflective Learning for Self-Improving LLM Agents [1.1074589887824053]
  実験的反射学習(ERL:Experiential Reflective Learning)は,迅速な環境適応を実現するシンプルな自己改善フレームワークである。 ERLはタスクの軌跡と成果を反映して、タスク間で伝達される実行可能なレッスンを生成する。 ERLはReActベースラインよりも成功率を7.8%向上させ、タスク完了の信頼性を大きく向上させる。
  論文  参考訳（メタデータ） (2026-03-25T11:43:22Z)
• Let's Reward Step-by-Step: Step-Aware Contrastive Alignment for Vision-Language Navigation in Continuous Environments [38.97818584066075]
  VLN-CE(Vision-Language Navigation in Continuous Environments)は、長期にわたる人間のインタラクションから複雑な推論を学ぶためのエージェントである。 現在のトレーニングパラダイムは、一般化能力、エラー回復、トレーニング安定性のバランスをとるのに苦労しています。 本稿では,不完全な軌跡から厳密な監視を抽出するためのフレームワークである,ステップアウェアコントラストアライメント(SACA)を紹介する。
  論文  参考訳（メタデータ） (2026-03-10T14:45:50Z)
• Watch Every Step! LLM Agent Learning via Iterative Step-Level Process Refinement [50.481380478458945]
  反復的なステップレベルプロセスリファインメント(IPR)フレームワークは、エージェントトレーニングを強化するためのステップバイステップのガイダンスを提供する。 3つの複雑なエージェントタスクに関する我々の実験は、我々のフレームワークが様々な強力なベースラインより優れていることを示した。
  論文  参考訳（メタデータ） (2024-06-17T03:29:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。