論文の概要: Agentic Knowledge-Model Co-Evolution via Consistency Regularization

• arxiv url: http://arxiv.org/abs/2610.30790v1
• Date: Thu, 22 Oct 2026 06:09:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.232738
• Title: Agentic Knowledge-Model Co-Evolution via Consistency Regularization
• Title（参考訳）: 一貫性規則化によるエージェント的知識モデル共進化
• Abstract要約: 一貫性に規則化された知識モデル共進化のためのフレームワークであるSPLICEを紹介する。 それは、同じ経験がどのように分析され、異なる知識候補を生み出すかを摂動することで、進化の視点を構築する。 モデル進化の間、自己蒸留は強化学習と共に進化した知識を内部化し、一貫したユーティリティ劣化に関連する知識を対照的な参照として利用する。
• 参考スコア（独自算出の注目度）: 47.11420125825058
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents can evolve by learning from accumulated experience. Existing approaches extract reusable external knowledge, such as skills and memories, from experience to guide subsequent task solving, with some further internalizing this knowledge through model training. However, different ways of analyzing and transforming the same experience can yield knowledge with substantially different utility, even when the resulting guidance appears reasonable. Inspired by consistency regularization, we identify consistent utility gains across different ways of analyzing the same experience, rather than relying on any single way of analyzing it. We introduce SPLICE, a framework for consistency-regularized knowledge-model co-evolution. It constructs evolution views by perturbing how the same experience is analyzed, producing different knowledge candidates. Knowledge updates are then guided by common gain, which accounts for utility gains and their consistency across views. During model evolution, self-distillation internalizes the evolved knowledge alongside reinforcement learning, using knowledge associated with consistent utility degradation as a contrastive reference. The two processes interleave, with model updates driving further knowledge evolution. Experiments across diverse domains show that SPLICE outperforms knowledge evolution and model training baselines by up to 7.1 and 4.6 points in average accuracy, while its evolved knowledge reduces output tokens per correct solution by up to 44% and transfers across model sizes and families.
• Abstract（参考訳）: LLMエージェントは蓄積された経験から学習することで進化することができる。 既存のアプローチは、経験からその後の課題解決のガイドまで、スキルや記憶などの再利用可能な外部知識を抽出し、モデルトレーニングを通じてこの知識をさらに内部化する。 しかし、同じ体験を分析して変換する方法は、たとえ結果のガイダンスが妥当なように見えるとしても、かなり異なるユーティリティで知識を得ることができる。 一貫性の正則化にインスパイアされた私たちは、同じエクスペリエンスを分析するさまざまな方法における一貫したユーティリティゲインを特定します。 一貫性に規則化された知識モデル共進化のためのフレームワークであるSPLICEを紹介する。 それは、同じ経験がどのように分析され、異なる知識候補を生み出すかを摂動することで、進化の視点を構築する。 知識更新は、ユーティリティゲインとビュー間の一貫性を考慮に入れた共通ゲインによってガイドされる。 モデル進化の間、自己蒸留は強化学習と共に進化した知識を内部化し、一貫したユーティリティ劣化に関連する知識を対照的な参照として利用する。 2つのプロセスがインターリーブし、モデル更新がさらなる知識の進化を促す。 様々な領域にわたる実験により、SPLICEは知識の進化とモデルトレーニングのベースラインを平均精度で7.1から4.6ポイントまで上回り、その進化した知識は正しい解当たりの出力トークンを最大44%減らし、モデルのサイズや家族間での転送を減らしている。

関連論文リスト

• VCE-Skill: Enhancing Skill Self-Evolution with Version-Change Experience [12.60845363300573]
  既存のスキル自己進化手法は、主に現在のタスクから収集された実行軌跡を使ってスキルを改訂する。 本稿では,VCE-Skillを提案する。VCE-Skillは,ノイズや実装固有の公開スキルの変更を再利用し,再利用可能なバージョンチェンジエクスペリエンスを実現する。 私たちの研究は、事前知識の未熟だが効果的な源泉として、公開スキルのバージョン変更を強調し、軌道駆動スキルの自己進化を前進させます。
  論文  参考訳（メタデータ） (2026-08-17T13:16:59Z)
• How Do LLMs Acquire New Knowledge? A Knowledge Circuits Perspective on Continual Pre-Training [92.88889953768455]
  大きな言語モデル(LLM)は、どのようにして新しい知識を内部化するかを理解する上で、重大なギャップに直面します。 知識記憶と処理を容易にする計算サブグラフを同定する。
  論文  参考訳（メタデータ） (2025-02-16T16:55:43Z)
• EvoWiki: Evaluating LLMs on Evolving Knowledge [72.92365627254063]
  EvoWiki(エボウィキ)は、知識の進化を反映した進化的データセットである。 我々の結果は、現在のモデルは進化した知識に苦しむことが多く、時代遅れや誤った反応を頻繁に与えていることを示している。 EvoWikiは、大規模言語モデルの知識進化能力に関する将来の研究を進めるための堅牢なベンチマークを提供する。
  論文  参考訳（メタデータ） (2024-12-18T08:04:57Z)
• Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs [0.5461938536945721]
  大規模言語モデル(LLM)は、事前訓練された重みの中に大量の事実情報をカプセル化する。 この知識は本質的に限られたものであり、トレーニングデータの特徴に大きく依存している。 教師なし微調整と検索拡張生成の2つの一般的なアプローチを比較した。
  論文  参考訳（メタデータ） (2023-12-10T16:52:00Z)
• Crystal: Introspective Reasoners Reinforced with Self-Feedback [118.53428015478957]
  本稿では,イントロスペクティブ・コモンセンス推論器であるCrystalを開発するための新しい手法を提案する。 コモンセンス問題に対処するため、まず与えられた質問に関連する知識ステートメントのイントロスペクションを行い、その後、それまでのイントロスペクションされた知識に根ざした情報予測を行う。 実験により、クリスタルは標準的な微調整法と連鎖蒸留法の両方で著しく優れており、コモンセンス推論プロセスの透明性を高めていることが示された。
  論文  参考訳（メタデータ） (2023-10-07T21:23:58Z)
• Anti-Retroactive Interference for Lifelong Learning [65.50683752919089]
  我々は脳のメタラーニングと連想機構に基づく生涯学習のパラダイムを設計する。 知識の抽出と知識の記憶という2つの側面から問題に取り組む。 提案した学習パラダイムが,異なるタスクのモデルを同じ最適に収束させることができることを理論的に分析した。
  論文  参考訳（メタデータ） (2022-08-27T09:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。