論文の概要: When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents

• arxiv url: http://arxiv.org/abs/2608.05810v1
• Date: Thu, 06 Aug 2026 09:43:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.736245
• Title: When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents
• Title（参考訳）: 自己進化のバックファイア: LLMエージェントのスキル汚染に対するプレコミットゲーティング
• Abstract要約: 自己進化剤は, 実行軌道から再利用可能なスキルを蒸留することによって蓄積するが, このプロセスは単調ではない。 この機能-汚染相転移を形式化し、構造的原因まで追跡する。 汚染が構造的に不可逆であることを示す: 子孫がすでに受け継いだ欠点を消すことができないという事実から、ソーススキルを除去することは、失われた性能のごく一部しか回復できない。
• 参考スコア（独自算出の注目度）: 24.749287669929913
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-evolving agents accumulate capability by distilling reusable skills from their execution trajectories, but we find this process is not monotonic: past a critical pool size, newly added skills degrade performance instead of improving it. We formalize this capability-contamination phase transition and trace it to a structural cause: once a defective skill enters the decision context, it becomes reference material for distilling later skills, forming cross-round contamination chains. We further show the contamination is structurally irreversible: removing a source skill after the fact cannot erase the flawed reasoning its descendants have already inherited, so post-hoc rollback recovers only a small fraction of the lost performance. This makes skill admission a pre-commit necessity rather than a post-hoc fix, and motivates Verifier-as-Gatekeeper (VaG): a progressive trust hierarchy whose three heterogeneous critics - structural validity, behavioral harmlessness, and semantic consistency - filter each skill individually, coupled with a marginal-gain subset selection that removes combinatorial contamination at the top tier before skills reach the runtime context. On Terminal-Bench 2, unconditional accumulation rises to a peak and then degrades, giving back most of its gains as the pool keeps growing, and post-hoc removal of the culprit skills recovers only a small part of the drop - the empirical signature of irreversibility. In contrast, VaG improves every round, reaching 72% pass@1 with a pool roughly 5x smaller, and its frozen skill pool transfers positively to four other backbones and a second benchmark without re-evolution. Ablations confirm the three critics are complementary and mutually non-substitutable, each intercepting a largely disjoint class of harmful skills.
• Abstract（参考訳）: 自己進化型エージェントは、その実行軌跡から再利用可能なスキルを蒸留することによって能力を蓄積するが、このプロセスは単調ではない。 この能動汚染相転移を形式化し, 構造的原因に追従する: 欠陥スキルが決定コンテキストに入ると, 後続のスキルを蒸留し, クロスラウンド汚染鎖を形成する基準材料となる。 さらに, 汚染は構造的に不可逆であることを示し, 子孫がすでに受け継いだ欠陥を除去できないという事実から, ソーススキルの除去が不可能であることから, ポストホックロールバックは, 損失した性能のごく一部を回復させる。 VaG(Verifier-as-Gatekeeper)は、3人の異質な批判 - 構造的妥当性、振る舞いの調和性、セマンティックな一貫性 - それぞれを個別にフィルタリングし、スキルが実行環境に到達する前に、上位層での組合せ汚染を除去する限界ゲインサブセットの選択と組み合わせるプログレッシブな信頼階層である。 ターミナルベンチ2では、無条件の蓄積がピークに達して劣化し、プールが成長し続ければ、その利益のほとんどを返却する。 対照的に、VaGはすべてのラウンドを改善し、プールを約5倍小さくした72%のpass@1に達し、凍結したスキルプールは他の4つのバックボーンと再進化のない2番目のベンチマークにポジティブに転送する。 アブレーションは、3人の批評家が相補的で相互に置換不可能であることを確認し、それぞれがほとんど不連続な有害なスキルのクラスをインターセプトする。

関連論文リスト

• Demystifying Agent Skills: Why They Work-Until They Don't [58.92875630998418]
  既存の評価は、スキルが集約されたタスクの成功を改善するかどうかを主に測定する。 我々は、表現、結果アノテーション、検索難易度、スキルのクロスフレームワークの影響を分離する。 我々はこれらの観察を3つの高レベルカテゴリと12のスキルユースモードの分類に集約する。
  論文  参考訳（メタデータ） (2026-08-14T07:26:38Z)
• SkillEvo: Self-Renewing Evolution Gradients from Multi-Turn Interaction Feedback [10.248606572826729]
  エージェントスキルは、手書きまたは単一のLLM世代パスで作成される。 最近の研究は、このループを閉じているが、シングルターンの質問応答評価からフィードバックを得ている。 我々はSkillEvoを紹介し、信頼できるフィードバックが勾配を生成し、制御可能なガバナンスがその方向性を制約する。
  論文  参考訳（メタデータ） (2026-08-13T11:49:02Z)
• SkillProx: Self-Evolving Agent Skills via Proximal Textual Gradient Descent [27.354076514186094]
  LLMエージェントは、スキルの手続き的知識を蓄積することで、繰り返しのタスクに適応する。 近年の手法では、反復的なタスク実行、故障診断、軌跡誘導によるテキスト空間更新によってスキルを洗練している。 SkillProxは, 閉ループ診断の進化と, 実用性に配慮した近位化を両立させるフレームワークである。
  論文  参考訳（メタデータ） (2026-08-07T17:40:33Z)
• Rethinking Self-Evolution: A Constrained Exploration-Exploitation Process for Mitigating Skill Overfitting [20.811638832981178]
  大規模言語モデル(LLM)エージェントは、過去のインタラクションからの経験を蓄積し再利用する必要がある。 データ駆動のスキル最適化は、実際の環境から収集された限られた軌道に過度に適合する傾向がある。 リスクを緩和する3段階フレームワークであるSkillBoostを提案する。
  論文  参考訳（メタデータ） (2026-07-29T09:05:40Z)
• The Regression Tax: Decomposing Why Skills Help and Hurt LLM Agents [0.12891210250935145]
  LLMエージェントに手続き的スキルを加えることは、通常、タスク成功の平均的な改善によって評価される。 この指標は重要なコストを隠蔽します。 約6,000回のランでエージェントとスキルと非スキルを比較して、双方を計測する。
  論文  参考訳（メタデータ） (2026-07-24T17:50:03Z)
• Who Grades the Grader? Co-Evolving Evaluation Metrics and Skills for Self-Improving LLM Agents [9.989306175511238]
  自己進化型エージェントシステムは、自身のスキルの作成、修正、引退によって改善されるが、そのようなループはすべて隠れた仮定に依存している。 まず、私たちのメトリックループは、完全な進化のライフサイクルの下で小さな検出器の組成を探索します。 第二に、メートル法が存在しないため、ヤードスティックは正確なメートル法が実現したことを回復しており、EmphDouble Ratchetは、ライフサイクル管理されたスキルループによるメトリックの共進化です。
  論文  参考訳（メタデータ） (2026-07-14T14:02:50Z)
• MAIGO: Mitigating Lost-in-Conversation with History-Cleaned On-Policy Self-Distillation [51.32912774464992]
  大規模な言語モデルは、しばしば完全に指定されたプロンプトからタスクを解くが、同じ要求が複数のターンに広がると分解する。 本研究は, モデル自体の方針から, 履歴をクリアした基準を用いて汚染を低減させる, オンライン自己蒸留法であるMAIGOを提案する。 ミドルターンの場合、MAIGOは、ユーザ可視のシャードプレフィックスを保持しながら、事前のアシスタント応答を削除します。
  論文  参考訳（メタデータ） (2026-05-26T15:38:46Z)
• ReAD: Reinforcement-Guided Capability Distillation for Large Language Models [69.00808591939524]
  固定トークン予算下でのキャパシティ蒸留について検討し、2つの一貫したパターンを同定する。 Reinforcement-guided cApability Distillation frameworkであるREADを提案する。
  論文  参考訳（メタデータ） (2026-05-11T22:17:51Z)
• SkillGen: Verified Inference-Time Agent Skill Synthesis [60.927977774369516]
  SkillGenは、ベースエージェントによって生成されたトラジェクトリから単一の監査可能なスキルを合成するフレームワークである。 再利用可能な成功パターン、繰り返し発生する障害モード、そして近くの成功に現れるが失敗に欠ける行動を特定する。 SkillGenの重要な特徴は、エージェントスキルを、全体的なパフォーマンスに対するスキルのネット効果を実証的に検証するための介入としてモデル化することです。
  論文  参考訳（メタデータ） (2026-05-09T19:24:11Z)
• To Throw a Stone with Six Birds: On Agents and Agenthood [0.0]
  Six Birds Theory (SBT)は、マクロな物体を原始体ではなく誘導的閉包として扱う。 SBT内では,タイプ正当性評価を行う。 我々はこの契約を4つのチェック可能なコンポーネントを用いて有限制御システムで運用する。
  論文  参考訳（メタデータ） (2026-02-03T10:46:23Z)
• A Unified View of Attention and Residual Sinks: Outlier-Driven Rescaling is Essential for Transformer Training [86.64715217940274]
  外接線は正規化と共に機能する。 アウトリーチは、コントリビュータではなく、再スケール要因として役立ちます。 外乱は学習可能なパラメータに吸収されるか、明示的なゲート再スケーリングによって緩和される。
  論文  参考訳（メタデータ） (2026-01-30T13:29:45Z)
• Evaluating Self-Correcting Vision Agents Through Quantitative and Qualitative Metrics [0.0]
  Vision-Language Agents (VLA) は複雑な視覚タスクを実行可能なツールベースの計画に分解することができる。 最近のベンチマークでは反復的自己補正の評価が始まっているが、その量的制限と支配的な推論ボトルネックはいまだに不十分である。
  論文  参考訳（メタデータ） (2026-01-14T15:17:11Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation [122.83280749890078]
  本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
  論文  参考訳（メタデータ） (2022-02-05T20:08:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。