論文の概要: Self-Healing Harness for Runtime Oversight of Agent Self-Modification
- arxiv url: http://arxiv.org/abs/2609.24130v1
- Date: Mon, 21 Sep 2026 05:36:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.969665
- Title: Self-Healing Harness for Runtime Oversight of Agent Self-Modification
- Title（参考訳）: エージェント自己修正のランタイム監視のための自己修復的ハーネス
- Abstract要約: LLMエージェントは将来の行動を変えることができ、自己生成した変更が持続することを許容する基本的な制御問題を提起する。
我々はこれを自己修正の受付制御として定式化し、エージェントは操作命令の変更を提案し、外部ランタイムゲートは永続性を制御する。
- 参考スコア（独自算出の注目度）: 5.222675089489031
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM agents can change their own future behavior, raising a basic control question of which self-generated changes should be allowed to persist. We formulate this as admission control for self-modification. The agent may propose changes to its operating instructions, while an external runtime gate controls persistence. We implement this principle as a model-agnostic self-healing harness that runs a Detect, Notice, Heal, Validate loop around an otherwise unmodified agent. The agent authors candidate behavioral rules in an external workspace, where they receive provisional execution authority during evaluation and acquire persistent cross-episode authority only after measured improvement on the triggering failure without regression beyond a fixed margin on protected cases. Replay provides matched evidence when available, forward trials provide a weaker fallback, and a corpus-level guard re-tests the accumulated active rule set. Across 16 matched Baseline and Harness runs spanning AppWorld, Terminal-Bench, and $τ^2$-Bench, the gate rejected 383 replay-decided proposals. Of these, 211 (55%) improved their triggering failure while degrading a case that previously worked. This shows that locally beneficial self-modifications can introduce collateral regressions often enough to materially affect gate decisions, providing direct empirical motivation for external admission control. Task-completion score is higher under the Harness in all 16 pairs, with two paired bootstrap intervals excluding zero, while repeated-trial reliability is higher in 12 pairs, tied in 4, and lower in none. Because adaptation modifies the policy-inducing context while leaving model weights fixed, admitted changes remain inspectable, reversible, and compatible with closed-weight models.
- Abstract（参考訳）: LLMエージェントは将来の行動を変えることができ、自己生成した変更が持続することを許容する基本的な制御問題を提起する。
我々はこれを自己修正の受け入れ制御として定式化する。
エージェントは操作命令の変更を提案し、外部ランタイムゲートは永続性を制御する。
我々は、この原理をモデルに依存しない自己修復ハーネスとして実装し、そうでなければ修正されていないエージェントの周りで検出、通知、癒し、バリデートループを実行する。
エージェントは、評価中に仮実行権限を受け取り、保護されたケースの一定のマージンを超えて、リグレッションを伴わずにトリガ障害を計測した後にのみ、永続的なクロスエピソード権限を取得する、外部ワークスペース内の候補行動規則を作成。
リプレイは、利用可能なときに一致した証拠を提供し、前方トライアルは、より弱いフォールバックを提供し、コーパスレベルのガードは、蓄積されたアクティブルールセットを再テストする。
16のマッチしたベースラインとハーネスがAppWorld、ターミナルベンチ、そして$τ^2$-Benchにまたがって走り、ゲートは383のリプレイ決定提案を拒否した。
これらのうち211人(55%)は、以前動作したケースを分解しながらトリガー障害を改善した。
このことは、局所的に有用な自己修正は、しばしばゲート決定に重大な影響を及ぼすのに十分な側方回帰を導入し、外部の受け入れ制御に直接的な経験的動機を与えることを示している。
タスク完了スコアは全16組でハーネスより高く、ゼロを除く2組のブートストラップ間隔はゼロであり、反復的信頼性は12組では高く、4組では結び付けられず、ゼロでは低くなっている。
適応は、モデルウェイトを固定したままポリシー誘導コンテキストを変更するため、許容された変更は検査可能であり、可逆であり、クローズドウェイトモデルと互換性がある。
関連論文リスト
- RRSI: Regularized Recursive Self-Improvement of Agent Harnesses [76.67111148617533]
正規化再帰的自己改善型エージェント・ハーネス(RRSI)
本稿では、正規化の原則を取り入れたRRSIを紹介し、進化候補の提案と選択を制約することで自己改善を活用する。
RRSIは5つのアウト・オブ・ディストリビューション・ベンチマークで14.1ポイント、最大4.7ポイントを獲得し、非正規化進化よりも30%少ないポリシートークンで動作するハーネスを生産している。
論文 参考訳（メタデータ） (2026-09-21T17:54:49Z) - FINSKILLOPS: A Self-Evolving Multi-Agent System for SEC Filing QA [19.781137463581274]
既存の自己改善手法は、失敗を新しい振る舞いに変えることができる。
我々は、デプロイ後の改善を、制御された行動維持とみなしている。
SECの申請QAのためのマルチエージェントシステムであるFINSKILLOPSで、この見解をインスタンス化する。
論文 参考訳（メタデータ） (2026-09-17T04:25:17Z) - Collective Loss of Control in LLM Agent Systems: An Epidemic Account of Mutation, Contagion, and Recovery [5.713807329849712]
本報告では,偶発突然変異,伝染病,回復にまつわる疫病の解明について述べる。
報告されたOpenAIエージェントコーディネートインシデントを動機として,このメカニズムの2つの要素について検討した。
論文 参考訳（メタデータ） (2026-09-16T10:55:13Z) - EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents [74.54929751174289]
EvoSafeHarnessは、ターゲットドメイン内の凍結モデルのためのデプロイ可能なハーネスを合成する、安全固有の最適化フレームワークである。
これは平均攻撃成功率を3.3ポイントのユーティリティコストで45.6%から10.0%に下げる。
また、Agent-SafetyBenchでは、すべての犠牲者に対してベストスコアを獲得している。
論文 参考訳（メタデータ） (2026-09-05T05:56:41Z) - SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute [62.3458279176813]
自己検証リファインメント(Self-Verifying Refinement)は、オラクルフリーのマルチターン強化学習フレームワークである。
自己検証を計算制御ポリシとして使用することを学ぶ。
マクロ平均精度は0.563で、平均で2.99回しか推測できない。
論文 参考訳（メタデータ） (2026-07-30T16:20:58Z) - Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents [5.91817208489443]
検証・受け入れ・デプロイのギャップについて検討する。
このギャップは、エージェントの自己承認された検証信号と封印されたデプロイメント評価との相違を指す。
シーリング型外因性受容ループ(SEAL)について紹介する。
論文 参考訳（メタデータ） (2026-07-27T11:45:14Z) - Falsifiable Release Gates for Self-Improving Systems [0.0]
本稿では,フェール可能なリリースゲートと,そのようなシステムの構築と検証方法について述べる。
すべての新機能は、出荷前に、指定されたマシン検証可能な受け入れスイートをパスしなければならない。
コントロールリングによってマイニングされる安全クリティカルなプロパティ機能トークンのないエフェクターには、アクションは発生しない。
論文 参考訳（メタデータ） (2026-07-11T06:06:34Z) - TTHE: Test-Time Harness Evolution [50.26245555541721]
既存のアプローチでは、デプロイ前、トレーニング前、あるいはテスト時に凍結される固定されたエージェントワークフローの開発データを最適化する。
我々は、エージェントがテスト入力で生成するラベルのない実行トレースのみを使用して、評価自体にハーネスを最適化できるかどうかを問う。
評価中、TTHEは候補ハーネスの人口を維持し、それらの実行トレースの理由をエージェントプロジェクタを通じてそれらを洗練する。
その後、審査員は実行元プロキシ信号から改善されたハーネスをコミットし、選択したプログラムは継続してその後の入力を統治する。
論文 参考訳（メタデータ） (2026-07-09T05:53:39Z) - From Failed Trajectories to Reliable LLM Agents: Diagnosing and Repairing Harness Flaws [12.757205456771295]
本稿では,エージェント故障の診断と修復を行うためのトレースガイドフレームワークであるHarnessFixを提案する。
HarnessFixは生の実行トレースをコンパイルし、コードをHarness対応のトレース中間表現に変換する。
障害の原因は、責任ある軌道ステップとレイヤの活用、繰り返し診断を実行可能な欠陥レコードに集約し、スコープ化された修復オペレータにマップすることにある。
論文 参考訳（メタデータ） (2026-06-04T15:58:30Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。