論文の概要: Auditing Harness Tampering in Self-Improving Agents
- arxiv url: http://arxiv.org/abs/2609.00069v1
- Date: Sun, 30 Aug 2026 17:18:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.818599
- Title: Auditing Harness Tampering in Self-Improving Agents
- Title（参考訳）: 自己改善剤の音質調整
- Abstract要約: 我々は、この現象をハーネスの改ざんと呼び、報酬と測定の改ざんから完全な自己改善ライフサイクルまでの概念を拡張した。
本稿では,その原因となる機能的役割と,それが犯す義務によって,各編集のミスアライメントを分類する2軸分類法を提案する。
結果は、ハーネスの改ざんは、異なるエージェントの実際の実行中に一貫して発生し、しばしば最良のエージェントの系統に持続し、分類学全体で異なるシステム固有のプロファイルを形成することを示した。
- 参考スコア（独自算出の注目度）: 11.310437505252546
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-improving agents iteratively modify their own harness to push the frontier of their performance. However, such modifications can produce illusory performance gains or compromise integrity constraints such as authorization, provenance, and completeness without genuinely improving capability. We term this phenomenon as harness tampering, which extends the concept from reward and measurement tampering to the full self-improvement lifecycle. To systematically study this problem, we propose a two-axis taxonomy that categorizes each misaligned edit by the harness functional role in which it occurs and the obligation it violates. Then we build an annotated corpus by seeding tampered-benign edit pairs into the real trajectories of self-improving agents. We adapt and benchmark diverse audit methods on tampering classification and localization tasks. Finally we systematically audit real trajectories of self-improving agents. The results demonstrate that harness tampering consistently occurs in real runs from different agents, often persists in the lineage of the best agent, and forms distinct system-specific profiles across the taxonomy.
- Abstract（参考訳）: 自己改善エージェントは、自身のハーネスを反復的に修正して、パフォーマンスのフロンティアを押します。
しかし、このような修正は、性能を真に向上させることなく、不明瞭なパフォーマンス向上や、認可、証明、完全性といった厳密な制約を犯す可能性がある。
我々は、この現象をハーネスの改ざんと呼び、報酬と測定の改ざんから完全な自己改善ライフサイクルまでの概念を拡張した。
この問題を体系的に研究するために,各編集の誤りを,その原因となる機能的役割と違反する義務によって分類する2軸分類法を提案する。
次に, 自己改善剤の実際の軌跡に, 改ざんした良性編集ペアをシードすることで, 注釈付きコーパスを構築する。
我々は、分類とローカライゼーションタスクの改ざんに関する多様な監査手法を適応し、ベンチマークする。
最後に、自己改善剤の実際の軌跡を体系的に監査する。
結果は、ハーネスの改ざんは、異なるエージェントの実際の実行中に一貫して発生し、しばしば最良のエージェントの系統に持続し、分類学全体で異なるシステム固有のプロファイルを形成することを示した。
関連論文リスト
- ModularRSI: Modular and Generalizable Recursive Harness Self-Improvement [46.36989489677189]
我々は、一般化可能なハーネス進化のための、ベンチマーク非結合、コントラストおよびモジュラーフレームワークを提案する。
ModularRSIは、同じタスクに対する成功と失敗の軌跡を対比し、繰り返し発生する行動障害を特定するために、タスク全体で証拠を集約する。
進化可能なハーネスを,エージェントループ,ツール使用,監視管理,コンテキスト管理,タスク補完検出という,5つの機能モジュールに分解する。
論文 参考訳（メタデータ） (2026-09-14T00:10:45Z) - ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳（メタデータ） (2026-09-01T10:54:13Z) - HarnessEvolve: Learning from Reference Trajectories for Reliable Agent Self-Evolution [11.431479238875712]
我々は、信頼できるエージェントの自己進化を実現するために、参照軌道から学習する自己進化フレームワークであるHarnessEvolveを紹介する。
私たちは、さまざまなモデルとエージェントフレームワークを使用して、オープンドメインとエンタープライズシナリオにまたがるいくつかのベンチマークで広範な実験を行います。
結果は、HarnessEvolveがすべてのベンチマークと設定で、最先端のベースラインを一貫して上回っていることを示している。
論文 参考訳（メタデータ） (2026-09-01T07:31:18Z) - HANSARD: A Reference Architecture for Forensic Readiness, Runtime Witnessing, and Graded Attribution in Autonomous Multi-Agent AI Systems [3.7015952547586832]
現在、自律型マルチエージェントシステムは、金融、ソフトウェアサプライチェーン、セキュリティオペレーションで機能している。
何が起きたのか、何を引き起こしたのか、誰が責任を負うのかをしっかりと決める方法はありません。
これは、証明法医学が間違った抽象化で機能し、形式的因果関係は因果関係を仮定し、エージェント監査は自己記録を信頼するからである。
ターゲットの障害モードは、帰属的な洗浄であり、いかなる原因にもならないまで、冗長なエージェントに作用を広げる。
本稿では,説明責任をライフサイクル特性として扱う参照アーキテクチャであるHANSARDを提案する。
論文 参考訳（メタデータ） (2026-08-23T17:18:22Z) - TTHE: Test-Time Harness Evolution [50.26245555541721]
既存のアプローチでは、デプロイ前、トレーニング前、あるいはテスト時に凍結される固定されたエージェントワークフローの開発データを最適化する。
我々は、エージェントがテスト入力で生成するラベルのない実行トレースのみを使用して、評価自体にハーネスを最適化できるかどうかを問う。
評価中、TTHEは候補ハーネスの人口を維持し、それらの実行トレースの理由をエージェントプロジェクタを通じてそれらを洗練する。
その後、審査員は実行元プロキシ信号から改善されたハーネスをコミットし、選択したプログラムは継続してその後の入力を統治する。
論文 参考訳（メタデータ） (2026-07-09T05:53:39Z) - Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops [7.159691098846351]
この文学は、根本的に異なる野望を混同した語彙(セルフ・リファイン(self-refine)、「セルフ・リワード(self-reward)」、「セルフ・プレイ(self-play)」、「セルフ・エボレーヴ(self-evolve)」(self-evolve))で説明される。
我々は,2つの軸に沿って1,250のarXiv論文を調査した。
論文 参考訳（メタデータ） (2026-07-08T17:19:50Z) - From Failed Trajectories to Reliable LLM Agents: Diagnosing and Repairing Harness Flaws [12.757205456771295]
本稿では,エージェント故障の診断と修復を行うためのトレースガイドフレームワークであるHarnessFixを提案する。
HarnessFixは生の実行トレースをコンパイルし、コードをHarness対応のトレース中間表現に変換する。
障害の原因は、責任ある軌道ステップとレイヤの活用、繰り返し診断を実行可能な欠陥レコードに集約し、スコープ化された修復オペレータにマップすることにある。
論文 参考訳（メタデータ） (2026-06-04T15:58:30Z) - Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses [57.20181537213498]
Agentic Harness Engineering (AHE)は、ハーネスエンジニアリングを自動化するクローズドループである。
AHEは3つの一致した可観測性柱を通じて課題に対処する。
10 AHE lift pass@1 on Terminal-Bench 2 from 69.7% to 77.0%。
SWE-bench-verifiedでは、種子よりも12%少ないトークンで合計成功率を上回り、ターミナルベンチ2では+5.1から+10.1ppのクロスファミリーゲインを得る。
論文 参考訳（メタデータ） (2026-04-28T16:55:02Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - AgentV-RL: Scaling Reward Modeling with Agentic Verifier [63.55502685076245]
試験時間スケーリング(TTS)によるLCM推論を強化する検証器が実証されている。
本稿では,報酬モデリングを多ターンツール拡張型検討プロセスに変換するフレームワークであるエージェント検証を提案する。
Agentic Verifier は並列およびシーケンシャルTS の両方で一貫した性能向上が得られることを示す。
論文 参考訳（メタデータ） (2026-04-17T12:27:36Z) - Audited Skill-Graph Self-Improvement for Agentic LLMs via Verifiable Rewards, Experience Synthesis, and Continual Memory [3.7163033180152536]
Audited Skill-Graph Self-Improvementは、自己改善をエージェントの反復的なコンパイルとしてスキルグラフに扱うフレームワークである。
本稿では,完全なシステムアーキテクチャ,脅威モデル,セキュリティ解析を提案し,完全に実行可能な参照実装を提供する。
論文 参考訳（メタデータ） (2025-12-28T19:39:47Z) - Model Editing as a Double-Edged Sword: Steering Agent Ethical Behavior Toward Beneficence or Harm [57.00627691433355]
我々は、モデル編集タスクとしてエージェントの行動ステアリングをフレーム化し、振舞い編集という。
心理学的道徳理論に基づくベンチマークであるBehaviorBenchを紹介する。
行動編集は倫理的・好意的な行動を促進するためにも、逆に有害な行動や悪意のある行動を引き起こすためにも利用できることを実証する。
論文 参考訳（メタデータ） (2025-06-25T16:51:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。