論文の概要: Who Verifies the Verifier? Co-Evolving Inspectable Graders with Self-Improving Agents

• arxiv url: http://arxiv.org/abs/2610.11464v1
• Date: Thu, 08 Oct 2026 08:13:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.886645
• Title: Who Verifies the Verifier? Co-Evolving Inspectable Graders with Self-Improving Agents
• Title（参考訳）: 検証者が誰であるか検証する : 自己改善剤を併用したインスペクタブルグレーダーの育成
• Abstract要約: すべての自己改善エージェントループがこれを何百回も答え、すべての答えは検証者から得られます。 オープンエンドタスクには、ループは存在しないので、ループは手書きのルーブリックや、モデル自体から出力をグラデーションする素の裁判官に渡される。 我々は検証器を進化する物体、すなわち小さな、主に決定論的検出器上での検査可能な表現にする。
• 参考スコア（独自算出の注目度）: 9.989306175511238
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We changed the agent: did it actually get better? Every self-improving agent loop answers this hundreds of times, and every answer comes from a verifier. On open-ended tasks none exists, so the loop is handed a hand-written rubric or a bare LLM judge grading output from a model like itself, inviting reward hacking and shared blind spots. We make the verifier the evolving object: an inspectable expression over small, mostly deterministic drawback detectors, synthesized from clustered failures, gated at birth, and selected for agreement with a ten-item anchored reference set plus consensus over unlabeled outputs, never for the agent's score. On MBPP+ it gains +0.21 held-out agreement over the hand-authored seed composition, on every seed, and ends ahead of the bare LLM judge it contains. One finding should change how co-evolved verifiers are validated: removing the anchor guards collapses the verifier into a vacuous always-pass grader, yet that collapsed verifier trains skills just as well. Downstream task score cannot certify a self-evolved verifier. Score does answer sufficiency, and there an evolved verifier can substitute: Double Ratchet, pairing the verifier with a lifecycle-managed skill loop, retains 88-110% of the lift that ground truth or a rubric buys the same loop, across code generation, enterprise text-to-SQL, and reference-free report generation. When evolved skills gamed the report rubric, an outer judge caught it and one added detector repaired it; the judge itself was wrong until given the task contract.
• Abstract（参考訳）: 私たちはエージェントを変更しました。 すべての自己改善エージェントループがこれを何百回も答え、すべての答えは検証者から得られます。 オープンエンドタスクに関しては、ループは存在しないため、ループは手書きのルーブリックや、モデル自体からの出力をグレードする裸のLCMジャッジに渡され、報酬のハッキングや盲点共有を招待する。 検証対象を進化対象とする: 小さく、主に決定論的な欠点検出器上での検査可能な式で、クラスタ化された障害から合成され、出生時にゲートされ、10項目のアンロックされた参照セットと一致し、未ラベルの出力に対するコンセンサスも選択される。 MBPP+では、手書きの種組成について+0.21の合意を得、すべての種について、そしてそれが含んでいる裸のLLM審査より先に終わる。 アンカーガードを外すと、検証器は空っぽの常時通過グレーダに崩壊するが、その崩壊した検証器の列車のスキルも同様に崩壊する。 ダウンストリームタスクスコアは、自己進化検証器を認証できない。 二重ラチェット(Double Ratchet)は、検証とライフサイクル管理されたスキルループをペアリングし、真理を基礎とするリフトの88～110%を保持したり、コード生成、エンタープライズテキストからSQLへの変換、参照不要なレポート生成など、同じループを購入する。 進化した技術が報告書の破片をゲームすると、外部の裁判官がそれをキャッチし、追加の検知器がそれを修理した。

関連論文リスト

• VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks [56.74345405508208]
  LLMエージェントはますます複雑で長期のタスクをこなし、そのアウトプットを検証することがますます困難になっている。 本研究では, 基準応答へのアクセスや試験時の潤滑油の分解を行わずに, 固定ベースモデルで検証能力を強化する方法について検討する。 コンセンサスによってエラーを隠蔽できる一方で、不一致はしばしば正しい代替手段を公開することに気付きました。 これらの観察はVeriHarnessを動機付け、ジェネレータが使用する基礎となるLLMを、ワークスペース、エビデンスツール、再利用可能な検証スキルを与えることによって、エージェント検証器に変える。
  論文  参考訳（メタデータ） (2026-10-01T03:02:17Z)
• No Free Checker: A Survey of Verifiers for Robot Policies [37.86049134524515]
  ロボットポリシーの検証者は、候補者の行動を読み出し、それがいかにうまくいったかのスコアを返し、視覚言語アクションポリシーの評価とトレーニングの両方に使用する。 約150個の検証器を調査し、2つの特性について比較する。 我々は, 人的検証者, 規則に基づく形式的検証者, 学習および事前訓練された検証者, モデル固有の検証者など, 判断を提供する者によって, 検証者をグループ化する。
  論文  参考訳（メタデータ） (2026-09-08T13:52:59Z)
• LLM-as-a-Judge Is Not an Oracle: Why Self-Improving Agents Need Deterministic Guardrails [0.0]
  自己改善エージェントパイプラインは、その中心に問題がある。 評価信号は、判定バイアス、ハーネスとメートル法故障、地道エラー、報酬ハッキングの11のクラスで失敗した。 ProCTORは、ステートフルオーケストレータがすべてのツールアクセスを保持し、ステートレスサブエージェントが障害を診断し、それらが適用できないドラフト突然変異を診断する、教師と学生のループである。
  論文  参考訳（メタデータ） (2026-09-02T07:54:23Z)
• Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents [5.91817208489443]
  検証・受け入れ・デプロイのギャップについて検討する。 このギャップは、エージェントの自己承認された検証信号と封印されたデプロイメント評価との相違を指す。 シーリング型外因性受容ループ(SEAL)について紹介する。
  論文  参考訳（メタデータ） (2026-07-27T11:45:14Z)
• AEVAL: From Anecdotal to Deterministic Testing for Agentic Skill Workflows [1.6785141970297952]
  AEVAL(Agentic Evaluation)はCI統合フレームワークで、このプラクティスをエージェントスキルのための決定論的かつ再現可能なテストパイプラインに置き換える。 すべてのスキル変更がテストイベントをトリガーする。スキルは、自動エグゼキュータ内の開発者が宣言した評価契約に対して実行される。 鍵となる要素は、実行子とグレーダの間の構造的分離であり、微妙だが広汎な障害モードを防止する。
  論文  参考訳（メタデータ） (2026-07-16T21:33:05Z)
• Who Grades the Grader? Co-Evolving Evaluation Metrics and Skills for Self-Improving LLM Agents [9.989306175511238]
  自己進化型エージェントシステムは、自身のスキルの作成、修正、引退によって改善されるが、そのようなループはすべて隠れた仮定に依存している。 まず、私たちのメトリックループは、完全な進化のライフサイクルの下で小さな検出器の組成を探索します。 第二に、メートル法が存在しないため、ヤードスティックは正確なメートル法が実現したことを回復しており、EmphDouble Ratchetは、ライフサイクル管理されたスキルループによるメトリックの共進化です。
  論文  参考訳（メタデータ） (2026-07-14T14:02:50Z)
• CoVerRL: Breaking the Consensus Trap in Label-Free Reasoning via Generator-Verifier Co-Evolution [52.691495954442985]
  CoVerRLは1つのモデルがジェネレータと検証ロールを交換するフレームワークで、各機能が他方をブートストラップする。 Qwen と Llama のモデルファミリーでの実験では、CoVerRL は数理推論のベンチマークで4.7-5.9% でラベルなしのベースラインを上回っている。 自己検証の精度は55%から85%以上改善され、両方の能力が真に共存することを確認した。
  論文  参考訳（メタデータ） (2026-03-18T14:38:55Z)
• Hybrid Reinforcement: When Reward Is Sparse, It's Better to Be Dense [36.71358559780692]
  HEROは、検証者信号と報酬モデルスコアを構造化された方法で統合する強化学習フレームワークである。 HEROはRMのみのベースラインと検証者のみのベースラインを一貫して上回り、検証可能なタスクと検証しにくいタスクの両方で大きな利益を上げている。
  論文  参考訳（メタデータ） (2025-10-08T17:09:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。