論文の概要: The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents

• arxiv url: http://arxiv.org/abs/2607.07436v1
• Date: Wed, 08 Jul 2026 14:08:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.403032
• Title: The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
• Title（参考訳）: Blind Curator: バイアスのある裁判官が、自己進化エージェントのスキルの引退を容赦なく無効にする方法
• Abstract要約: 偏見のある裁判官が単にノイズを付加するだけでなく、キュレーターから遠ざかることを示す。 本稿では, コージェネレーション・クロスチェックを用いた参照不要なレポート書記テストにおいて, 因果チャネルを分解し, 因果チャネルを分解し, 因果チャネルを分離する手法を提案する。
• 参考スコア（独自算出の注目度）: 9.989306175511238
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: A self-evolving agent retires its bad skills by watching them fail, so what happens when the judge cannot see the failures? Skill retirement is the structural constraint that keeps a growing library from drifting below the no-skill baseline, but its guarantee assumes an unbiased reward, which is false for the LLM judges that reference-free tasks force upon us. We show that a biased judge does not merely add noise; it \emph{silently switches off the curator}. We make this precise with a corrupted-reward analysis and, isolating the causal channel by injecting corruption on top of a deterministic reward, a behavioral study on a reference-free report-writing testbed with a code-generation cross-check. Symmetric noise leaves retirement intact, but \emph{false-pass} bias (failures slipping through as passes) disables contribution-based retirement past a sharp threshold that no amount of data can cross. Separating genuine retirement from cap-eviction churn shows this \emph{mechanism} failure is universal, holding across domains and failure rates and sparing only near-zero-false-pass, verifier-like graders. The downstream \emph{outcome}, though, is regime-dependent: eval quality degrades only where the same corruption also starves skill synthesis, and otherwise holds steady, so the disabled curator is \emph{silent}, surfacing in no aggregate metric. The contribution is a behavioral safety result, not a performance one. A cheap defect-injection audit then tells an operator, before deployment, which side of the threshold their judge occupies.
• Abstract（参考訳）: 自己進化するエージェントは、失敗を見て悪いスキルを引退します。 スキルリタイア(Skill retirement)とは、成長するライブラリが非スキルベースラインの下を漂うのを防ぐ構造的な制約である。 バイアスド・ジャッジは単にノイズを付加するだけでなく、キュレーターをオフにする。 本稿では, コージェネレーション・クロスチェックを用いた参照不要なレポート書記テストにおいて, 因果チャネルを分解し, 因果チャネルを分解し, 因果チャネルを分離する手法を提案する。 対称性のあるノイズは、リタイアをそのまま残すが、 \emph{false-pass} バイアス(パスがスリップする)は、データ量が渡ることができないシャープしきい値を超えてコントリビューションベースのリタイアを無効にする。 キャップ・エヴィジョン・チャーンから真のリタイアを分離すると、この 'emph{mechanism} の失敗は普遍的であり、ドメインと失敗率をまたいで保持し、ほぼゼロパスの検証器のようなグレーダーのみを分散させる。 しかし、下流のemph{outcome} は政権に依存している: eval quality は、同一の汚職がスキル合成を飢えさせ、そうでなければ安定に保たれるため、障害キュレーターは \emph{silent} であり、集約計量では表せない。 貢献は行動の安全性の結果であり、パフォーマンスの結果ではありません。 安価な欠陥注入監査では、デプロイ前にオペレータに、審査員が占めるしきい値のどの側かを伝える。

関連論文リスト

• LLM-as-a-Judge Is Not an Oracle: Why Self-Improving Agents Need Deterministic Guardrails [0.0]
  自己改善エージェントパイプラインは、その中心に問題がある。 評価信号は、判定バイアス、ハーネスとメートル法故障、地道エラー、報酬ハッキングの11のクラスで失敗した。 ProCTORは、ステートフルオーケストレータがすべてのツールアクセスを保持し、ステートレスサブエージェントが障害を診断し、それらが適用できないドラフト突然変異を診断する、教師と学生のループである。
  論文  参考訳（メタデータ） (2026-09-02T07:54:23Z)
• RecurSE: Bounded Recursive Self-Evaluation for LLM Rubric Judges [48.831446371402414]
  RecurSEは、訓練可能な裁判官と同期されたポリシーコピーチェッカーをペアにして、裁判官のメタルーブリックに対する推論を監査し、スカラープロセスの報酬を提供する。 本稿では,RecurSEが医療,ペアワイド,要約,プロフェッショナルベンチマークにおいて一貫した一般化を実現していることを示す。
  論文  参考訳（メタデータ） (2026-08-25T08:35:04Z)
• Judge, Retrieve, or Abstain: Uncertainty-Guarded LLM Judging with Provable Risk Guarantees [16.73004625486562]
  LLMを審査員として使用することは、大規模にモデル出力を評価するための標準的なプラクティスとなっている。 基準回答がない場合、審査員はパラメトリック知識またはツール拡張を通じて事実の正しさを評価する。 提案するリスク管理フレームワークは,不確実性のしきい値の正当性を判定し,ユーザの特定レベル以下で検証できる。
  論文  参考訳（メタデータ） (2026-08-18T16:42:02Z)
• Knowing When to Quit: Diagnosing and Training LLMs to Abort Futile Reasoning [109.33717747526583]
  大規模言語モデルは、計算コストが高くても意味論的に無効な推論を、能力を超えたタスクで生成する。 textbfCaRL(textbfCapability-textbfaligned textbfReinforcement textbfL)を導入し、振る舞いを機能境界に合わせる。 実験は、タスクの難易度を超えて性能を保ちながら、無駄な推論を大幅に削減することを示した。
  論文  参考訳（メタデータ） (2026-07-31T09:30:33Z)
• Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents [5.91817208489443]
  検証・受け入れ・デプロイのギャップについて検討する。 このギャップは、エージェントの自己承認された検証信号と封印されたデプロイメント評価との相違を指す。 シーリング型外因性受容ループ(SEAL)について紹介する。
  論文  参考訳（メタデータ） (2026-07-27T11:45:14Z)
• Who Grades the Grader? Co-Evolving Evaluation Metrics and Skills for Self-Improving LLM Agents [9.989306175511238]
  自己進化型エージェントシステムは、自身のスキルの作成、修正、引退によって改善されるが、そのようなループはすべて隠れた仮定に依存している。 まず、私たちのメトリックループは、完全な進化のライフサイクルの下で小さな検出器の組成を探索します。 第二に、メートル法が存在しないため、ヤードスティックは正確なメートル法が実現したことを回復しており、EmphDouble Ratchetは、ライフサイクル管理されたスキルループによるメトリックの共進化です。
  論文  参考訳（メタデータ） (2026-07-14T14:02:50Z)
• Hypothesis-Driven Skill Optimization for LLM Agents [2.716362160018478]
  そこで本研究では,スキルキュレーターとエージェントエグゼキュータの両方を凍結推論エンドポイントとする,フリートレインフレームワークを提案する。 ALFWorldでは、Qwen3.6-27Bで+6.9 SRポイント、Qwen3.6-27Bで+4.0ポイントの改善がなされている。
  論文  参考訳（メタデータ） (2026-06-21T04:43:20Z)
• LivingArena: Do LLMs Know What Other LLMs Don't? Peer-Probing as Scalable Evaluation [79.03892269184145]
  LivingArenaは自動汚染耐性評価フレームワークである。 モデルは質問を交互に提案し、相手が正しく答えられないアイテムを提示する。 質問者は、相手の知識境界を積極的に特定し、活用することが奨励される。
  論文  参考訳（メタデータ） (2026-06-19T06:20:58Z)
• Signed Compression Progress on a Sealed Audit is Goodhart-Resistant [0.43830114853179497]
  圧縮の進行は本質的な動機付けの長年の提案である。 我々は、本質的な報酬は学習のためだけに支払われるから「信用できる」ことを証明している。 構造コアのリーン4メカニゼーションを提供します。
  論文  参考訳（メタデータ） (2026-06-09T20:10:40Z)
• AI Alignment via Incentives and Correction [14.986111703734222]
  我々は、抑止と執行の法・経済モデルのレンズを通してAIアライメントを研究する。 解決者は、説得力があるが誤った答えを出し、不確実性を隠蔽したり、急激なショートカットを悪用する恩恵を受けることができる。 この相互作用を、主成分が共同補正結果よりも報酬を選択する2エージェントモデルで定式化する。
  論文  参考訳（メタデータ） (2026-05-02T23:28:02Z)
• IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
  既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。 IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
  論文  参考訳（メタデータ） (2026-04-22T03:03:33Z)
• A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
  既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。 我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
  論文  参考訳（メタデータ） (2026-02-04T15:13:35Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。