論文の概要: More Rejective, Not More Discriminative: The Unit of Verification in Pre-Execution LLM Oversight

• arxiv url: http://arxiv.org/abs/2608.23941v1
• Date: Tue, 25 Aug 2026 00:59:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.708542
• Title: More Rejective, Not More Discriminative: The Unit of Verification in Pre-Execution LLM Oversight
• Title（参考訳）: より否定的で差別的ではない: LLM監視における検証単位
• Abstract要約: 事前実行監視は、AI制御における信頼できる監視のコアとなる。 既存の設計ではユニットが与えられており、フェールブルモニターに対する効果は計り知れない。 私たちのフレームワークは、この選択のために制御され、事前登録された最初の楽器であり、キャッチのみを読み取ることはありません。
• 参考スコア（独自算出の注目度）: 3.8564927363194754
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pre-execution oversight is core to trusted monitoring in AI control: a fallible LLM monitor vets planned actions before irreversible execution. Over-blocking forfeits usefulness and pressures deployers to disable it. Every protocol must fix a unit of verification: how many actions one call reviews. Existing designs take the unit as given; its effect on fallible monitors is unmeasured. Natural traces cannot isolate it: review length co-varies with error type and position. Catch alone misleads: rejecting everything catches everything. Measuring this needs boundary variation alone and a matched clean control. We introduce the twin-prefix framework, which supplies both. Each gold plan yields a prefix with one injected, environment-accepted error and a clean twin differing in one write. Judging each pair at five nested lengths ties verdict changes to the unit alone. Discrimination is scored by pre-registered informedness, catch minus false rejection. Longer review raises catch; false rejection climbs in lockstep. Informedness peaks at one or two actions for all six judges in both domains: longer windows make zero-shot monitors more rejective, not more discriminative. Replaying withheld observations traces the failure largely to observation deprivation. Safety cases should state the unit and co-report the clean series. Our framework is the first controlled, pre-registered instrument for this choice and never reads catch alone. Our calibrated short unit recovers up to 0.95 informedness over eight-action review, and no tested label-blind policy consistently beats it.
• Abstract（参考訳）: 実行前監視は、AIコントロールにおける信頼性のある監視のコアである。 オーバーブロッキングは、有効性と、デプロイ者がそれを無効にするよう圧力をかける。 すべてのプロトコルは、検証の単位、つまり、何つのアクションがレビューを呼び出すかを修正する必要がある。 既存の設計ではユニットが与えられており、フェールブルモニターに対する効果は計り知れない。 自然なトレースは分離できない: エラータイプと位置で長さの共存をレビューする。 キャッチ単独で誤解を招く – すべてを拒否することは,すべてをキャッチします。 この測定には境界のばらつきのみと一致したクリーンコントロールが必要である。 両方を提供するツインプレフィックスフレームワークを紹介します。 各ゴールドプランは1つのインジェクトされ、環境に受け入れられたエラーと、1つの書き込みで異なるクリーンツインを持つプレフィックスを出力する。 5つのネストした長さでそれぞれのペアを判断すると、ユニットのみの変更が判断される。 識別は、事前登録された情報によってスコアされ、偽りの拒否をキャッチする。 長いレビューがキャッチアップし、偽りの拒絶がロックステップで上昇します。 インフォームドネスは、両方の領域の6人の裁判官全員に対して1つか2つのアクションでピークとなる。 保持されていない観察を再生することは、その失敗を主に観察不能に辿り着く。 安全ケースは、ユニットを記載し、クリーンシリーズを共同レポートすべきである。 私たちのフレームワークは、この選択のために制御され、事前登録された最初の楽器であり、キャッチのみを読み取ることはありません。 私たちのキャリブレーションされたショートユニットは、8アクションレビューで最大0.95のインフォマティを回復します。

関連論文リスト

• Why LLM Agents Collapse Without Oversight: The Enforcement Gap as the Mechanism Behind Emergence World Failures [19.162716475205308]
  反射型エージェントは、反復的な自己批判を通じて、すでに危険な計画ステップを検出している。 監査は問題を認識し、コントローラはそれを無視します。 実施確率がゼロに近い場合、検出品質はセキュリティとは無関係であることを正式に証明する。
  論文  参考訳（メタデータ） (2026-09-14T09:46:59Z)
• IBIB: A Protocol for Measuring Enterprise AI Systems by Serving Route, Not Model Identifier [0.0]
  監査された18のベンチマークはすべて、広告付きモデルの識別子をスコア付けする。 ゴールドブラインド機能バインディングプレフライトは、どのタスクが到達する前に、ルートが評価契約を実行可能であることを確認する。 信頼性非包括的なファーストパススコアリングルールは、有効性を保ちながらスコアの失敗を維持する。
  論文  参考訳（メタデータ） (2026-09-09T17:31:29Z)
• Clean Engineering, Unstable Measurement: A Preregistered Reliability Failure of Black-Box LLM Observers on Shared Endpoints [4.41537705949485]
  言語モデル審査員は、トレーニングデータをゲートし、世代をスコアし、リーダーボードを駆動する。 我々は、事前登録された2つのキャンペーンにおいて、すべてのしきい値が事前に固定された状態で、その仮定を監査した。 52,988件の要求を監査し、スピアマン0.400で0.90と一致した。 証拠を3段階のスナップショット識別はしご、8つの設計ルール、レポートチェックリストに抽出する。
  論文  参考訳（メタデータ） (2026-09-03T17:59:43Z)
• Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems [40.47928908205563]
  マルチエージェントLLMシステムは、一般的にオーケストレータを使用して、労働者のチームのためにタスクを分解し、テキストリフレクションによって改善する。 強い実証結果にもかかわらず、これらのシステムには調整、メモリ改善、外部検証の役割の統一的な説明が欠けている。 我々は,評価のための信頼ゲーティングと,断片的な静止環境に対する保証の再集計を行う。 実験では、これらのオブジェクトを環境条件付きメトリクスでインスタンス化し、予測調整法則とドリフト法則をテストする。
  論文  参考訳（メタデータ） (2026-09-02T15:50:10Z)
• Safety Does Not Compose: Non-Decaying Loop State for Autonomous LLM Agents [16.24087700490158]
  大規模言語モデルエージェントは、自律ループとしてますますデプロイされる。 これは実装の詳細ではなく、構成の失敗であることを示す。 LoopHarnessは、ループレベルでの永続的非遅延安全状態を復元する。
  論文  参考訳（メタデータ） (2026-08-27T13:52:31Z)
• ADeptS-Bench: Measuring the Trustworthiness of Computer Use Agents Across Devices [48.36933831982682]
  我々はADEPTS機能フレームワークを基盤とした信頼性ベンチマークであるADeptS-Benchを紹介する。 Safetyストリームは、視覚インターフェースに埋め込まれた脅威を伴うペアの良心/悪意のあるタスクを提供する。 曖昧さストリームは、意図が曖昧である場合、エージェントが明確化を求めるかどうかを評価する。
  論文  参考訳（メタデータ） (2026-08-25T23:21:57Z)
• From Positionwise Confidence to Prefix Scheduling: Verifier Skipping in Speculative Decoding [41.41611499810411]
  投機拡散復号(SDD)は、離散拡散モデルと並行してドラフトブロック内のすべての位置を生成する。 本稿では,これが新しい制御ハンドルを生成することを認識している。
  論文  参考訳（メタデータ） (2026-08-14T18:00:08Z)
• The LLM Proposes, the Executive Disposes: A Self-Verifying Agent Instrument that Dissociates Commitment Drift from Binding Drift in Long-Horizon Agents [0.0]
  本稿では,ポストホックではなく構造的検証を行うためのエージェント機器を提案する。 組織ごとの書き込みエラー、レンダリングサイズ、あるいは塩漬けのカナリアエチョフロアが破られた場合、実行はすべて無効になる。 長期のエージェントが苦しむたびに、クリーンでシングル変数の結果が報告される。
  論文  参考訳（メタデータ） (2026-08-04T15:10:37Z)
• A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense [1.0742675209112622]
  CoT(Chain-of- Thought)モニタリングは、アクションできれいに見える報酬のハックをキャッチし、推論でのみ自分自身を裏切ることを目的としている。 ここでは、理屈をコントロールしている敵が、まさにそれを倒せる場所であることを示す。
  論文  参考訳（メタデータ） (2026-08-01T10:42:41Z)
• Zero Hallucination, by Construction: Hallucination-Aware Layered Oversight for Trustworthy Enterprise AI [39.17006317116773]
  我々は、「ゼロ幻覚」はモデルが持つ性質ではなく、システムが強制する性質であると主張する。 本稿では,幻覚を最小限の障害モードではなく,持続可能な障害モードとして扱う保証アーキテクチャであるHALOを提案する。
  論文  参考訳（メタデータ） (2026-07-20T12:34:44Z)
• AgenticSTS: A Bounded-Memory Testbed for Long-Horizon LLM Agents [34.450981549319266]
  長期 LLM エージェントの記憶は、将来の決定が何を見るかに関する契約である。 すべての決定は、型付き検索によって組み立てられた新鮮なユーザメッセージからなされます。 Slay the Spire 2はクローズドルールのデッキビルディングゲームだ。
  論文  参考訳（メタデータ） (2026-07-02T14:44:32Z)
• What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
  本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。 複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
  論文  参考訳（メタデータ） (2026-06-19T06:04:17Z)
• Stateful Online Monitoring Catches Distributed Agent Attacks [63.00394432922707]
  我々は、リアルタイムクラスタリングを用いて、多くのエージェントの転写にまたがる弱い疑わしい信号を収集するオンラインステートフルモニターを開発した。 本研究の結果は,孤立したテキストではなく,ユーザグループを優先する,新たな安全モニタのクラスに向けられたものである。
  論文  参考訳（メタデータ） (2026-05-29T17:57:00Z)
• A Universal Cliff and a Design Fingerprint: Cross-Section Defect Detection Under LLM Orchestration [0.0]
  生産言語モデルシステムは、労働者エージェントの目に見えないオーケストレーションにまたがってそれを拡大する要求に答える。 これは、単一のワーカーが見ることができない欠陥のクラスに何をもたらすか尋ねる。 1人の開発者から5世代にわたる10のシステムと、異なるアライメントパラダイムからの5つのプロバイダのみです。
  論文  参考訳（メタデータ） (2026-05-25T05:09:48Z)
• Senses Wide Shut: A Representation-Action Gap in Omnimodal LLMs [41.451167369762544]
  Representation-Action Gap: 隠された状態が前提認識ミスマッチを確実にエンコードする。 振る舞い的には、モデルはアンダーリジェクションとオーバーリジェクションの2つの障害モードに分類される。 初期診断介入として、プローブ誘導ロジット調整は、符号化されたミスマッチ信号を再注入して復号する。
  論文  参考訳（メタデータ） (2026-05-13T16:14:44Z)
• TraceGuard: Structured Multi-Dimensional Monitoring as a Collusion-Resistant Control Protocol [1.0195618602298684]
  TraceGuardは5次元にわたるエージェントアクションを評価する構造化多次元監視プロトコルである。 オープンソースのControlArenaフレームワーク用の新しいモニタタイプとして実装されている。
  論文  参考訳（メタデータ） (2026-04-05T05:05:59Z)
• CoVerRL: Breaking the Consensus Trap in Label-Free Reasoning via Generator-Verifier Co-Evolution [52.691495954442985]
  CoVerRLは1つのモデルがジェネレータと検証ロールを交換するフレームワークで、各機能が他方をブートストラップする。 Qwen と Llama のモデルファミリーでの実験では、CoVerRL は数理推論のベンチマークで4.7-5.9% でラベルなしのベースラインを上回っている。 自己検証の精度は55%から85%以上改善され、両方の能力が真に共存することを確認した。
  論文  参考訳（メタデータ） (2026-03-18T14:38:55Z)
• When Safety Blocks Sense: Measuring Semantic Confusion in LLM Refusals [0.07777489763207261]
  現在の評価では、主に虚偽の拒絶やコンプライアンスなどのグローバルレートを報告している。 このようなローカル不整合をキャプチャする障害モードである"セマンティック・混乱"を導入する。 トークンレベルでは,コンフュージョン指数,コンフュージョンレート,コンフュージョン深さという3つのモデルに依存しない指標を提案する。
  論文  参考訳（メタデータ） (2025-11-30T19:11:45Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。