論文の概要: Monitor-Validity Failures: LLM Safety Evidence Paths at Evolving Framework Boundaries
- arxiv url: http://arxiv.org/abs/2610.23362v1
- Date: Fri, 16 Oct 2026 12:09:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.911094
- Title: Monitor-Validity Failures: LLM Safety Evidence Paths at Evolving Framework Boundaries
- Title（参考訳）: 監視-バリダリティ障害: フレームワーク境界の進化におけるLCM安全証拠パス
- Abstract要約: LLMアプリケーションは、ツールコール、トレース、ストリーム、検出出力、検証入力を検査するランタイムモニタに依存している。
フレームワークパスは動作し続けるかもしれないが、ポリシー関連エビデンスはその決定ポイントに到達しない。
我々はこの修復境界署名をカナリア契約で検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern LLM applications rely on runtime monitors that inspect tool calls, traces, streams, detector outputs, and verifier inputs. This creates an interface-reliability problem: a framework path may remain operational while policy-relevant evidence never reaches its decision point. In one representative case, a regex detector returned a positive match, but the framework stranded the result before the block decision. This differs from jailbreaks and detector errors because the evidence is already recognized yet disconnected from enforcement. We study this repair-boundary signature with canary contracts: parent/fixed confirmation units that place a known payload only on the changed evidence surface and record monitor visibility together with the downstream decision for action-boundary cases. Applying the protocol to public framework repairs, we confirm 18 evidence-path failures across 11 LLM or agent safety project groups and four implementation ecosystems. Nine are established-boundary repairs, eight are new-surface policy-coverage gaps, and one is a boundary-only evidence case. Fourteen reach E1 enforcement boundaries: seven native action outcomes, six configured enforcement boundaries, and one synthetic-consumer consequence. The remaining cases affect verifier, safety-prompt, or observability channels. The cases form carrier, adapter, authority, and surface families and show how ordinary application behavior can remain intact while a safety-specific evidence path misses its decision. Exact revisions, deterministic outcomes, negative controls, and a frozen prospective audit document the confirmation rule. Monitor assumptions therefore need regression tests at the schemas, streams, tools, and adapters that frameworks evolve.
- Abstract（参考訳）: 現代のLLMアプリケーションは、ツールコール、トレース、ストリーム、検出出力、検証入力を検査するランタイムモニタに依存している。
フレームワークパスは動作し続けるかもしれないが、ポリシー関連エビデンスはその決定ポイントに到達しない。
ある代表例では、Regex検出器が正の一致を返すが、そのフレームワークはブロック決定の前にその結果を静止させた。
これは、証拠が既に確認されているものの、執行から切り離されているため、ジェイルブレイクや検出器エラーとは異なる。
本研究では, カナリア契約による修復境界署名について検討し, 既知のペイロードを変化したエビデンス表面のみに配置する親固定確認ユニットと, 動作境界事件の下流決定と共に監視可視性を記録する。
このプロトコルを公開フレームワークの修復に適用し、11のLLMまたはエージェントセーフティプロジェクトグループと4つの実装エコシステムにまたがる18のエビデンスパス障害を確認します。
9つは確立された限定的な修復であり、8つは新表面の政策カバーギャップであり、1つは境界のみの証拠ケースである。
7つのネイティブアクション結果、6つの設定された実行バウンダリ、1つの合成消費者結果である。
残りのケースは、検証、安全プロンプト、または可観測性チャネルに影響を及ぼす。
ケースはキャリア、アダプタ、権威、表面的なファミリーを形成し、通常のアプリケーション動作が無傷であることを示しながら、安全固有のエビデンスパスがその決定を見逃している。
厳密な修正、決定論的結果、ネガティブコントロール、凍結した予見監査は、確認ルールを文書化する。
したがって、仮定を監視するには、フレームワークが進化するスキーマ、ストリーム、ツール、アダプタでの回帰テストが必要である。
関連論文リスト
- VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails [70.49913007464922]
本稿では,正式なエージェントガードレールの進化を実証するためのフレームワークであるVEPAを紹介する。
VEPAは、タイプされたエージェントイベントに対する実行可能なシンボル規則の正式なポリシーとしてガードレールを表現している。
VEPAは決定論的形式政治の実施範囲を広げつつ、基準線を一貫して上回っている。
論文 参考訳（メタデータ） (2026-10-08T23:49:50Z) - hacktrace: behavior-supervised detection of reward hacking during code generation [52.709361620508595]
コーディングエージェントは、コードを修正するか、バグを露呈するテストを削除することで、パスグレードを得ることができる。
我々はQwen3-8Bから173,561個の注釈付きマルチターン符号化トラジェクトリをリリースし、成功を活かさないショートカット動作の監視が検出を大幅に改善することを示す。
HACKTRACEは、エージェントがコードを生成する際に既に計算している内部状態を読み取る行動監視モニターである。
論文 参考訳（メタデータ） (2026-10-02T09:35:59Z) - SCOUT: Synergizing Reasoning and Tool-Use for Computer-Use Safety [15.044790213451774]
SCOUTは2段階のエージェント安全性検証器で、推論集約型ルーリック生成とツール集約型エビデンス収集を相乗化している。
AutoElicit-Benchでは、SCOUTは75.4の安全でないF1と74.5の補完F1を達成する。
論文 参考訳（メタデータ） (2026-09-28T20:01:35Z) - Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior [8.146941441861614]
我々は,コーディングエージェント実行のためのアクティブブラックボックスフィンガープリント手法であるLIDARを提案する。
3つのプローブペアは、制御された変更の下で、後続検証、過渡障害回復、および仕様-テスト競合解決を公開する。
高いTop-1精度とMRRを実現し、4つの既存の指紋認証とAPI監査ベースラインを上回っている。
論文 参考訳（メタデータ） (2026-09-23T09:12:46Z) - Can MCP Clients Decide What to Do After Failure? A Result-Only Actionability Audit [0.0]
本稿では,MCPの故障結果のみから決定論的ソフトウェアが何を学べるかを考察する。
10個のサンプルサーバから安全に21個の障害を誘導する小さな実験において、タイプドフィールドは18件の障害を露呈し、8件の幅広いポリシーを公表した。
語彙ソース監査は、同じテキスト中心のpat-ternを見つける。
論文 参考訳（メタデータ） (2026-08-31T06:45:17Z) - From Trajectories to Evidence: Auditable Experimental Records for Industrial Research Agents [47.678562263387214]
研究エージェントは、産業レコメンデーション設定において、多段階の機械学習実験をますます実施している。
生成されたアーティファクトは、サポートされないか、不完全かもしれないし、実行されたラウンドは無効かもしれないし、あるいは廃止されるかもしれないし、後の修正は、以前の発見を曖昧にするかもしれない。
本稿では,連続的アーティファクトのバウンダリ検証と実行後のクレーム資格を結合するエビデンス・グラウンド・フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-05T13:37:38Z) - Measuring Harness-Induced Belief Divergence in Multi-Step LLM Agents [0.05371337604556311]
タスク,環境,基本LPMが固定された場合でも,ソフトウェアエージェントハーネスがエージェントのマルチステップ信念を変えることができることを示す。
我々は,K段軌道の進行,リスク,回復可能性,制約,障害モード,不確実性,今後の成功,修理コスト,代替ハーネスの下での次の行動について,構造的K段軌道を付与する信念ロールアウト診断を導入する。
論文 参考訳（メタデータ） (2026-07-05T22:22:39Z) - Affordance Agent Harness: Verification-Gated Skill Orchestration [45.231685718099264]
Affordance groundingは、オープンワールドのシーンでエージェントがどこでどのように対話すべきかを特定する必要がある。
本稿では,エビデンスストアとコストコントロールを備えたクローズドループランタイムであるAffordance Agent Harnessを提案する。
論文 参考訳（メタデータ） (2026-05-01T13:45:16Z) - Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。
本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。
本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
論文 参考訳（メタデータ） (2026-02-13T14:57:15Z) - Evidence Tampering and Chain of Custody in Layered Attestations [0.0]
分散システムにおいて、信頼決定は、遠隔検定によって生成される完全性証明に基づいて行われる。
提案手法は, 証拠が検出されることなく, 証拠を改ざんできる「戦略」を改ざんするだけでなく, 証拠を改ざんするための全ての改ざん機会を識別するアルゴリズムを提案する。
当社の取り組みは,プロトコル設計者が可能な限り最小かつ信頼性の高いコンポーネントの集合に機会を阻害する証拠を減らすことを支援することを目的としています。
論文 参考訳（メタデータ） (2024-01-31T21:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。