論文の概要: Back to Basics: Formal Analysis Hints Improve Weak-to-Strong Monitoring

• arxiv url: http://arxiv.org/abs/2610.34064v1
• Date: Sun, 25 Oct 2026 04:56:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.529065
• Title: Back to Basics: Formal Analysis Hints Improve Weak-to-Strong Monitoring
• Title（参考訳）: 基本に立ち返る:フォーマルな分析で弱視モニタリングが改善
• Abstract要約: 現在の最先端モニターは、完全な検出障害、部分的な検出、疑似スコアの校正誤差の4つの持続的な障害モードに悩まされている。 これらの障害ケースは、補足的なヒントで書き起こしを増強することで、効率的に対処することができる。 これらのヒントを用いた弱い抽出・評価モニタの強化は,計算コストを最小化して性能を著しく向上させることがわかった。
• 参考スコア（独自算出の注目度）: 1.46945538731992
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frontier agentic systems are capable of taking misaligned actions that may cause significant harm. Monitoring techniques are developed to oversee these systems in order to detect and prevent dangerous actions. However, current state-of-the-art monitors suffer from four persistent failure modes: complete detection failures, partial detections, accepting false benign framings, and suspicion score calibration errors. These failure cases can be efficiently combated by augmenting transcripts with supplementary hints, spanning command provenance, security-sensitive action flags, and task-disallowed effect markers. Provenance links allow for the recognition of diffuse attacks, while security and authorization flags simultaneously enable subtle attack recognition and provide an explicit reason for monitors to doubt the false benign framings they encounter, reducing rationalization and improving calibration. We find that augmenting weak extract-and-evaluate monitors with these hints significantly boosts performance with minimal computational cost. Furthermore, a failure mode analysis confirms that hints can remediate all four failure modes, notably almost entirely eliminating detection failures. A series of ablation studies emphasizes the efficiency and potential of the augmented extract-and-evaluate approach. Synthesizing our findings, we propose a tractable two-pronged approach toward enabling weak-to-strong monitoring.
• Abstract（参考訳）: 最前線のエージェントシステムは、重大な損害をもたらす可能性のある誤った行動を取ることができる。 監視技術は、危険な行動を検出し予防するために、これらのシステムを監視するために開発されている。 しかし、現在の最先端モニターは、完全な検出失敗、部分的な検出、偽良性フレーミングの受け入れ、疑似スコアの校正誤差の4つの持続的障害モードに悩まされている。 これらの障害ケースは、補足的なヒント、コマンド前兆の分散、セキュリティに敏感なアクションフラグ、タスクを許可しないエフェクトマーカーで書き起こしを増強することで、効率的に対処することができる。 警告リンクは、拡散攻撃の認識を可能にする一方で、セキュリティと承認フラグは同時に微妙な攻撃認識を可能にし、モニターが遭遇する偽の良性フレーミングを疑う明確な理由を与え、合理化を減らし、校正を改善する。 これらのヒントで弱い抽出・評価モニタを増強することで,計算コストの最小化により性能が著しく向上することがわかった。 さらに、障害モード分析では、ヒントが4つの障害モードすべてを再処理できることが確認されている。 一連のアブレーション研究は、拡張抽出・評価アプローチの効率性とポテンシャルを強調している。 本研究は,本研究の成果を生かして,弱いストロングモニタリングを実現するためのトラクタブルな2段階アプローチを提案する。

関連論文リスト

• Taming CoT Obfuscation in VLMs: From Mechanistic Evidence to Activation Enforcement [74.92755267784983]
  強化学習は、視覚言語モデルにおける推論を改善するが、チェーン・オブ・オファシケーションを誘発することができる。 本稿では, 行動フィードバックとテンプレート関連アクティベーションの標的抑制を組み合わせ, メカニスティック・エンハンスメント(TAME)を用いた標的的アンチ・オブファシケーションを提案する。 VIRL-39k、SPA-VL、および2つのモデルファミリの中で、TAMEはグループ相対政策最適化よりも最大30.9および16.7%のCoT監視性を改善している。
  論文  参考訳（メタデータ） (2026-09-21T08:08:56Z)
• Detecting Is Not Resolving: The Monitoring Control Gap in Retrieval Augmented LLMs [20.59321114618083]
  単一ターン診断はRAGの安全性を体系的に過大評価し、矛盾は安全な解決法とは無関係であり、普遍的な即時修正は存在しないことを示した。 モデルが認識するものと何をするかのギャップは、検索強化されたシステムが高レベルな設定で信頼される前に測定され、クローズされなければならない。
  論文  参考訳（メタデータ） (2026-05-26T15:18:43Z)
• Adversarial Evasion in Non-Stationary Malware Detection: Minimizing Drift Signals through Similarity-Constrained Perturbations [4.8475753151256695]
  攻撃者は同時に分類を回避し、ドリフト監視機構に注意を払わない敵のマルウェアサンプルを生成できるのか? 本稿では,高度な類似性正規化器を付加した,分類器の標準特徴空間における逆例を生成する新しい手法を提案する。 我々は、摂動予算が、より高い攻撃成功率とより実質的なドリフト指標で、回避トレードオフに大きな影響を与えることを観察する。
  論文  参考訳（メタデータ） (2026-04-23T06:03:50Z)
• Fragile Reconstruction: Adversarial Vulnerability of Reconstruction-Based Detectors for Diffusion-Generated Images [32.470971087318695]
  本研究は,4つの異なる生成バックボーンモデルにおける3つの代表検出器の対向ロバスト性について,系統的評価を行った。 我々は、ホワイトボックスシナリオにおける敵攻撃を構築し、十分に訓練された全ての検出器の性能を低下させる。 また、ある検出器に対する攻撃を他の検出器に転送することもでき、検出器に対する敵攻撃もブラックボックスの設定で構築できることを示す。
  論文  参考訳（メタデータ） (2026-04-14T14:17:51Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• On the Adversarial Robustness of Learning-based Conformal Novelty Detection [10.58528988397402]
  AdaDetect を用いた共形ノベルティ検出の対角的ロバスト性について検討した。 以上の結果から,高い検出力を維持しながらFDRを著しく増大させる可能性が示唆された。
  論文  参考訳（メタデータ） (2025-10-01T03:29:11Z)
• MirGuard: Towards a Robust Provenance-based Intrusion Detection System Against Graph Manipulation Attacks [13.92935628832727]
  MirGuardは、ロジック対応のマルチビュー拡張とコントラスト表現学習を組み合わせた異常検出フレームワークである。 MirGuardは、さまざまなグラフ操作攻撃に対して、最先端の検出器の堅牢性を大幅に上回っている。
  論文  参考訳（メタデータ） (2025-08-14T13:35:51Z)
• No Need to Know Physics: Resilience of Process-based Model-free Anomaly Detection for Industrial Control Systems [95.54151664013011]
  本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。 トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
  論文  参考訳（メタデータ） (2020-12-07T11:02:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。