論文の概要: COMET: A coordinated multi-layer runtime monitoring framework for human-supervised AI-enabled safety systems

• arxiv url: http://arxiv.org/abs/2610.29816v1
• Date: Wed, 21 Oct 2026 14:40:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.384534
• Title: COMET: A coordinated multi-layer runtime monitoring framework for human-supervised AI-enabled safety systems
• Title（参考訳）: COMET:人間制御型AI対応安全システムのための協調型多層ランタイム監視フレームワーク
• Abstract要約: COMETは、人間が管理するAI対応安全システムのための、協調した多層ランタイム監視フレームワークである。 信号整合性、物理整合性、AIシステムの能力エンベロープの3つの監視層で構成されている。 このフレームワークは圧縮空気漏れのオープンデータセットで評価される。
• 参考スコア（独自算出の注目度）: 5.539407031861404
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Incorporating AI systems into safety systems requires monitoring to avoid silent faults and ensure safe and reliable operation. Single monitors often do not provide actionable information for human supervisors, who act as the system's adaptive controller. We present COMET, a coordinated multi-layer runtime monitoring framework for human-supervised AI-enabled safety systems in which each monitor is anchored in a different fault mode. Monitor outputs are combined in a coordination layer and mapped by a communication layer to a traffic-light display. In this work, COMET consists of three monitoring layers: signal integrity, physics consistency, and the AI system's competence envelope. The framework is evaluated on an open dataset of compressed-air leaks, where an AI system detects leaks from acoustic emissions, with held-out conditions simulating covariate shift, semantic shift, and sensor faults, events expected during runtime but unknown in their exact appearance. All monitors are frozen after development and tested zero-shot, and the framework is compared against no-monitoring and single-monitor setups. The bare AI system fails silently and confidently under all three shift types, whereas COMET reduces the trusted-wrong-answer rate to zero on covariate-shifted no-leak data and on three of four sensor faults, at a nominal false-alarm rate of $\approx 1\%$. Single monitors come close in detection but cannot attribute the fault mode. COMET converts their anonymous detection flags into diagnoses. Residual silent misses under semantic shift define the boundary of passive monitoring. Runtime monitoring frameworks for AI-enabled safety systems must therefore combine quantitative fault detection and isolation with qualitative, human-oriented feedback.
• Abstract（参考訳）: AIシステムを安全システムに組み込むには、サイレント障害を回避し、安全で信頼性の高い運用を保証するための監視が必要である。 単一のモニターは、システムのアダプティブコントローラとして機能する人間の監督者に対して、実行可能な情報を提供しないことが多い。 本稿では,人為的なAI対応安全システムのための,協調型多層ランタイム監視フレームワークであるCOMETについて紹介する。 モニタ出力は調整層に結合され、通信層でマッピングされ、トラヒックライトディスプレイにマッピングされる。 この作業では、COMETは信号の整合性、物理の整合性、AIシステムの能力エンベロープの3つの監視層で構成されている。 このフレームワークは、圧縮空気漏れのオープンデータセットに基づいて評価される。AIシステムは、共変量シフト、セマンティックシフト、センサ障害をシミュレートする保留条件、実行中に予想されるイベント、正確な外観では未知の、アコースティックエミッションからのリークを検出する。 すべてのモニタは開発後に凍結され、ゼロショットでテストされる。 一方、COMETは信頼し難い回答率を、共変量シフトしたノーリークデータと、4つのセンサー障害のうち3つでゼロに減らし、名目上の偽アラームレートは$\approx 1\%$である。 単一モニタは検出時に接近するが、障害モードを属性とすることはできない。 COMETは匿名検出フラグを診断に変換する。 セマンティックシフトの下での残留的なサイレントミスは、パッシブモニタリングの境界を定義する。 そのため、AI対応安全システムのための実行時監視フレームワークは、定量的な障害検出と分離と定性的で人間指向のフィードバックを組み合わせる必要がある。

関連論文リスト

• One Monitor Does Not Fit All: Formalism-Agnostic Runtime Verification for Agentic AI [0.5156484100374059]
  AgenticRVは実行バウンダリをフォーマリズムの監視から分離するランタイム検証アーキテクチャである。 我々は、観察が十分であれば形式化し、置換が決定を守り、妨害が安全でないことを防ぎます。
  論文  参考訳（メタデータ） (2026-10-14T08:58:24Z)
• Monitoring Agentic Systems Before They're Reliable [0.7422381022274628]
  運用に入るエージェントシステムは、通常、部分的に統合されたアセンブリとして機能し、構造上の欠陥はタスクレベルのエラーではなく、障害のランドスケープを支配します。 本稿では,エージェントシステム評価を3次元(品質,適合性,効率)に分割するモニタリング・トリアージ手法を提案する。 発見は、FMEAに適合した重度分類によってルートされ、調査を保証しているサブセットに人間の注意を集中させる。
  論文  参考訳（メタデータ） (2026-06-01T17:01:53Z)
• $D^2$-Monitor: Dynamic Safety Monitoring for Diffusion LLMs via Hesitation-Aware Routing [63.49501120848927]
  大規模言語モデル(D-LLM)の安全性監視はほとんど未検討である。 D-LLMの2レベル安全モニタであるD2$-Monitorを提案する。 D2$-Monitorは、常にオンのモニターとして軽量プローブを採用して、ヒューズレーションを共同で見積もり、ベース分類を実行する。
  論文  参考訳（メタデータ） (2026-05-25T14:22:21Z)
• Ensemble Monitoring for AI Control: Diverse Signals Outweigh More Compute [0.0]
  多様なモニタからの信号をアンサンブルに組み合わせることで、不整合動作の検出が向上することを示す。 GPT-4.1-Miniモニタを12台構築する。 ベスト3モニタアンサンブルは、3つの同一モニタからなるアンサンブルに比べて2.4倍高い検出性能が得られる。
  論文  参考訳（メタデータ） (2026-05-14T20:06:52Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Practical challenges of control monitoring in frontier AI deployments [15.281070904065613]
  コントロールモニターは、私たちが完全に信頼していない高度なAIエージェントを監督する上で重要な役割を果たす可能性がある。 これまでの作業では、単純化された設定でのコントロール監視について検討されてきたが、実際のデプロイメントに対する監視のスケーリングには、さらなるダイナミクスが導入されている。 本稿では、これらの課題に対処するための設計選択を分析し、異なるレイテンシーセーフなトレードオフによる3種類のモニタリングに焦点を当てる。
  論文  参考訳（メタデータ） (2025-12-15T15:54:36Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Code-as-Monitor: Constraint-aware Visual Programming for Reactive and Proactive Robotic Failure Detection [56.66677293607114]
  オープンセットのリアクティブかつアクティブな障害検出のためのCode-as-Monitor(CaM)を提案する。 モニタリングの精度と効率を高めるために,制約関連エンティティを抽象化する制約要素を導入する。 実験により、CaMは28.7%高い成功率を達成し、厳しい乱れの下で実行時間を31.8%短縮することが示された。
  論文  参考訳（メタデータ） (2024-12-05T18:58:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。