論文の概要: Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems

• arxiv url: http://arxiv.org/abs/2605.08190v1
• Date: Tue, 05 May 2026 15:23:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.445562
• Title: Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems
• Title（参考訳）: Synergistic Simplex: 安全臨界自律システムのための協調実行保証
• Authors: Ayoosh Bansal, Mikael Yeghiazaryan, Artyom Khachatryan, Tianyi Zhu, Hunmin Kim, Naira Hovakimyan, Lui Sha,
• Abstract要約: ロングテールフォールトは、機械学習を安全クリティカルなタスクには適さない。 AV障害物検出のためのSSの設計,解析,評価について述べる。
• 参考スコア（独自算出の注目度）: 9.35747705472605
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous systems increasingly rely on machine-learning (ML) components for safety-critical tasks such as perception and control in autonomous vehicles (AVs). While ML enables essential capabilities, it inevitably exhibits long-tail faults that make it unsuitable for safety-critical tasks. Runtime assurance (RTA) mitigates this issue by pairing ML components with verifiable safety monitors, e.g., Control Simplex and Perception Simplex architectures. However, the limited performance of safety monitors remains a major bottleneck. The Synergistic Simplex (SS) architecture improves system performance by enabling bidirectional integration between ML components and safety monitors while preserving formal safety guarantees. The key innovation here is allowing safety monitors to use ML outputs, which is typically prohibited in RTA systems. We formally derive conditions under which this integration preserves safety and demonstrate the performance benefits. We present the design, analysis, and evaluation of SS for AV obstacle detection.
• Abstract（参考訳）: 自律システムは、自律走行車(AV)の認識や制御といった安全クリティカルなタスクに対して、機械学習(ML)コンポーネントにますます依存している。 MLは必須の機能を提供しますが、安全上重要なタスクには適さない、長い尾の欠陥が必然的に現れます。 実行時保証(RTA)は、MLコンポーネントと検証可能な安全モニタ、例えば、コントロール・シンプルックスとパーセプション・シンプルクスアーキテクチャとのペアリングによってこの問題を軽減する。 しかし、安全モニターの性能の限界は依然として大きなボトルネックとなっている。 Synergistic Simplex(SS)アーキテクチャは、正式な安全保証を維持しながら、MLコンポーネントと安全モニタの双方向統合を可能にすることで、システムパフォーマンスを向上させる。 ここでの重要なイノベーションは、安全モニタがML出力を使用することを可能にすることだ。 私たちは、この統合が安全性を保ち、パフォーマンス上のメリットを示す条件を正式に導き出します。 AV障害物検出のためのSSの設計,解析,評価について述べる。

関連論文リスト

• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
  大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。 安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。 この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
  論文  参考訳（メタデータ） (2025-10-02T16:43:33Z)
• Incorporating Failure of Machine Learning in Dynamic Probabilistic Safety Assurance [0.1398098625978622]
  より広範な因果安全分析の一環として, SafeML と Bayesian Networks (BNs) を統合する安全保証フレームワークを導入し, ML 障害をモデル化する。 交通標識認識を用いた自動車小隊のシミュレーションシステムに対するアプローチを実証する。
  論文  参考訳（メタデータ） (2025-06-07T17:16:05Z)
• Explaining Unreliable Perception in Automated Driving: A Fuzzy-based Monitoring Approach [1.33134751838052]
  本稿では,機械学習(ML)知覚コンポーネントに適したファジィベースの新しいモニタを提案する。 異なる動作条件が知覚コンポーネントの信頼性にどのように影響するかを人間に解釈可能な説明を提供するとともに、ランタイム安全モニターとして機能する。
  論文  参考訳（メタデータ） (2025-05-20T14:22:39Z)
• SafeSwitch: Steering Unsafe LLM Behavior via Internal Activation Signals [51.49737867797442]
  大規模言語モデル(LLM)は、様々なタスクにまたがる例外的な能力を示すが、有害なコンテンツを生成することでリスクを引き起こす。 LLMは、内部状態の安全性に関する内部評価を同様に行うことができることを示す。 本稿では,プロバーをベースとした内部状態モニタを用いて,安全でない出力を規制するSafeSwitchを提案する。
  論文  参考訳（メタデータ） (2025-02-03T04:23:33Z)
• Learning Run-time Safety Monitors for Machine Learning Components [8.022333445774382]
  本稿では、劣化データセットと機械学習を用いて、機械学習コンポーネントの安全モニタを作成するプロセスを紹介する。 作成した安全モニタは、MLコンポーネントと並行してASにデプロイされ、モデル出力に関連する安全リスクの予測を提供する。
  論文  参考訳（メタデータ） (2024-06-23T21:25:06Z)
• Synergistic Redundancy: Towards Verifiable Safety for Autonomous Vehicles [10.277825331268179]
  我々は、自律走行車(AV)のような複雑なサイバー物理システムのための安全アーキテクチャとして、シナジスティック冗長性(SR)を提案する。 SRは、システムのミッションと安全タスクを分離することで、特定の障害に対する検証可能な安全保証を提供する。 ミッション層との密接な調整により、システム内の安全クリティカルな障害を容易かつ早期に検出することができる。
  論文  参考訳（メタデータ） (2022-09-04T23:52:03Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• An Empirical Analysis of the Use of Real-Time Reachability for the Safety Assurance of Autonomous Vehicles [7.1169864450668845]
  本稿では,1/10スケールのオープンソース自動運転車プラットフォームの安全性を確保するために,シンプルなアーキテクチャの実装にリアルタイムリーチビリティアルゴリズムを提案する。 提案手法では,システムの将来状態に対するコントローラの判断の影響に着目して,基盤となるコントローラを解析する必要性を抽象化する。
  論文  参考訳（メタデータ） (2022-05-03T11:12:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。