論文の概要: Probabilistic Robustness Analysis in High Dimensional Space: Application to Semantic Segmentation Network

• arxiv url: http://arxiv.org/abs/2509.11838v1
• Date: Mon, 15 Sep 2025 12:25:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-16 17:26:23.269555
• Title: Probabilistic Robustness Analysis in High Dimensional Space: Application to Semantic Segmentation Network
• Title（参考訳）: 高次元空間における確率的ロバスト性解析:セマンティックセグメンテーションネットワークへの応用
• Authors: Navid Hashemi, Samuel Sasaki, Diego Manzanas Lopez, Ipek Oguz, Meiyi Ma, Taylor T. Johnson,
• Abstract要約: 本稿では,アーキテクチャに依存しない,スケーラブルで高次元出力が可能な確率的検証フレームワークを提案する。 提案手法は,サンプルベースリーチビリティ解析と共形推論(CI)を組み合わせて,証明可能な保証を提供する。 提案手法は,SOTAに比べて厳密な境界を保ちながら,信頼性の高い安全保証を提供することを示す。
• 参考スコア（独自算出の注目度）: 6.587910936799125
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Semantic segmentation networks (SSNs) play a critical role in domains such as medical imaging, autonomous driving, and environmental monitoring, where safety hinges on reliable model behavior under uncertainty. Yet, existing probabilistic verification approaches struggle to scale with the complexity and dimensionality of modern segmentation tasks, often yielding guarantees that are too conservative to be practical. We introduce a probabilistic verification framework that is both architecture-agnostic and scalable to high-dimensional outputs. Our approach combines sampling-based reachability analysis with conformal inference (CI) to deliver provable guarantees while avoiding the excessive conservatism of prior methods. To counteract CI's limitations in high-dimensional settings, we propose novel strategies that reduce conservatism without compromising rigor. Empirical evaluation on large-scale segmentation models across CamVid, OCTA-500, Lung Segmentation, and Cityscapes demonstrates that our method provides reliable safety guarantees while substantially tightening bounds compared to SOTA. We also provide a toolbox implementing this technique, available on Github.
• Abstract（参考訳）: セマンティックセグメンテーションネットワーク(SSN)は、医療画像、自律運転、環境モニタリングなどの領域において重要な役割を果たす。 しかし、既存の確率論的検証アプローチは、現代のセグメンテーションタスクの複雑さと次元性でスケールするのに苦労し、しばしば実用には保守的すぎる保証をもたらす。 本稿では,アーキテクチャに依存しない,スケーラブルで高次元出力が可能な確率的検証フレームワークを提案する。 提案手法は,サンプルベースリーチビリティ解析と共形推論(CI)を組み合わせることで,従来の手法の過度な保守性を避けつつ,証明可能な保証を提供する。 高次元環境におけるCIの限界に対応するため、厳密さを損なうことなく保守性を低下させる新しい戦略を提案する。 CamVid,OCTA-500,Lung Segmentation,Cityscapesにおける大規模セグメンテーションモデルの実証評価により,SOTAに比べて厳密な境界を保ちながら信頼性の高い安全保証を提供することを示した。 このテクニックを実装したツールボックスもGithubで公開しています。

関連論文リスト

• Finite-Sample-Based Reachability for Safe Control with Gaussian Process Dynamics [35.79393879150088]
  本稿では,保守主義を回避しつつ,モデルの不確実性を効率的に伝播するサンプリングベースフレームワークを提案する。 提案手法は,精度の高い到達可能集合オーバー近似と安全なクローズドループ性能を示す。
  論文  参考訳（メタデータ） (2025-05-12T14:20:20Z)
• Advancing Neural Network Verification through Hierarchical Safety Abstract Interpretation [52.626086874715284]
  我々は、安全でない出力の階層構造を検証する抽象的DNN検証と呼ばれる新しい問題定式化を導入する。 出力到達可能な集合に関する抽象的解釈と推論を活用することにより,形式的検証プロセスにおいて,複数の安全性レベルを評価することができる。 我々の貢献には、新しい抽象的安全性の定式化と既存のアプローチとの関係を理論的に探求することが含まれる。
  論文  参考訳（メタデータ） (2025-05-08T13:29:46Z)
• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Learning to Generate Training Datasets for Robust Semantic Segmentation [37.9308918593436]
  セマンティックセグメンテーション手法の堅牢性を改善するための新しい手法を提案する。 我々は,現実的で可視な摂動画像を生成するために,新しい条件付き生成対向ネットワークであるRobustaを設計した。 我々の結果は、このアプローチが安全クリティカルなアプリケーションに有用である可能性を示唆している。
  論文  参考訳（メタデータ） (2023-08-01T10:02:26Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Log Barriers for Safe Black-box Optimization with Application to Safe Reinforcement Learning [72.97229770329214]
  本稿では,学習時の安全性維持が不可欠である高次元非線形最適化問題に対する一般的なアプローチを提案する。 LBSGDと呼ばれるアプローチは、慎重に選択されたステップサイズで対数障壁近似を適用することに基づいている。 安全強化学習における政策課題の違反を最小限に抑えるためのアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2022-07-21T11:14:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。