論文の概要: A Taxonomy of Real-World Defeaters in Safety Assurance Cases

• arxiv url: http://arxiv.org/abs/2502.00238v1
• Date: Sat, 01 Feb 2025 00:38:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 15:02:35.851110
• Title: A Taxonomy of Real-World Defeaters in Safety Assurance Cases
• Title（参考訳）: 安全保証事例におけるリアル・ワールド・デフレの分類
• Authors: Usman Gohar, Michael C. Hunter, Myra B. Cohen, Robyn R. Lutz,
• Abstract要約: ソフトウェアエンジニアリングコミュニティは、ソフトウェア保証ケースにおける現実世界の敗者の再利用可能な分類の恩恵を受けることができる。 安全クリティカルシステムにおける敗者の分析・管理を標準化するための基礎を築き,7つの幅広いカテゴリーの分類学を導出した。
• 参考スコア（独自算出の注目度）: 4.4398355848251745
• License:
• Abstract: The rise of cyber-physical systems in safety-critical domains calls for robust risk-evaluation frameworks. Assurance cases, often required by regulatory bodies, are a structured approach to demonstrate that a system meets its safety requirements. However, assurance cases are fraught with challenges, such as incomplete evidence and gaps in reasoning, called defeaters, that can call into question the credibility and robustness of assurance cases. Identifying these defeaters increases confidence in the assurance case and can prevent catastrophic failures. The search for defeaters in an assurance case, however, is not structured, and there is a need to standardize defeater analysis. The software engineering community thus could benefit from having a reusable classification of real-world defeaters in software assurance cases. In this paper, we conducted a systematic study of literature from the past 20 years. Using open coding, we derived a taxonomy with seven broad categories, laying the groundwork for standardizing the analysis and management of defeaters in safety-critical systems. We provide our artifacts as open source for the community to use and build upon, thus establishing a common framework for understanding defeaters.
• Abstract（参考訳）: 安全クリティカルドメインにおけるサイバー物理システムの台頭は、堅牢なリスク評価フレームワークを求めている。 規制機関が要求する保証ケースは、システムがその安全要件を満たすことを実証するための構造化されたアプローチである。 しかし、保証事件は、不完全な証拠や、敗者と呼ばれる推論のギャップなど、保証事件の信頼性と堅牢性に疑問を投げかけるような課題に悩まされている。 これらの敗者を特定することは、保証事件に対する信頼を高め、破滅的な失敗を防げる。 しかし、保証事例における敗者探索は構造化されておらず、敗者解析を標準化する必要がある。 したがって、ソフトウェアエンジニアリングコミュニティは、ソフトウェア保証ケースにおける現実世界の敗者の再利用可能な分類の恩恵を受けることができる。 本稿では過去20年間の文献の体系的研究を行った。 オープンコーディングを用いて,安全クリティカルシステムにおける敗者の分析・管理を標準化するための基礎となる7つのカテゴリの分類を導出した。 コミュニティが利用し、構築するためのオープンソースとしてアーティファクトを提供し、敗者を理解するための共通のフレームワークを確立します。

関連論文リスト

• SafetyAnalyst: Interpretable, transparent, and steerable safety moderation for AI behavior [56.10557932893919]
  我々は、新しいAI安全モデレーションフレームワークであるSafetyAnalystを紹介する。 AIの振る舞いを考えると、SafetyAnalystはチェーン・オブ・シークレット・推論を使用してその潜在的な結果を分析する。 あらゆる有害かつ有益な効果を、完全に解釈可能な重みパラメータを用いて有害度スコアに集約する。
  論文  参考訳（メタデータ） (2024-10-22T03:38:37Z)
• Automating Semantic Analysis of System Assurance Cases using Goal-directed ASP [1.2189422792863451]
  本稿では, セマンティックルールに基づく分析機能を備えた Assurance 2.0 の拡張手法を提案する。 本稿では, 論理的整合性, 妥当性, 不整合性など, 保証事例のユニークな意味的側面について考察する。
  論文  参考訳（メタデータ） (2024-08-21T15:22:43Z)
• CoDefeater: Using LLMs To Find Defeaters in Assurance Cases [4.4398355848251745]
  本稿では,大言語モデル (LLM) を利用して敗者を見つける自動化プロセスであるCoDefeaterを提案する。 2つのシステムの最初の結果は、LLMが安全アナリストを支援するために、既知の、予期せぬ破壊者を効率的に見つけることができることを示している。
  論文  参考訳（メタデータ） (2024-07-18T17:16:35Z)
• A PRISMA-Driven Bibliometric Analysis of the Scientific Literature on Assurance Case Patterns [7.930875992631788]
  保証ケースはシステム障害を防ぐために使用できる。 それらは構造化された議論であり、様々な安全クリティカルなシステムの要求を議論し、中継することができる。
  論文  参考訳（メタデータ） (2024-07-06T05:00:49Z)
• Safe Inputs but Unsafe Output: Benchmarking Cross-modality Safety Alignment of Large Vision-Language Model [73.8765529028288]
  我々は、モダリティ間の安全アライメントを評価するために、セーフインプットとアンセーフアウトプット(SIUO)と呼ばれる新しい安全アライメントの課題を導入する。 この問題を実証的に調査するため,我々はSIUOを作成した。SIUOは,自己修復,違法行為,プライバシー侵害など,9つの重要な安全領域を含むクロスモダリティベンチマークである。 以上の結果から, クローズドおよびオープンソース両方のLVLMの安全性上の重大な脆弱性が明らかとなり, 複雑で現実的なシナリオを確実に解釈し, 応答する上で, 現行モデルが不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-21T16:14:15Z)
• I came, I saw, I certified: some perspectives on the safety assurance of cyber-physical systems [5.9395940943056384]
  サイバー物理システムの実行が失敗すると、生命の喪失、重傷、大規模な環境被害、資産破壊、そして大きな経済損失が生じる。 しばしば、規制機関がそのような制度を認定することを正当化し許すために、説得力のある保証ケースを開発することが義務付けられている。 我々は、保証イネーブラーのような課題を探求し、それらに取り組むための潜在的な方向性を概説する。
  論文  参考訳（メタデータ） (2024-01-30T00:06:16Z)
• The Last Decade in Review: Tracing the Evolution of Safety Assurance Cases through a Comprehensive Bibliometric Analysis [7.431812376079826]
  安全保証は、自動車、航空宇宙、原子力など、様々な分野において最重要事項である。 安全保証ケースを使用することで、生成されたシステム機能の正しさを検証することができ、システム障害を防止することができる。
  論文  参考訳（メタデータ） (2023-11-13T17:34:23Z)
• ASSERT: Automated Safety Scenario Red Teaming for Evaluating the Robustness of Large Language Models [65.79770974145983]
  ASSERT、Automated Safety Scenario Red Teamingは、セマンティックなアグリゲーション、ターゲットブートストラップ、敵の知識注入という3つの方法で構成されている。 このプロンプトを4つの安全領域に分割し、ドメインがモデルの性能にどのように影響するかを詳細に分析する。 統計的に有意な性能差は, 意味的関連シナリオにおける絶対分類精度が最大11%, ゼロショット逆数設定では最大19%の絶対誤差率であることがわかった。
  論文  参考訳（メタデータ） (2023-10-14T17:10:28Z)
• Leveraging Traceability to Integrate Safety Analysis Artifacts into the Software Development Process [51.42800587382228]
  安全保証ケース(SAC)は、システムの進化中に維持することが困難である。 本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。 安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
  論文  参考訳（メタデータ） (2023-07-14T16:03:27Z)
• Foveate, Attribute, and Rationalize: Towards Physically Safe and Trustworthy AI [76.28956947107372]
  包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。 安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。 実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
  論文  参考訳（メタデータ） (2022-12-19T17:51:47Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。