論文の概要: Using Behavior Trees in Risk Assessment

• arxiv url: http://arxiv.org/abs/2506.12089v1
• Date: Wed, 11 Jun 2025 13:07:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:45.092401
• Title: Using Behavior Trees in Risk Assessment
• Title（参考訳）: リスクアセスメントにおける行動木の利用
• Authors: Razan Ghzouli, Atieh Hanna, Endre Erös, Rebekka Wohlrab,
• Abstract要約: 本稿では,開発中心の早期リスク評価のためのモデルに基づくアプローチを提案する。 本研究では,行動木モデルを用いてリスク評価活動を支援する。 本研究は,コード実装とリスク評価のアウトプットのギャップを埋める早期識別,可視化,支援における行動ツリーモデルの可能性を明らかにするものである。
• 参考スコア（独自算出の注目度）: 1.3499500088995462
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cyber-physical production systems increasingly involve collaborative robotic missions, requiring more demand for robust and safe missions. Industries rely on risk assessments to identify potential failures and implement measures to mitigate their risks. Although it is recommended to conduct risk assessments early in the design of robotic missions, the state of practice in the industry is different. Safety experts often struggle to completely understand robotics missions at the early design stages of projects and to ensure that the output of risk assessments is adequately considered during implementation. This paper presents a design science study that conceived a model-based approach for early risk assessment in a development-centric way. Our approach supports risk assessment activities by using the behavior-tree model. We evaluated the approach together with five practitioners from four companies. Our findings highlight the potential of the behavior-tree model in supporting early identification, visualisation, and bridging the gap between code implementation and risk assessments' outputs. This approach is the first attempt to use the behavior-tree model to support risk assessment; thus, the findings highlight the need for further development.
• Abstract（参考訳）: サイバー物理生産システムは、ますます協力的なロボティクスのミッションを伴い、より堅牢で安全なミッションを要求されるようになる。 産業は潜在的な失敗を特定し、リスクを軽減するための対策を実施するためにリスクアセスメントに依存している。 ロボットミッションの設計において早期にリスクアセスメントを行うことが推奨されているが、業界における実践状況は異なる。 安全の専門家は、プロジェクトの初期段階におけるロボティクスのミッションを完全に理解し、実装中にリスクアセスメントのアウトプットが適切に考慮されていることを保証するのに苦労することが多い。 本稿では,開発中心の早期リスク評価のためのモデルに基づくアプローチを考案したデザインサイエンス研究について述べる。 本研究では,行動木モデルを用いてリスク評価活動を支援する。 このアプローチを,4つの企業から5人の実践者とともに評価した。 本研究は,コード実装とリスク評価のアウトプットのギャップを埋める早期識別,可視化,支援における行動ツリーモデルの可能性を明らかにするものである。 このアプローチは、リスクアセスメントをサポートするために行動木モデルを使用する最初の試みである。

関連論文リスト

• Adapting Probabilistic Risk Assessment for AI [0.0]
  汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。 現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。 本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
  論文  参考訳（メタデータ） (2025-04-25T17:59:14Z)
• AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
  本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。 このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
  論文  参考訳（メタデータ） (2025-02-19T05:58:52Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Model evaluation for extreme risks [46.53170857607407]
  AI開発のさらなる進歩は、攻撃的なサイバー能力や強力な操作スキルのような極端なリスクを引き起こす能力につながる可能性がある。 モデル評価が極端なリスクに対処するために重要である理由を説明します。
  論文  参考訳（メタデータ） (2023-05-24T16:38:43Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。