論文の概要: Interpreting Safety Outcomes: Waymo's Performance Evaluation in the Context of a Broader Determination of Safety Readiness

• arxiv url: http://arxiv.org/abs/2306.14923v1
• Date: Fri, 23 Jun 2023 14:26:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-23 18:55:56.690873
• Title: Interpreting Safety Outcomes: Waymo's Performance Evaluation in the Context of a Broader Determination of Safety Readiness
• Title（参考訳）: 安全性のアウトカムを解釈する:安全準備の広範化におけるWaymoのパフォーマンス評価
• Authors: Francesca M. Favaro, Trent Victor, Henning Hohnhold, Scott Schnelle
• Abstract要約: 本稿では,観測結果と他の推定手法を補完する安全性判定への多角的アプローチの必要性を強調した。 ADSのクラッシュデータと人間由来のベースラインの比較における「クレディビリティ・パラドックス」の提示、インユースモニタリングによる継続的信頼成長の認識、イベントレベルの適切な推論による総合統計分析を補完する必要性、などが議論の焦点となっている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This paper frames recent publications from Waymo within the broader context of the safety readiness determination for an Automated Driving System (ADS). Starting from a brief overview of safety performance outcomes reported by Waymo (i.e., contact events experienced during fully autonomous operations), this paper highlights the need for a diversified approach to safety determination that complements the analysis of observed safety outcomes with other estimation techniques. Our discussion highlights: the presentation of a "credibility paradox" within the comparison between ADS crash data and human-derived baselines; the recognition of continuous confidence growth through in-use monitoring; and the need to supplement any aggregate statistical analysis with appropriate event-level reasoning.
• Abstract（参考訳）: 本稿では,自動運転システム(ads)の安全性判定に関する幅広い文脈において,waymoの最近の論文を概説する。 waymoが報告した安全性能評価結果(すなわち、完全自律運転中に経験した接触事象)の概要から、他の推定手法で観察された安全結果の分析を補完する安全判断への多様化したアプローチの必要性を強調する。 広告クラッシュデータと人間由来のベースラインの比較における「信頼性パラドックス」の提示、使用中のモニタリングによる継続的な信頼性向上の認識、適切なイベントレベルの推論による集計統計分析の補完の必要性。

関連論文リスト

• Multimodal Situational Safety [73.63981779844916]
  マルチモーダル・シチュエーション・セーフティ(Multimodal situational Safety)と呼ばれる新しい安全課題の評価と分析を行う。 MLLMが言語やアクションを通じても安全に応答するためには、言語クエリが対応する視覚的コンテキスト内での安全性への影響を評価する必要があることが多い。 我々は,現在のMLLMの状況安全性能を評価するためのマルチモーダル状況安全ベンチマーク(MSSBench)を開発した。
  論文  参考訳（メタデータ） (2024-10-08T16:16:07Z)
• Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
  我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。 我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
  論文  参考訳（メタデータ） (2024-07-31T17:59:24Z)
• FREA: Feasibility-Guided Generation of Safety-Critical Scenarios with Reasonable Adversariality [13.240598841087841]
  本稿では,AVのLF(Largest Feasible Region)をガイダンスとして組み込んだ新しい安全クリティカルシナリオ生成手法FREAを紹介する。 実験では、FREAが安全クリティカルなシナリオを効果的に生成し、ほぼミスに近い事象を引き起こすことが示されている。
  論文  参考訳（メタデータ） (2024-06-05T06:26:15Z)
• Safeguarded Progress in Reinforcement Learning: Safe Bayesian Exploration for Control Policy Synthesis [63.532413807686524]
  本稿では、強化学習(RL)におけるトレーニング中の安全維持の問題に対処する。 探索中の効率的な進捗と安全性のトレードオフを扱う新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2023-12-18T16:09:43Z)
• ASSERT: Automated Safety Scenario Red Teaming for Evaluating the Robustness of Large Language Models [65.79770974145983]
  ASSERT、Automated Safety Scenario Red Teamingは、セマンティックなアグリゲーション、ターゲットブートストラップ、敵の知識注入という3つの方法で構成されている。 このプロンプトを4つの安全領域に分割し、ドメインがモデルの性能にどのように影響するかを詳細に分析する。 統計的に有意な性能差は, 意味的関連シナリオにおける絶対分類精度が最大11%, ゼロショット逆数設定では最大19%の絶対誤差率であることがわかった。
  論文  参考訳（メタデータ） (2023-10-14T17:10:28Z)
• A Counterfactual Safety Margin Perspective on the Scoring of Autonomous Vehicles' Riskiness [52.27309191283943]
  本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。 本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
  論文  参考訳（メタデータ） (2023-08-02T09:48:08Z)
• Towards Safer Generative Language Models: A Survey on Safety Risks, Evaluations, and Improvements [76.80453043969209]
  本調査では,大規模モデルに関する安全研究の枠組みについて述べる。 まず、広範囲にわたる安全問題を導入し、その後、大型モデルの安全性評価手法を掘り下げる。 トレーニングからデプロイメントまで,大規模なモデルの安全性を高めるための戦略について検討する。
  論文  参考訳（メタデータ） (2023-02-18T09:32:55Z)
• Safety Analysis of Autonomous Driving Systems Based on Model Learning [16.38592243376647]
  自律運転システム(ADS)の安全性解析のための実用的検証手法を提案する。 主なアイデアは、指定されたトラフィックシナリオにおけるADSの振る舞いを定量的に描写する代理モデルを構築することである。 文献における最先端ADSの安全性特性を評価することによって,提案手法の有用性を実証する。
  論文  参考訳（メタデータ） (2022-11-23T06:52:40Z)
• Architectural patterns for handling runtime uncertainty of data-driven models in safety-critical perception [1.7616042687330642]
  不確実性推定に対処するためのアーキテクチャパターンを新たに提案する。 安全性と性能向上に関して,4つのパターンを質的,定量的に評価した。 筆者らは,運転状況の文脈情報を考慮することで,運転状況の固有のリスクに応じて,多かれ少なかれ不確実性を受け入れることができると結論付けた。
  論文  参考訳（メタデータ） (2022-06-14T13:31:36Z)
• Towards the Unification and Data-Driven Synthesis of Autonomous Vehicle Safety Concepts [31.13851159912757]
  我々は、既存の安全概念を比較するための統一的な数学的枠組みとして、ハミルトン・ヤコビ(HJ)の到達可能性の使用を提唱する。 i) 既存の主要な安全概念をHJリーチビリティフレームワークに組み込むことができ、モデリングの仮定を比較・対比するための共通言語を可能にする。
  論文  参考訳（メタデータ） (2021-07-30T03:16:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。