Fugu-MT 論文翻訳(概要): Assuring the Safety of Reinforcement Learning Components: AMLAS-RL

論文の概要: Assuring the Safety of Reinforcement Learning Components: AMLAS-RL

arxiv url: http://arxiv.org/abs/2507.08848v1
Date: Tue, 08 Jul 2025 15:01:51 GMT
ステータス: 翻訳完了
システム内更新日: 2025-07-15 18:48:21.557891
Title: Assuring the Safety of Reinforcement Learning Components: AMLAS-RL
Title（参考訳）: 強化学習部品の安全性確保: AMLAS-RL
Authors: Calum Corrie Imrie, Ioannis Stefanakos, Sepeedeh Shahbeigi, Richard Hawkins, Simon Burton,
Abstract要約: RL対応システムの保証引数を生成するためのフレームワークとして,AMLASを適用した。我々は、衝突することなく目標を達成することを任務とする車輪付き車両の走行例を用いて、AMLAS-RLを実証した。
参考スコア（独自算出の注目度）: 3.892872471787381
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The rapid advancement of machine learning (ML) has led to its increasing integration into cyber-physical systems (CPS) across diverse domains. While CPS offer powerful capabilities, incorporating ML components introduces significant safety and assurance challenges. Among ML techniques, reinforcement learning (RL) is particularly suited for CPS due to its capacity to handle complex, dynamic environments where explicit models of interaction between system and environment are unavailable or difficult to construct. However, in safety-critical applications, this learning process must not only be effective but demonstrably safe. Safe-RL methods aim to address this by incorporating safety constraints during learning, yet they fall short in providing systematic assurance across the RL lifecycle. The AMLAS methodology offers structured guidance for assuring the safety of supervised learning components, but it does not directly apply to the unique challenges posed by RL. In this paper, we adapt AMLAS to provide a framework for generating assurance arguments for an RL-enabled system through an iterative process; AMLAS-RL. We demonstrate AMLAS-RL using a running example of a wheeled vehicle tasked with reaching a target goal without collision.
Abstract（参考訳）: 機械学習(ML)の急速な進歩により、さまざまな領域にわたるサイバー物理システム(CPS)への統合が増加している。 CPSは強力な機能を提供するが、MLコンポーネントを組み込むことで、大きな安全性と保証の課題がもたらされる。 ML技術の中で、強化学習(RL)は、システムと環境間の相互作用の明示的なモデルが利用できない、あるいは構築が難しい複雑な動的環境を扱う能力のため、CPSに特に適している。しかし、安全クリティカルなアプリケーションでは、この学習プロセスは効果があるだけでなく、明らかに安全でなければならない。 Safe-RLメソッドは、学習中に安全性の制約を組み込むことによってこの問題に対処することを目的としているが、RLライフサイクル全体にわたって体系的な保証を提供するには不足している。 AMLAS法は、教師付き学習コンポーネントの安全性を確保するための構造化されたガイダンスを提供するが、RLがもたらす固有の課題に直接適用しない。本稿では, RL 対応システムに対する保証引数を生成するためのフレームワーク AMLAS-RL を反復的プロセス, AMLAS-RL に適用する。我々は、衝突することなく目標を達成することを任務とする車輪付き車両の走行例を用いて、AMLAS-RLを実証した。

関連論文リスト

Evaluating Reinforcement Learning Safety and Trustworthiness in Cyber-Physical Systems [38.48645678884814]
本稿では,SAFE-RL (Safety and Accountability Framework for Evaluation Reinforcement Learning) を提案する。我々は,小型無人航空システム(sUAS)における3つのRLアプリケーションにおいて,フレームワークの構築と利用を実証するために,設計科学的アプローチを採用する。
論文参考訳（メタデータ） (2025-03-12T13:33:07Z)
TeLL-Drive: Enhancing Autonomous Driving with Teacher LLM-Guided Deep Reinforcement Learning [61.33599727106222]
TeLL-Driveは、Teacher LLMを統合して、注意に基づく学生DRLポリシーをガイドするハイブリッドフレームワークである。自己維持機構はDRLエージェントの探索とこれらの戦略を融合させ、政策収束を加速し、堅牢性を高める。
論文参考訳（メタデータ） (2025-02-03T14:22:03Z)
ActSafe: Active Exploration with Safety Constraints for Reinforcement Learning [48.536695794883826]
本稿では,安全かつ効率的な探索のためのモデルベースRLアルゴリズムであるActSafeを提案する。本稿では,ActSafeが学習中の安全性を保証しつつ,有限時間で準最適政策を得ることを示す。さらに,最新のモデルベースRLの進歩に基づくActSafeの実用版を提案する。
論文参考訳（メタデータ） (2024-10-12T10:46:02Z)
SoNIC: Safe Social Navigation with Adaptive Conformal Inference and Constrained Reinforcement Learning [26.554847852013737]
SoNICは適応型共形推論と制約付き強化学習を統合する最初のアルゴリズムである。本手法は,従来の最先端RL法よりも11.67%高い96.93%の成功率を達成する。実験により,疎密な群集と密集した群集の両方と相互作用して,堅牢で社会的に礼儀正しく意思決定できることを示した。
論文参考訳（メタデータ） (2024-07-24T17:57:21Z)
CIMRL: Combining IMitation and Reinforcement Learning for Safe Autonomous Driving [45.05135725542318]
CIMRL(imitation and Reinforcement Learning)アプローチは、模倣動作の先行と安全性の制約を活用することで、シミュレーションにおける運転ポリシーのトレーニングを可能にする。 RLと模倣を組み合わせることで, クローズドループシミュレーションと実世界の運転ベンチマークにおいて, 最先端の結果が得られたことを実証する。
論文参考訳（メタデータ） (2024-06-13T07:31:29Z)
Empowering Autonomous Driving with Large Language Models: A Safety Perspective [82.90376711290808]
本稿では,Large Language Models (LLM) の自律運転システムへの統合について検討する。 LLMは行動計画におけるインテリジェントな意思決定者であり、文脈的安全学習のための安全検証シールドを備えている。適応型LLM条件モデル予測制御(MPC)と状態機械を用いたLLM対応対話型行動計画スキームという,シミュレーション環境における2つの重要な研究について述べる。
論文参考訳（メタデータ） (2023-11-28T03:13:09Z)
Hierarchical Framework for Interpretable and Probabilistic Model-Based Safe Reinforcement Learning [1.3678669691302048]
本稿では,安全クリティカルシステムにおける深層強化学習の新たなアプローチを提案する。確率論的モデリングと強化学習の利点と、解釈可能性の利点を兼ね備えている。
論文参考訳（メタデータ） (2023-10-28T20:30:57Z)
Safety Correction from Baseline: Towards the Risk-aware Policy in Robotics via Dual-agent Reinforcement Learning [64.11013095004786]
本稿では,ベースラインと安全エージェントからなる二重エージェント型安全強化学習戦略を提案する。このような分離されたフレームワークは、RLベースの制御に対して高い柔軟性、データ効率、リスク認識を可能にする。提案手法は,難易度の高いロボットの移動・操作作業において,最先端の安全RLアルゴリズムより優れる。
論文参考訳（メタデータ） (2022-12-14T03:11:25Z)
Evaluating Model-free Reinforcement Learning toward Safety-critical Tasks [70.76757529955577]
本稿では、国家安全RLの観点から、この領域における先行研究を再考する。安全最適化と安全予測を組み合わせた共同手法であるUnrolling Safety Layer (USL)を提案する。この領域のさらなる研究を容易にするため、我々は関連するアルゴリズムを統一パイプラインで再現し、SafeRL-Kitに組み込む。
論文参考訳（メタデータ） (2022-12-12T06:30:17Z)
SAFER: Data-Efficient and Safe Reinforcement Learning via Skill Acquisition [59.94644674087599]
安全制約下での複雑な制御タスクにおけるポリシー学習を高速化するアルゴリズムであるSAFEty skill pRiors (SAFER)を提案する。オフラインデータセットでの原則的なトレーニングを通じて、SAFERは安全なプリミティブスキルの抽出を学ぶ。推論段階では、SAFERで訓練されたポリシーは、安全なスキルを成功のポリシーに組み込むことを学ぶ。
論文参考訳（メタデータ） (2022-02-10T05:43:41Z)
Safe-Critical Modular Deep Reinforcement Learning with Temporal Logic through Gaussian Processes and Control Barrier Functions [3.5897534810405403]
強化学習(Reinforcement Learning, RL)は,現実のアプリケーションに対して限られた成功を収める,有望なアプローチである。本稿では,複数の側面からなる学習型制御フレームワークを提案する。 ECBFをベースとしたモジュラーディープRLアルゴリズムは,ほぼ完全な成功率を達成し,高い確率で安全性を保護することを示す。
論文参考訳（メタデータ） (2021-09-07T00:51:12Z)
Learning to be Safe: Deep RL with a Safety Critic [72.00568333130391]
安全なRLへの自然な第一のアプローチは、ポリシーの動作に関する制約を手動で指定することである。我々は,タスクと環境の1つのセットで安全であることを学習し,その学習した直観を用いて将来の行動を制限することを提案する。
論文参考訳（メタデータ） (2020-10-27T20:53:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。