論文の概要: SAFE-CHEM: Uncertainty-Aware Policy Switching for Robust Robotic Chemistry
- arxiv url: http://arxiv.org/abs/2608.09303v1
- Date: Mon, 10 Aug 2026 08:51:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.17023
- Title: SAFE-CHEM: Uncertainty-Aware Policy Switching for Robust Robotic Chemistry
- Title（参考訳）: SAFE-CHEM:ロバストなロボット化学のための不確実なポリシー変更
- Abstract要約: SAFE-CHEMは、堅牢で学習ベースのロボット化学者向けに設計された不確実性を認識したフレームワークである。
我々のアプローチは、ネット上の不確実性を定量化するために、繰り返し発生するニューラルネットワークに基づく模倣学習ポリシーの集合を利用する。
本稿では,学習方針から決定論的なルールベースのバックアップコントローラに自律的に切り替えるハイブリッド制御アーキテクチャを提案する。
- 参考スコア（独自算出の注目度）: 0.47248250311484113
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The deployment of autonomous robotic systems in chemistry laboratories is accelerating experimental workflows and providing the foundational data for AI-driven scientific discovery. However, despite the success of data-driven methods in acquiring dexterous skills, safety remains a primary barrier to their deployment in high-risk domains, such as early-stage materials chemistry experiments. Specifically, learning-based policies frequently struggle to distinguish between safe and unsafe actions, leading to overconfident extrapolation and potentially catastrophic failures. To mitigate these safety risks, we propose SAFE-CHEM, an uncertainty-aware framework designed for robust, learning-based robotic chemists. Our approach leverages an ensemble of recurrent neural network-based imitation learning policies to quantify epistemic uncertainty online through the variance of action predictions. By characterising the success-conditioned density of this variance using kernel density estimation, we introduce a hybrid control architecture that autonomously switches from the learned policy to a deterministic, rule-based backup controller when uncertainty exceeds a calibrated safety threshold. We evaluate SAFE-CHEM across three fundamental laboratory manipulation tasks, where our empirical results demonstrate that this hybrid strategy improves overall task success rates and reduces critical safety violations compared to traditional single-policy baselines. Finally, we demonstrate the practical viability of the framework through zero-shot sim-to-real transfer onto a physical Franka Production 3 robot manipulator.
- Abstract（参考訳）: 化学実験室における自律ロボットシステムの展開は、実験的なワークフローを加速し、AIによる科学的発見の基礎となるデータを提供している。
しかし、データ駆動による技術習得の成功にもかかわらず、安全は、初期の物質化学実験のようなリスクの高い領域への展開の主要な障壁であり続けている。
特に、学習ベースの政策は、安全と安全でない行動の区別にしばしば苦労し、過度に自信の欠如と破滅的な失敗につながる。
これらの安全性リスクを軽減するために,ロバストな学習ベースのロボット化学者を対象とした不確実性認識フレームワークSAFE-CHEMを提案する。
我々のアプローチは、繰り返しニューラルネットワークに基づく模倣学習ポリシーの集合を利用して、行動予測のばらつきを通じて、オンラインのてんかん不確実性を定量化する。
カーネル密度推定を用いて,この分散を成功条件とした密度を特徴付けることにより,不確実性が校正された安全しきい値を超えた場合,学習方針からルールベースバックアップコントローラに自律的に切り替えるハイブリッド制御アーキテクチャを導入する。
SFE-CHEMを3つの基本的な実験室操作タスクで評価し、このハイブリッド戦略がタスク成功率を向上し、従来の単一政治基準に比べて重大な安全違反を減らすことを実証した。
最後に,Franka Production 3ロボットマニピュレータへのゼロショットsim-to-real転送によるフレームワークの実用性を示す。
関連論文リスト
- LABSHIELD: A Multimodal Benchmark for Safety-Critical Reasoning and Planning in Scientific Laboratories [41.392364324753224]
MLLM(Multimodal large language model)エージェントは、ラボアシスタントから自動運転ラボオペレータへと進化する。
LABSHIELDは,危険識別と安全クリティカルな推論においてMLLMを評価するために設計された,現実的なマルチビューベンチマークである。
我々は,20のプロプライエタリモデル,9つのオープンソースモデル,および3つの具体的モデルについて,デュアルトラック評価フレームワークを用いて評価する。
論文 参考訳（メタデータ） (2026-03-12T14:38:13Z) - Safe-SDL:Establishing Safety Boundaries and Control Mechanisms for AI-Driven Self-Driving Laboratories [18.300558114535992]
自動運転研究所(SDL)は、自律的な仮説生成、実験、分析が可能な閉ループ実験システムを作成する。
本稿では,ロバストな安全境界と制御機構を確立するための包括的フレームワークであるSafe-SDLを提案する。
論文 参考訳（メタデータ） (2026-02-13T12:42:48Z) - Safe Reinforcement Learning via Recovery-based Shielding with Gaussian Process Dynamics Models [57.006252510102506]
強化学習(Reinforcement Learning, RL)は、最適な意思決定と制御のための強力なフレームワークである。
本稿では,未知および非線形連続力学系に対する安全性を低くした安全RLを実現するための新しい回復型遮蔽フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-12T22:03:35Z) - Beyond single-channel agentic benchmarking [0.0]
本稿では,AIエージェントを分離して評価することで,人間のループ環境に配置した場合の運用上の安全性が低下すると主張している。
にもかかわらず、不完全なAIシステムでさえ、十分に文書化された人間の失敗の原因に対して冗長な監査レイヤーとして機能することで、かなりの安全性を提供することができる。
論文 参考訳（メタデータ） (2026-02-05T08:22:02Z) - Safely Learning Controlled Stochastic Dynamics [61.82896036131116]
システム力学の安全な探索と効率的な推定を可能にする手法を提案する。
学習後、学習モデルはシステムのダイナミクスの予測を可能にし、任意の制御の安全性検証を可能にする。
我々は、真の力学のソボレフ正則性を高めることにより、安全性と適応学習率の向上を理論的に保証する。
論文 参考訳（メタデータ） (2025-06-03T11:17:07Z) - Can We Detect Failures Without Failure Data? Uncertainty-Aware Runtime Failure Detection for Imitation Learning Policies [19.27526590452503]
FAIL-Detectは、模倣学習に基づくロボット操作における障害検出のための2段階のアプローチである。
まず、政策失敗と相関し、不確実性を捉えるスカラー信号にポリシー入力と出力を蒸留する。
我々の実験は、新しいフローベース密度推定器を使用する場合、学習信号がほぼ一貫した効果を示す。
論文 参考訳（メタデータ） (2025-03-11T15:47:12Z) - EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。
高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。
しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。
本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
論文 参考訳（メタデータ） (2024-08-08T13:19:37Z) - Meta-Learning Priors for Safe Bayesian Optimization [72.8349503901712]
メタ学習アルゴリズムであるF-PACOHを構築し,データ不足の設定において確実な定量化を実現する。
コアコントリビューションとして、安全に適合した事前をデータ駆動で選択するための新しいフレームワークを開発する。
ベンチマーク関数と高精度動作系において,我々のメタ学習先行が安全なBOアプローチの収束を加速することを示す。
論文 参考訳（メタデータ） (2022-10-03T08:38:38Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Closing the Closed-Loop Distribution Shift in Safe Imitation Learning [80.05727171757454]
模倣学習問題において,安全な最適化に基づく制御戦略を専門家として扱う。
我々は、実行時に安価に評価でき、専門家と同じ安全保証を確実に満足する学習されたポリシーを訓練する。
論文 参考訳（メタデータ） (2021-02-18T05:11:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。