論文の概要: The Constitutional Controller: Doubt-Calibrated Steering of Compliant Agents
- arxiv url: http://arxiv.org/abs/2507.15478v1
- Date: Mon, 21 Jul 2025 10:33:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-22 20:51:32.358196
- Title: The Constitutional Controller: Doubt-Calibrated Steering of Compliant Agents
- Title（参考訳）: コンストラクショナルコントローラ: コンピテントエージェントの二重キャリブレーションステアリング
- Authors: Simon Kohaut, Felix Divo, Navid Hamid, Benedict Flade, Julian Eggert, Devendra Singh Dhami, Kristian Kersting,
- Abstract要約: ニューロシンボリックシステムは、確率論的、象徴的なホワイトボックス推論モデルとディープラーニング手法を統合する方法を示す。
これにより、ノイズデータに基づいてトレーニングされた明示的なルールとニューラルモデルの同時考慮が可能になる。
実世界の空中モビリティ研究において、我々はCoCoがインテリジェントな自律システムに対して適切な疑念を学習する利点を実証する。
- 参考スコア（独自算出の注目度）: 18.680037980430797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ensuring reliable and rule-compliant behavior of autonomous agents in uncertain environments remains a fundamental challenge in modern robotics. Our work shows how neuro-symbolic systems, which integrate probabilistic, symbolic white-box reasoning models with deep learning methods, offer a powerful solution to this challenge. This enables the simultaneous consideration of explicit rules and neural models trained on noisy data, combining the strength of structured reasoning with flexible representations. To this end, we introduce the Constitutional Controller (CoCo), a novel framework designed to enhance the safety and reliability of agents by reasoning over deep probabilistic logic programs representing constraints such as those found in shared traffic spaces. Furthermore, we propose the concept of self-doubt, implemented as a probability density conditioned on doubt features such as travel velocity, employed sensors, or health factors. In a real-world aerial mobility study, we demonstrate CoCo's advantages for intelligent autonomous systems to learn appropriate doubts and navigate complex and uncertain environments safely and compliantly.
- Abstract（参考訳）: 不確実な環境で自律エージェントの信頼性と規則に準拠した動作を保証することは、現代ロボット工学における根本的な課題である。
我々の研究は、確率論的で象徴的なホワイトボックス推論モデルとディープラーニング手法を統合するニューロシンボリックシステムが、この課題に対して強力な解決策を提供する方法を示している。
これにより、構造的推論の強さとフレキシブルな表現を組み合わせることで、ノイズデータに基づいてトレーニングされた明示的な規則とニューラルモデルの同時考慮が可能になる。
この目的のために,共有トラフィック空間に見られるような制約を表す深い確率論的論理プログラムを推論することにより,エージェントの安全性と信頼性を高めるための新しいフレームワークであるConstitutional Controller(CoCo)を導入する。
さらに,移動速度,採用センサ,健康因子などの疑わしい特徴を条件に,確率密度として実装されたセルフダウトの概念を提案する。
実世界の空中モビリティ研究において、CoCoがインテリジェントな自律システムに対して、適切な疑念を学習し、複雑で不確実な環境を安全かつコンプライアンスにナビゲートする利点を実証する。
関連論文リスト
- Formal Control for Uncertain Systems via Contract-Based Probabilistic Surrogates (Extended Version) [1.474723404975345]
我々は,複雑な非線形エージェント環境相互作用に対処しながら,高次元に効果的にスケールする抽象的手法を提案する。
我々のアプローチは、複雑な高次元の車両交差点で示されるように、保守主義のスケーラビリティを好意的に交換する。
論文 参考訳（メタデータ） (2025-06-20T13:00:50Z) - Towards Responsible AI: Advances in Safety, Fairness, and Accountability of Autonomous Systems [0.0]
この論文は、AIシステムの安全性、公正性、透明性、説明責任に関する知識を前進させる。
我々は,古典的決定論的遮蔽技術を拡張し,遅延観測に対する耐性を高める。
我々は,グループフェアネスを逐次決定設定で強制するための,新しい後処理手法であるフェアネスシールドを導入する。
論文 参考訳（メタデータ） (2025-06-11T21:30:02Z) - Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。
複雑な運用環境での安全性確保は依然として大きな課題である。
提案する確率的安全性は,大規模展開の残留リスクが予め定義された閾値以下であることを保証することを目的としている。
論文 参考訳（メタデータ） (2025-06-05T15:46:25Z) - Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。
提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。
これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
論文 参考訳（メタデータ） (2025-04-30T13:47:25Z) - Modular Framework for Uncertainty Prediction in Autonomous Vehicle Motion Forecasting within Complex Traffic Scenarios [6.6603214802161546]
我々のフレームワークは、フレキシブルでエンドツーエンドの差別化可能なエンコーダ-デコーダアーキテクチャを採用している。
主な貢献は、動的予測のためにコンテキスト対応の占有グリッドを生成する確率的ヒートマップ予測器である。
エンドツーエンドのベースラインに対してベンチマークを行い、より高速な収束、安定性の向上、柔軟性を示しています。
論文 参考訳（メタデータ） (2025-01-27T20:21:18Z) - SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。
提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。
複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
論文 参考訳（メタデータ） (2023-12-31T04:14:43Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - CausalCity: Complex Simulations with Agency for Causal Discovery and
Reasoning [68.74447489372037]
本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。
私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。
我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
論文 参考訳（メタデータ） (2021-06-25T00:21:41Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳（メタデータ） (2021-05-17T08:36:18Z) - Congestion-aware Multi-agent Trajectory Prediction for Collision
Avoidance [110.63037190641414]
渋滞パターンを明示的に学習し、新しい「センス--学習--Reason--予測」フレームワークを考案する。
学習段階を2段階に分解することで、「学生」は「教師」から文脈的手がかりを学習し、衝突のない軌跡を生成する。
実験では,提案モデルが合成データセットにおいて衝突のない軌道予測を生成できることを実証する。
論文 参考訳（メタデータ） (2021-03-26T02:42:33Z) - Online Mapping and Motion Planning under Uncertainty for Safe Navigation
in Unknown Environments [3.2296078260106174]
本論文は,確率論的安全保証者によるオンラインで実現可能な動作のマッピングと計画のための不確実性に基づくフレームワークを提案する。
提案手法は, 環境の不確実性を意識した環境表現を構築するために周囲をマッピングし, (i) 信念空間の多層サンプリングベースプランナーを通して, キノダイナミックに実現可能で確率論的に安全な目標に反復的に(re)計画を行うことにより, 動き, 確率論的安全性, オンライン計算制約を取り扱う。
論文 参考訳（メタデータ） (2020-04-26T08:53:37Z) - A Structured Approach to Trustworthy Autonomous/Cognitive Systems [4.56877715768796]
信頼を確保するための一般的なアプローチはない。
本稿では,このギャップを正確に埋める枠組みを提案する。
現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
論文 参考訳（メタデータ） (2020-02-19T14:36:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。