Fugu-MT 論文翻訳(概要): Ensuring Safe Physical AI in Urban Mobility via Hazard-Informed Synthesized Envelopes

論文の概要: Ensuring Safe Physical AI in Urban Mobility via Hazard-Informed Synthesized Envelopes

arxiv url: http://arxiv.org/abs/2608.14481v1
Date: Fri, 14 Aug 2026 16:57:54 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-17 20:14:29.447932
Title: Ensuring Safe Physical AI in Urban Mobility via Hazard-Informed Synthesized Envelopes
Title（参考訳）: Hazard-Informed Synthesized Envelopes を用いた都市移動における安全な物理AIの実現
Abstract要約: 本稿では,ハザードインフォームド・セーフ・エンベロープを用いた系統的ハザード分析と実行時の執行を橋渡しする統一的な枠組みを提案する。この表現が物理的AIランタイムと自然にどのように相互作用し、安全な都市移動を保証するかを示す。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: As heterogeneous robotic systems deploy across diverse urban zones, maintaining safety amid complex human-robot interactions remains a critical challenge. We present a unified framework that bridges systematic hazard analysis and runtime enforcement using hazard-informed safety envelopes. Rather than treating safety as a static constraint isolated within individual software modules, we introduce a cross-layer safety transformation process spanning symbolic, spatial, and dynamic world models. We show how this representation naturally interfaces with physical AI runtime harnesses to guarantee safe urban mobility.
Abstract（参考訳）: 異質なロボットシステムが多様な都市地帯に展開するにつれ、複雑な人間とロボットの相互作用の中で安全性を維持することは、依然として重要な課題である。本稿では,ハザードインフォームド・セーフ・エンベロープを用いた系統的ハザード分析と実行時の執行を橋渡しする統一的な枠組みを提案する。個々のソフトウェアモジュール内で分離された静的制約として安全性を扱うのではなく、シンボル的、空間的、動的世界モデルにまたがる層間安全変換プロセスを導入する。この表現が物理的AIランタイムと自然にどのように相互作用し、安全な都市移動を保証するかを示す。

関連論文リスト

World Engine: Towards the Era of Post-Training for Autonomous Driving [63.61277741443647]
実世界のログから高忠実度インタラクティブ環境を再構築する生成フレームワークであるWorld Engineを紹介する。 World Engineは、稀な安全クリティカルなシナリオにおける障害を大幅に削減し、事前トレーニングデータのみをスケールするよりもはるかに大きな利益をもたらす。プロダクションスケールの自動運転システムにデプロイすると、結果として、シミュレートされた衝突を減らすことができる。
論文参考訳（メタデータ） (2026-06-18T06:28:33Z)
Differentiable Model Predictive Safety for Heterogeneous Mobility at Urban Intersections [4.517663944296433]
我々は、新しいフレームワーク、差別化可能なモデル予測安全性を導入する。モデル予測制御の展望を、データ駆動のエンドツーエンドの強化学習アーキテクチャに組み込む。衝突を5.6%未満に事実上排除し、高密度で混在する車両とロボットの交通シミュレーションを行う。
論文参考訳（メタデータ） (2026-05-19T00:42:57Z)
Modular Safety Guardrails Are Necessary for Foundation-Model-Enabled Robots in the Real World [42.7330476721001]
静的検証、モノリシックコントローラ、エンドツーエンドの学習ポリシーを含む既存のアプローチは、タスク、環境、人間の期待がオープンで、長い目で見たり、時間の経過とともに適応されるような環境では不十分である、と我々は主張する。自律スタック全体にわたる包括的安全のためのアーキテクチャ基盤として,監視(評価)層と介入層からなるモジュール型安全ガードレールを提案する。
論文参考訳（メタデータ） (2026-02-03T22:41:51Z)
UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
論文参考訳（メタデータ） (2025-10-02T16:43:33Z)
ANNIE: Be Careful of Your Robots [48.89876809734855]
エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。すべての安全カテゴリーで攻撃の成功率は50%を超えている。結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
論文参考訳（メタデータ） (2025-09-03T15:00:28Z)
Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。複雑な運用環境での安全性確保は依然として大きな課題である。このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
論文参考訳（メタデータ） (2025-06-05T15:46:25Z)
SafeAgent: Safeguarding LLM Agents via an Automated Risk Simulator [77.86600052899156]
LLM(Large Language Model)ベースのエージェントは、現実のアプリケーションにますますデプロイされる。完全自動合成データ生成によるエージェント安全性を体系的に向上する最初のフレームワークであるAutoSafeを提案する。 AutoSafeは安全性のスコアを平均で45%向上させ、現実世界のタスクでは28.91%の改善を実現している。
論文参考訳（メタデータ） (2025-05-23T10:56:06Z)
Diffeomorphic Obstacle Avoidance for Contractive Dynamical Systems via Implicit Representations [0.6144680854063939]
本稿では、デモから学んだダイナミックロボットの安全性と堅牢性を両立させるという課題に対処する。我々は、学習スキルの堅牢な外挿を提供するために、神経収縮力学系を構築している。我々は、微分同相変換による収縮安定性を維持するフルボディ障害物回避戦略を設計する。
論文参考訳（メタデータ） (2025-04-26T08:56:51Z)
SafeCast: Risk-Responsive Motion Forecasting for Autonomous Vehicles [12.607007386467329]
リスク応答型モーション予測モデルであるSafeCastを提案する。安全を意識した意思決定と不確実性を意識した適応性を統合する。我々のモデルは、軽量なアーキテクチャと低推論レイテンシを維持しながら、最先端(SOTA)の精度を実現する。
論文参考訳（メタデータ） (2025-03-28T15:38:21Z)
SafeEmbodAI: a Safety Framework for Mobile Robots in Embodied AI Systems [5.055705635181593]
物理的世界と自律的に対話するAIロボットを含む、身体化されたAIシステムは、かなり進歩している。不適切な安全管理は、複雑な環境で障害を引き起こし、悪意のあるコマンドインジェクションに対してシステムが脆弱になる。我々は,移動ロボットを組込みAIシステムに統合するための安全フレームワークであるtextitSafeEmbodAIを提案する。
論文参考訳（メタデータ） (2024-09-03T05:56:50Z)
Safe Inputs but Unsafe Output: Benchmarking Cross-modality Safety Alignment of Large Vision-Language Model [73.8765529028288]
我々は、モダリティ間の安全アライメントを評価するために、セーフインプットとアンセーフアウトプット(SIUO)と呼ばれる新しい安全アライメントの課題を導入する。この問題を実証的に調査するため,我々はSIUOを作成した。SIUOは,自己修復,違法行為,プライバシー侵害など,9つの重要な安全領域を含むクロスモダリティベンチマークである。以上の結果から, クローズドおよびオープンソース両方のLVLMの安全性上の重大な脆弱性が明らかとなり, 複雑で現実的なシナリオを確実に解釈し, 応答する上で, 現行モデルが不十分であることが示唆された。
論文参考訳（メタデータ） (2024-06-21T16:14:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。