論文の概要: Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels

• arxiv url: http://arxiv.org/abs/2607.26121v1
• Date: Tue, 28 Jul 2026 17:50:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.435977
• Title: Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels
• Title（参考訳）: 信頼できるボディードインテリジェンスを目指して - システムフレームワークと信頼度レベル
• Authors: Xinyu Yang, Tianxing Chen, Honghao Su, Minxuan Wang, Chenze Yu, Zhangzheng Tu, Yue Chen, Yuxiao Huo, Lingfeng Zhang, Yan Huang, Yan Qin, Shaolong Zhu, Qiwei Liang, Hekun Tian, Shujia Liu, Guangyu Chen, Junhao Gong, Zixuan Li, Wenwei Lin, Zijian Lin, Wenxuan Zhu, Eric J Chen, Yue Yuan, Qize Yu, Jiaqi Liang, Haowen Yan, Hengfei Zhao, Weijie Wan, Zikun Xiao, Junyuan Tang, Baijun Chen, Kai-Chong Lei, Kaixuan Wang, Kailun Su, Zanxin Chen, Yao Mu, Renjing Xu, Chuqiao Lyu, Qi Xiong, Ping Luo, Wenbo Ding,
• Abstract要約: 身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。 我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
• 参考スコア（独自算出の注目度）: 53.63220028820581
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Embodied intelligence integrates learned perception and decision making with real-time computation, control, and physical interaction. Because failures can cause immediate physical or operational harm, task completion alone does not establish trustworthiness. We define trustworthy embodied intelligence as the sustained capacity to execute specified tasks reliably under environmental and system variation while maintaining risk within acceptable bounds. We term this objective sustained safe success. Its supporting mechanisms are organized into four interdependent layers. The model layer generates task-competent action proposals with calibrated uncertainty and explicit safety preferences. The system layer realizes authorized actions dependably through integrated sensing, computation, control, hardware safeguards, fault containment, and fallback. The evidence layer substantiates bounded claims through evaluation, verification, validation, traceability, and structured assurance arguments. The deployment layer maintains claim validity through runtime monitoring, authority management, intervention, incident response, and controlled updates. Because assumptions and failures propagate across these layers, neither model capability, isolated safeguards, nor benchmark performance alone can establish end-to-end trustworthiness. Drawing on embodied AI, robotics, control, dependable computing, distributed systems, and autonomous driving, we further propose a non-normative hierarchy of trustworthiness levels. This hierarchy grades the strength of bounded deployment claims across task capability, safety, system assurance, operational governance, and supporting evidence, providing a basis for bounded deployment, comparative evaluation, research prioritization, and future standardization.
• Abstract（参考訳）: 身体的知性は学習された知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。 失敗は即時身体的または運用上の害を引き起こす可能性があるため、タスク完了だけでは信頼性を確立できない。 信頼性のある具体的インテリジェンスを、許容範囲内でリスクを維持しつつ、環境やシステムの変化下で確実に特定タスクを実行する持続能力として定義する。 我々はこの目的が安全な成功を保ったと表現する。 支持機構は4つの相互依存層に分けられる。 モデル層は、校正された不確実性と明示的な安全性を優先したタスク競合アクション提案を生成する。 システム層は、統合されたセンシング、計算、制御、ハードウェアセーフガード、障害封じ込め、フォールバックにより、確実に認証された動作を実現する。 証拠層は、評価、検証、検証、トレーサビリティ、構造化された保証の議論を通じて、有界な主張を裏付ける。 デプロイメント層は、実行時監視、権限管理、介入、インシデント応答、管理された更新を通じて、クレームの妥当性を維持する。 これらのレイヤにまたがる仮定と失敗が伝播するため、モデル能力、分離されたセーフガード、ベンチマークパフォーマンスだけではエンドツーエンドの信頼性を確立することはできない。 具体化されたAI、ロボティクス、制御、信頼性の高いコンピューティング、分散システム、自律運転に基づいて、信頼度レベルの非ノルミティブな階層をさらに提案する。 この階層は、タスク能力、安全性、システム保証、運用管理、エビデンスのサポートといった、バウンドデプロイメントの強みをランク付けし、バウンドデプロイメント、比較評価、研究優先順位付け、将来の標準化の基礎を提供します。

関連論文リスト

• The safety failures we are not instrumenting: a perspective on hidden safety-critical challenges in modern AI systems [26.594498540217568]
  デプロイされたシステムでは、最も連続的な障害の多くは、目覚ましいよりも静かで、単一のアウトプットに局所化するのではなく、コンポーネントに分散し、障害として認識される前にエコシステムによって正規化される。 現代のAIシステムにおける中心的な安全性の課題は、モデルが有害な応答を放出するかどうかだけではなく、より広範な社会技術システムが、エラーが可視で、競合可能で、封じ込め可能で、回復可能な状態を維持しているかどうかである。
  論文  参考訳（メタデータ） (2026-07-21T17:02:37Z)
• SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
  SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。 ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
  論文  参考訳（メタデータ） (2026-06-01T14:23:42Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems [0.0]
  本稿では,非有界自律のアーキテクチャ的脆弱性について考察する。 この理論をSMARtモデル(Stable、Meta-cognitive、Assisted、Regulationの4層フレームワーク)を用いてインスタンス化する。 自律ライフサイクルにおける障害管理の形式化は、信頼性と管理された人工知能の実現に向けた重要なステップである、と結論付けます。
  論文  参考訳（メタデータ） (2026-05-26T19:49:23Z)
• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• Securing Computer-Use Agents: A Unified Architecture-Lifecycle Framework for Deployment-Grounded Reliability [21.333731425525205]
  この記事では、CUAのデプロイメント基盤信頼性のためのアーキテクチャライフサイクルフレームワークを開発する。 この分析は、代表システム、ベンチマーク、およびセキュリティ/プライバシー研究を合成する。
  論文  参考訳（メタデータ） (2026-05-08T01:38:46Z)
• EmbodiedGovBench: A Benchmark for Governance, Recovery, and Upgrade Safety in Embodied Agent Systems [14.412476605788482]
  EmbodiedGovBenchは、エンボディエージェントシステムのガバナンス指向評価のためのベンチマークである。 現実的な摂動の下で、システムは制御可能か、ポリシーに縛られたか、回復可能か、監査可能か、進化安全かを評価する。
  論文  参考訳（メタデータ） (2026-04-13T08:34:04Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。