論文の概要: Enhancing Reliability in LLM-Integrated Robotic Systems: A Unified Approach to Security and Safety

• arxiv url: http://arxiv.org/abs/2509.02163v1
• Date: Tue, 02 Sep 2025 10:14:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-04 15:17:03.992914
• Title: Enhancing Reliability in LLM-Integrated Robotic Systems: A Unified Approach to Security and Safety
• Title（参考訳）: LLM統合型ロボットシステムの信頼性向上 : セキュリティと安全性の統一的アプローチ
• Authors: Wenxiao Zhang, Xiangrui Kong, Conan Dewitt, Thomas Bräunl, Jin B. Hong,
• Abstract要約: 大きな言語モデルをロボットシステムに統合することは、人工知能に革命をもたらした。 本稿では,運用安全を図りつつ,迅速なインジェクション攻撃を緩和する統合フレームワークを提案する。 当社のアプローチは,パフォーマンス指標とセキュリティ指標の両方を用いて評価された,迅速な組み立て,状態管理,安全性検証を組み合わせたものだ。
• 参考スコア（独自算出の注目度）: 6.3301898351857515
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Integrating large language models (LLMs) into robotic systems has revolutionised embodied artificial intelligence, enabling advanced decision-making and adaptability. However, ensuring reliability, encompassing both security against adversarial attacks and safety in complex environments, remains a critical challenge. To address this, we propose a unified framework that mitigates prompt injection attacks while enforcing operational safety through robust validation mechanisms. Our approach combines prompt assembling, state management, and safety validation, evaluated using both performance and security metrics. Experiments show a 30.8% improvement under injection attacks and up to a 325% improvement in complex environment settings under adversarial conditions compared to baseline scenarios. This work bridges the gap between safety and security in LLM-based robotic systems, offering actionable insights for deploying reliable LLM-integrated mobile robots in real-world settings. The framework is open-sourced with simulation and physical deployment demos at https://llmeyesim.vercel.app/
• Abstract（参考訳）: ロボットシステムへの大型言語モデル(LLM)の統合は、高度な意思決定と適応性を実現するために、組み込み人工知能に革命をもたらした。 しかし、敵の攻撃に対するセキュリティと複雑な環境の安全性の両方を含む信頼性を確保することは、依然として重要な課題である。 そこで本稿では,ロバストなバリデーション機構を通じて運用安全性を確保しつつ,迅速なインジェクション攻撃を緩和する統合フレームワークを提案する。 当社のアプローチは,パフォーマンス指標とセキュリティ指標の両方を用いて評価された,迅速な組み立て,状態管理,安全性検証を組み合わせたものだ。 実験では、インジェクション攻撃による30.8%の改善と、ベースラインシナリオと比較して、敵条件下での複雑な環境設定の325%の改善が示されている。 この作業は、LLMベースのロボットシステムの安全性とセキュリティのギャップを埋め、信頼性の高いLLM統合モバイルロボットを現実の環境で展開するための実用的な洞察を提供する。 このフレームワークは、シミュレーションと物理的なデプロイメントデモをhttps://llmeyesim.vercel.app/でオープンソースとして公開している。

関連論文リスト

• SafeAgent: Safeguarding LLM Agents via an Automated Risk Simulator [77.86600052899156]
  LLM(Large Language Model)ベースのエージェントは、現実のアプリケーションにますますデプロイされる。 完全自動合成データ生成によるエージェント安全性を体系的に向上する最初のフレームワークであるAutoSafeを提案する。 AutoSafeは安全性のスコアを平均で45%向上させ、現実世界のタスクでは28.91%の改善を実現している。
  論文  参考訳（メタデータ） (2025-05-23T10:56:06Z)
• SafeEmbodAI: a Safety Framework for Mobile Robots in Embodied AI Systems [5.055705635181593]
  物理的世界と自律的に対話するAIロボットを含む、身体化されたAIシステムは、かなり進歩している。 不適切な安全管理は、複雑な環境で障害を引き起こし、悪意のあるコマンドインジェクションに対してシステムが脆弱になる。 我々は,移動ロボットを組込みAIシステムに統合するための安全フレームワークであるtextitSafeEmbodAIを提案する。
  論文  参考訳（メタデータ） (2024-09-03T05:56:50Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。