論文の概要: Cognitive Guardrails for Open-World Decision Making in Autonomous Drone Swarms

• arxiv url: http://arxiv.org/abs/2505.23576v1
• Date: Thu, 29 May 2025 15:47:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 18:14:07.956059
• Title: Cognitive Guardrails for Open-World Decision Making in Autonomous Drone Swarms
• Title（参考訳）: 自律型ドローン群におけるオープンワールド意思決定のための認知ガードレール
• Authors: Jane Cleland-Huang, Pedro Antonio Alarcon Granadeno, Arturo Miguel Russell Bernal, Demetrius Hernandez, Michael Murphy, Maureen Petterson, Walter Scheirer,
• Abstract要約: スモール・アンクルード・エアリアル・システムズ(SUAS)は、捜索救助任務において自律的な群れとしてますます配備されている。 本稿では, サーチ・レスキューミッションにおける sUAS Swarm のための認知ガードレールの設計, シミュレーション, 実世界の統合について述べる。
• 参考スコア（独自算出の注目度）: 31.87394696063202
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Small Uncrewed Aerial Systems (sUAS) are increasingly deployed as autonomous swarms in search-and-rescue and other disaster-response scenarios. In these settings, they use computer vision (CV) to detect objects of interest and autonomously adapt their missions. However, traditional CV systems often struggle to recognize unfamiliar objects in open-world environments or to infer their relevance for mission planning. To address this, we incorporate large language models (LLMs) to reason about detected objects and their implications. While LLMs can offer valuable insights, they are also prone to hallucinations and may produce incorrect, misleading, or unsafe recommendations. To ensure safe and sensible decision-making under uncertainty, high-level decisions must be governed by cognitive guardrails. This article presents the design, simulation, and real-world integration of these guardrails for sUAS swarms in search-and-rescue missions.
• Abstract（参考訳）: スモール・アンクルード・エアリアル・システム(英語版) (SUAS) は、捜索救助やその他の災害対応シナリオにおいて、自律的な群れとしてますます展開されている。 これらの設定では、コンピュータビジョン(CV)を使用して関心のある物体を検出し、ミッションを自律的に適応させる。 しかし、従来のCVシステムは、オープンワールド環境における不慣れな物体を認識したり、ミッションプランニングとの関係を推測するのに苦労することが多い。 これを解決するために、検出されたオブジェクトとその意味を推論するために、大きな言語モデル(LLM)を組み込んだ。 LLMは貴重な洞察を提供することができるが、幻覚を起こす傾向があり、誤った、誤解を招く、あるいは安全でないレコメンデーションを生み出す可能性がある。 不確実性の下で安全かつ賢明な意思決定を保証するために、ハイレベルな決定は認知的ガードレールによって管理されなければならない。 本稿では, サーチ・レスキューミッションにおけるこれらのガードレールの設計, シミュレーション, 実世界統合について述べる。

関連論文リスト

• Natural Reflection Backdoor Attack on Vision Language Model for Autonomous Driving [55.96227460521096]
  視覚言語モデル(VLM)は推論能力を高めるために自律運転システムに統合されている。 本稿では,自律運転シナリオにおけるVLMシステムを対象とした自然反射型バックドアアタックを提案する。 我々の発見は、自動運転の厳しいリアルタイム要求を生かした、新たなタイプの攻撃を発見しました。
  論文  参考訳（メタデータ） (2025-05-09T20:28:17Z)
• Zero-Shot Scene Understanding for Automatic Target Recognition Using Large Vision-Language Models [25.659420101274158]
  LVLM(Large Vision-Language Models)は、ゼロショット方式で様々な条件で物体を認識できる創発的特性を示す。 本稿では,LVLMの検出能力とLVLMの認識信頼性を組み合わせた新しいパイプラインを提案する。 本研究では,軍用車両の認識における各種LVLMの性能を比較する。
  論文  参考訳（メタデータ） (2025-01-13T15:11:27Z)
• Navigating Threats: A Survey of Physical Adversarial Attacks on LiDAR Perception Systems in Autonomous Vehicles [4.4538254463902645]
  LiDARシステムは敵の攻撃に弱いため、自動運転車の安全性と堅牢性に大きな課題が生じる。 本調査では,LiDARに基づく知覚システムを対象とした身体的敵攻撃に関する研究状況について概説する。 我々は、LiDARベースのシステムに対する既存の攻撃において、重要な課題を特定し、ギャップを浮き彫りにする。
  論文  参考訳（メタデータ） (2024-09-30T15:50:36Z)
• Object Depth and Size Estimation using Stereo-vision and Integration with SLAM [2.122581579741322]
  自律ロボットにおけるLiDARを補完する高精度な立体視手法を提案する。 このシステムは、高度な立体視に基づく物体検出を使用して、有形物体と非有形物体の両方を検出する。 深さと大きさの情報はSLAMプロセスに統合され、複雑な環境でロボットのナビゲーション能力を高める。
  論文  参考訳（メタデータ） (2024-09-11T21:12:48Z)
• A Study on Prompt Injection Attack Against LLM-Integrated Mobile Robotic Systems [4.71242457111104]
  大規模言語モデル(LLM)はマルチモーダルプロンプトを処理でき、よりコンテキスト対応の応答を生成することができる。 主な懸念事項の1つは、ロボットナビゲーションタスクでLLMを使用する際の潜在的なセキュリティリスクである。 本研究は,LPM統合システムにおける即時注入が移動ロボットの性能に及ぼす影響について検討する。
  論文  参考訳（メタデータ） (2024-08-07T02:48:22Z)
• Challenges in Visual Anomaly Detection for Mobile Robots [65.53820325712455]
  視覚に基づく自律移動ロボットの異常検出作業について考察する。 関連した視覚異常の種類を分類し,教師なしの深層学習手法で検出する方法について議論する。
  論文  参考訳（メタデータ） (2022-09-22T13:26:46Z)
• AdvSim: Generating Safety-Critical Scenarios for Self-Driving Vehicles [76.46575807165729]
  我々は,任意のLiDARベースの自律システムに対して,安全クリティカルなシナリオを生成するための,敵対的フレームワークであるAdvSimを提案する。 センサデータから直接シミュレートすることにより、完全な自律スタックに対して安全クリティカルな敵シナリオを得る。
  論文  参考訳（メタデータ） (2021-01-16T23:23:12Z)
• Towards robust sensing for Autonomous Vehicles: An adversarial perspective [82.83630604517249]
  結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。 敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。 より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
  論文  参考訳（メタデータ） (2020-07-14T05:25:15Z)
• Learning to Track Dynamic Targets in Partially Known Environments [48.49957897251128]
  我々は、アクティブな目標追跡を解決するために、深層強化学習アプローチを用いる。 特に,アクティブ・トラッカー・ターゲティング・ネットワーク(ATTN)を導入し,アクティブ・ターゲティング・ターゲティングの主要なタスクを解決するための統一的なRLポリシーを提案する。
  論文  参考訳（メタデータ） (2020-06-17T22:45:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。