論文の概要: Containing Behavioral Cascades from Manipulated Claims in LLM-Powered Multi-Robot Systems
- arxiv url: http://arxiv.org/abs/2609.30523v1
- Date: Thu, 24 Sep 2026 20:17:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.13323
- Title: Containing Behavioral Cascades from Manipulated Claims in LLM-Powered Multi-Robot Systems
- Title（参考訳）: LLM駆動多ロボットシステムにおける操作クレームからの挙動カスケードの保持
- Abstract要約: 大規模言語モデル(LLM)を利用したマルチロボットシステムはセマンティックな操作に弱い。
艦隊を横断する前に、下流効果を含むアクティブな検証フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 2.255961793913651
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM)-powered multi-robot systems are vulnerable to semantic manipulation: an accepted false world-state claim can trigger a fleet-wide behavioral cascade, causing unnecessary replanning, increased path costs, congestion, or apparent mission infeasibility. Conditioning on a successful manipulation, we propose an active verification framework that contains its downstream effects before they propagate across the fleet. A dedicated verification module generates a structured Verify-Adapt-Hold plan: selected robots inspect consequential regions, a limited subset provisionally adapts when necessary, and the remaining robots retain their trusted plans. We evaluate the framework in a multi-robot transportation environment using injected false obstacle claims across different impacts and team sizes. Evaluation measures cascade containment, Sum-of-Costs, makespan, and coverage ratio. Results show that treating post-compromise verification as a team-level planning problem, rather than a binary trust decision, effectively limits the cascading physical consequences of semantic manipulation.
- Abstract（参考訳）: 大言語モデル(LLM)を利用したマルチロボットシステムは、セマンティックな操作に弱い: 受け入れられた偽世界状態のクレームは、艦隊全体の行動カスケードをトリガーし、不必要な再計画、経路コストの増大、混雑、または明らかなミッション不実現を引き起こす。
良好な操作を条件に,艦隊を横断する前に下流効果を含むアクティブな検証フレームワークを提案する。
専用の検証モジュールが構造化されたVerify-Adapt-Holdプランを生成し、選択されたロボットが連続した領域を検査し、必要な時に限定されたサブセットが仮適応し、残りのロボットは信頼された計画を保持する。
我々は,異なる影響とチームサイズにまたがる疑似障害物クレームを注入して,マルチロボット輸送環境におけるフレームワークの評価を行った。
カスケード封じ込め、スム・オブ・コスト、メースパン、カバー比の評価方法。
その結果、二項信頼決定ではなく、チームレベルの計画問題として、コンパイル後検証を扱い、セマンティックな操作のカスケードな物理的影響を効果的に制限していることがわかった。
関連論文リスト
- Fetch My Beer: Synthetic-to-real Hierarchical Policy for Smooth Pick-and-place [54.561625475942584]
本研究では, 液体充填容器の安定輸送について検討し, ロボットが物体を目標場所へ移動させながら, スロッシングを抑え, こぼれを防止する方法を検討した。
このタスクは運動の滑らかさと軌道レベルの安定性に厳格な要件を課し、既存のシステムの明確な制限を明らかにする。
物理的に検証されたデータ生成と階層的拡散型コントローラを結合した合成から現実のフレームワークを提案する。
論文 参考訳（メタデータ） (2026-09-16T04:55:12Z) - Bridging Semantics and Physics with Constrained LLMs for Safe and Trustworthy Robotic Manipulation [6.975054201075641]
言語誘導ロボットは、正しいように見える計画を作る以上のことをしなければならない。
計画は、運動と衝突の制約の下で物理的に実現不可能でありながら、言語学的に有効なように見える。
推論実行境界を型付き契約として形式化し、このギャップを埋めます。
論文 参考訳（メタデータ） (2026-08-29T17:26:20Z) - Trust-Aware Sequential Decision Making and Rollout Planning for Resilient Multi-Robot Systems [13.336940775646307]
妥協されたエージェントは、計画モデルと物理実行のミスマッチを作成することができる。
モニタ対応敵に対する距離制約付きスプーフィングモデルを提案する。
我々は,実際のGPSスプーフィングデータを用いて校正を行う確率的ローカライゼーション信頼と,タスク実行からの行動証拠を組み合わせてエージェントを分類し,検出された敵を除去する信頼意識モニタを開発した。
論文 参考訳（メタデータ） (2026-08-26T12:09:08Z) - Agentic Security: A Systematization of Tools, Failure Modes, and Design Laws for LLM-Driven Penetration Testing [0.21990652930491858]
エージェントセキュリティは、大規模言語モデル(LLM)エージェントを使用してセキュリティツールを計画、ディスパッチ、解釈する。
これらの障害を、広く使用されている10の静的、動的、クラウド、オーケストレーション、AI赤チームツールのハンズオン評価を通じて、体系化しています。
論文 参考訳（メタデータ） (2026-08-16T07:18:04Z) - When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - Operational Hallucination and Safety Drift in AI Agents [0.3823356975862005]
ツール使用自律エージェントのプランナーとして機能する大規模言語モデル(LLM)は、マルチターン実行における動的信頼性のリスクを導入する。
本稿では,複数のLLM(Safety Drift)とOperational Hallucination(Operational Hallucination)の2つの障害モードを実証的に特徴付ける。
本稿では、インテント-アクション整合性チェック、状態追跡、強制終了プリミティブを組み込んだ、軽量でプラグ&プレイのアーキテクチャ青写真であるAction-Aware Supervision Layerを提案する。
論文 参考訳（メタデータ） (2026-07-20T17:01:50Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある
SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。
SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
論文 参考訳（メタデータ） (2026-06-01T03:18:01Z) - Autonomous Adversary: Red-Teaming in the age of LLM [1.4302803674538154]
言語モデルエージェント(LMA)は、レッドチーム操作を増強するための強力なプリミティブとして現れている。
我々は、これらのエージェントが中核攻撃機能とどのように交わるかを分析し、現在の強度と限界を評価する。
制御された対向エミュレーション環境における2つの横移動シナリオのLMAをベンチマークする。
論文 参考訳（メタデータ） (2026-05-07T16:07:41Z) - Dexplore: Scalable Neural Control for Dexterous Manipulation from Reference-Scoped Exploration [58.4036440289082]
ハンドオブジェクトモーションキャプチャ(MoCap)は、大規模でコンタクトに富んだデモと、器用なロボットスコープの約束を提供する。
Dexploreは、リポジトリとトラッキングを実行し、MoCapから直接ロボット制御ポリシーを学習する、統一された単一ループ最適化である。
論文 参考訳（メタデータ） (2025-09-11T17:59:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。