論文の概要: Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric
- arxiv url: http://arxiv.org/abs/2607.23532v1
- Date: Sun, 26 Jul 2026 08:02:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.14304
- Title: Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric
- Title（参考訳）: 検証ファブリック上でのLDM支援ISR群に対するミッションレベル実行保証
- Abstract要約: LLM支援の自律ロボットは、協調的な知性、監視、偵察のためにますます提案されている。
保証障害の増加するクラスは、単一のプラットフォーム内ではなく、群れ全体にわたって発生します。
本稿では,ミッションポリシーをエージェント単位およびエージェント単位のアスペクトに分解する3層ランタイム検証フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.4349640169711269
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Swarms of LLM-assisted autonomous robots are increasingly proposed for cooperative intelligence, surveillance, and reconnaissance (ISR) in contested environments. A growing class of their assurance failures arises not within any single platform but across the swarm: individually-compliant actions compose into a mission-level violation: a prohibited objective split across platforms to evade per-platform lim- its, or a collective budget quietly exceeded. Per-platform guardrails miss these by construction, and contested communications let the violation hide behind lost or delayed evidence. We present a three-tier (platfor- m/squad/mission) compositional runtime-verification framework that de- composes a mission policy into per-agent and cross-agent aspects, aggre- gates per-platform verdicts over a verification-aware messaging fabric, and fuses them with an evidence-aware, two-axis (security x complete- ness) algebra whose provenance names the platforms that jointly trig- gered a violation. Because the fabric makes evidence loss and silence observable, unsupported negative verdicts are downgraded to an explicit unknown rather than reported as mission-wide all-clears. On a simulated ISR mission, an indirect prompt injection that causes real LLM planners to split a prohibited collection task across four platforms is invisible to every per-platform monitor yet detected compositionally with full prove- nance; under an injected fault campaign a best-effort central monitor emits silent false all-clears while the verification-aware fabric emits none
- Abstract（参考訳）: LLM支援自律ロボットの群れは、競争環境における協調的な知性、監視、偵察(ISR)のためにますます提案されている。
個別に準拠する行動は、ミッションレベルの違反に構成される:プラットフォーム間でのプラットフォームごとのリム化を回避するために、禁止された目的が分割されるか、あるいは組織予算が静かに超えられる。
プラットフォームごとのガードレールは、これらを建設によって見逃し、通信に異議を唱えて、違反は失われた証拠や遅れた証拠を隠蔽した。
提案する3層構成型ランタイム検証フレームワークは,ミッションポリシをアジェントおよびクロスエージェントの側面に分解し,アグリゲートをプラットフォーム毎の判断で検証可能なメッセージングファブリック上に配置し,エビデンス対応の2軸(セキュリティ x 完全性)代数でそれらを融合させる。
この布地は証拠の喪失と沈黙を観察できるので、否定的な否定的な評決は、ミッション全体にわたる全クラーとして報告されるよりも、明確な未知に格下げされる。
模擬ISRミッションでは、実際のLSMプランナが禁止されたコレクションタスクを4つのプラットフォームに分割する間接的なプロンプトインジェクションが、完全な証明ナンスで構成的に検出されたプラットフォーム毎のモニタには見えない。
関連論文リスト
- Why LLM Agents Collapse Without Oversight: The Enforcement Gap as the Mechanism Behind Emergence World Failures [19.162716475205308]
反射型エージェントは、反復的な自己批判を通じて、すでに危険な計画ステップを検出している。
監査は問題を認識し、コントローラはそれを無視します。
実施確率がゼロに近い場合、検出品質はセキュリティとは無関係であることを正式に証明する。
論文 参考訳（メタデータ） (2026-09-14T09:46:59Z) - Lies We Can See: Joint Verbal and Non-Verbal Deception by VLM Agents in Embodied Social Interactions [66.7908338529737]
LLMとVLMのエージェントによる戦略的な騙しは、AIのアライメントと安全性の懸念の中心として現れている。
既存のテストベッドはテキストのみであり、単一の固定エージェント構成で実行される。
我々は,MineAmongUsを紹介した。これはUsサンドボックス内の3次元マルチモーダルで,インポスタエージェントは共同弁論と非言語行動を通じて乗組員を騙さなければならない。
論文 参考訳（メタデータ） (2026-08-31T08:24:29Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - Agentic Security: A Systematization of Tools, Failure Modes, and Design Laws for LLM-Driven Penetration Testing [0.21990652930491858]
エージェントセキュリティは、大規模言語モデル(LLM)エージェントを使用してセキュリティツールを計画、ディスパッチ、解釈する。
これらの障害を、広く使用されている10の静的、動的、クラウド、オーケストレーション、AI赤チームツールのハンズオン評価を通じて、体系化しています。
論文 参考訳（メタデータ） (2026-08-16T07:18:04Z) - AgentAbstain: Do LLM Agents Know When Not to Act? [19.223843408018997]
既存の評価は、エージェントがいつ禁じるべきかを知るのではなく、タスクの成功に焦点を当てている。
エージェント禁忌のための最初の体系的評価枠組みとして,ツールを用いたLDMエージェントの動作を検知するキャリブレーション能力について述べる。
AgentAbstainは、エージェントネイティブな分類に基づくペアタスクのベンチマークである。
論文 参考訳（メタデータ） (2026-07-11T00:57:36Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Partial Evidence Bench: Benchmarking Authorization-Limited Evidence in Agentic Systems [0.0]
本稿では、その故障モードを測定するための決定論的ベンチマークであるPartial Evidence Benchを紹介する。
このベンチマークでは、デューディリジェンス、コンプライアンス監査、セキュリティインシデント対応の3つのシナリオファミリが提供されている。
答えの正しさ、完全性意識、ギャップレポートの品質、安全でない完全性行動の4つの面に沿ってシステムを評価する。
論文 参考訳（メタデータ） (2026-05-06T19:01:29Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - More Than Sum of Its Parts: Deciphering Intent Shifts in Multimodal Hate Speech Detection [49.07221734365168]
ソーシャルメディア上でのヘイトスピーチは、サイバースペースの確保には不可欠だが、自動検出システムに大きく依存している。
我々は、モダリティが相互作用する意味的意図変化を特徴付け、良心的憎悪から暗黙的憎悪を構築するか、意味的逆転を通じて毒性を中和する。
本稿では,これらの複雑な手がかりを効果的に解読するために,裁判所エージェントによる非対称推論(Asymmetric Reasoning)フレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-22T15:46:23Z) - Systems-Level Attack Surface of Edge Agent Deployments on IoT [5.081228499547384]
3つのアーキテクチャ(クラウドホスト、エッジローカル、ハイブリッド)の実証セキュリティ分析を提示する。
実地テストベッドで観測された2つの緊急障害を含む,システムレベルの攻撃面を5つ同定した。
結果は、モデルやプロンプト設計だけでなく、デプロイメントアーキテクチャがエージェント制御IoTシステムにおけるセキュリティリスクの主要な決定要因であることを実証している。
論文 参考訳（メタデータ） (2026-02-26T01:48:46Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Hiding in Plain Text: Detecting Concealed Jailbreaks via Activation Disentanglement [13.976796671311066]
大規模言語モデル (LLM) は、リーチでセマンティックに一貫性のあるジェイルブレイクプロンプトに対して脆弱なままである。
本稿では,LLMアクティベーションにおけるセマンティックファクタペアを推論時にアンタングリングするための自己教師型フレームワークを提案する。
次に、フレーミング表現で動作する異常検出器であるFrameShieldを提案し、モデルに依存しない検出を改善する。
論文 参考訳（メタデータ） (2026-02-23T00:11:30Z) - Seamless Detection: Unifying Salient Object Detection and Camouflaged Object Detection [73.85890512959861]
本稿では,SOD(Salient Object Detection)とCOD(Camouflaged Object Detection)を統合化するためのタスク非依存フレームワークを提案する。
我々は、間隔層と大域的コンテキストを含む単純で効果的なコンテキストデコーダを設計し、67fpsの推論速度を実現する。
公開SODデータセットとCODデータセットの実験は、教師なし設定と教師なし設定の両方において、提案したフレームワークの優位性を実証している。
論文 参考訳（メタデータ） (2024-12-22T03:25:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。