論文の概要: Securing Multi-Agent GIS Systems: Risk Evaluation and Prompt Hardening Optimization
- arxiv url: http://arxiv.org/abs/2606.17092v1
- Date: Sat, 13 Jun 2026 03:15:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.048862
- Title: Securing Multi-Agent GIS Systems: Risk Evaluation and Prompt Hardening Optimization
- Title（参考訳）: マルチエージェントGISシステムのセキュア化:リスク評価とプロンプト硬化最適化
- Authors: Kyle Gao, Pranavi Kotta, Linlin Xu, Jonathan Li, David A. Clausi,
- Abstract要約: 本研究は,多エージェントGISシステムにおけるリスク識別,評価,緩和のためのセキュリティ指向フレームワークを提案する。
エージェントの振る舞いを再利用可能なコンポーネントに抽象化する,モジュール型ステートマシンベースのオーケストレーションフレームワークを開発した。
- 参考スコア（独自算出の注目度）: 13.556629148264994
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agentic systems are increasingly integrated with geographic information systems (GIS), where multi-agent coordination enables complex conversational and spatial analysis but introduces security risks. This work presents a security-oriented framework for risk identification, evaluation, and mitigation in a multi-agent GIS system while maintaining adaptability to broader agentic architectures. We test the agentic system of a commercial geospatial partner while developing a modular state-machine-based orchestration framework that abstracts agent behavior into reusable components. We evaluate robustness using a red-teaming framework with an adaptive attacker LLM and a deterministic judge that produces binary outcomes with supporting rationales across multi-turn attacks. We further improve resilience with a prompt optimization framework that treats prompts as structured signatures and injects adversarial demonstrations, enabling systematic security improvements without degrading task performance.
- Abstract（参考訳）: エージェントシステムは地理的情報システム(GIS)とますます統合され、マルチエージェント調整は複雑な会話や空間分析を可能にするが、セキュリティリスクをもたらす。
本研究は,多エージェントGISシステムにおいて,より広範なエージェントアーキテクチャへの適応性を維持しつつ,リスク識別,評価,緩和を目的としたセキュリティ指向のフレームワークを提案する。
我々は、エージェントの振る舞いを再利用可能なコンポーネントに抽象化するモジュール型ステートマシンベースのオーケストレーションフレームワークを開発しながら、商用地理空間パートナーのエージェントシステムをテストする。
我々は,アダプティブアタックLDMと,マルチターンアタックにおける有理性をサポートする二項結果を生成する決定論的判断とを用いて,ロバスト性を評価する。
我々は、プロンプトを構造化されたシグネチャとして扱い、敵のデモを注入するプロンプト最適化フレームワークにより、レジリエンスをさらに改善し、タスク性能を劣化させることなく、体系的なセキュリティ改善を可能にする。
関連論文リスト
- Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Towards Security-Auditable LLM Agents: A Unified Graph Representation [22.355591892994642]
本稿ではエージェントセキュリティ監査のための統合構造表現であるエージェントBOMを提案する。
エージェントBOMは、クロスセッションメモリ中毒やツール誤用など、ステルス攻撃チェーンを再構築できることを示す。
Agent-BOMは複雑なエージェントエコシステムにおける根本原因分析とセキュリティ適応のための統一的で監査可能な基盤を提供する。
論文 参考訳（メタデータ） (2026-05-07T18:14:29Z) - DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。
DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。
DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
論文 参考訳（メタデータ） (2026-05-06T11:59:48Z) - AgentSOC: A Multi-Layer Agentic AI Framework for Security Operations Automation [0.0]
本研究では,多層型エージェントAIフレームワークであるAgentSOCを紹介し,認識,予測推論,リスクに基づく行動計画を統合することにより,SOCの自動化を促進する。
提案アーキテクチャは,警告の正規化,コンテキストの強化,仮説の生成,構造的実現可能性の検証,ポリシに準拠した応答の実行をサポートするために,複数の抽象化レイヤを統合した。
論文 参考訳（メタデータ） (2026-04-22T03:01:03Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。
エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。
AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
論文 参考訳（メタデータ） (2026-01-26T13:45:41Z) - Formalizing the Safety, Security, and Functional Properties of Agentic AI Systems [10.734711935895225]
本稿では2つの基礎モデルからなるエージェントAIシステムのためのモデリングフレームワークを提案する。
1つ目はホストエージェントモデルで、ユーザと対話するトップレベルのエンティティを形式化し、タスクを分解し、外部エージェントやツールを活用して実行をオーケストレーションする。
第2のタスクライフサイクルモデルでは、個々のサブタスクの状態と、作成から完了までの遷移を詳述し、タスク管理とエラー処理の詳細なビューを提供します。
論文 参考訳（メタデータ） (2025-10-15T22:02:30Z) - Bayesian and Multi-Objective Decision Support for Real-Time Cyber-Physical Incident Mitigation [6.852472228194646]
本研究では,サイバー物理システムにおけるサイバーインシデントを軽減するためのリアルタイム適応型意思決定支援フレームワークを提案する。
重要なインフラにおけるこれらのシステムへの依存の高まりと、敵の戦術の進化に対応するために開発された。
論文 参考訳（メタデータ） (2025-08-31T09:47:38Z) - Towards Unifying Quantitative Security Benchmarking for Multi Agent Systems [0.0]
AIシステムの進化 自律エージェントが協力し、情報を共有し、プロトコルを開発することでタスクを委譲するマルチエージェントアーキテクチャをますます展開する。
そのようなリスクの1つはカスケードリスクである。あるエージェントの侵入はシステムを通してカスケードし、エージェント間の信頼を利用して他人を妥協させる。
ACI攻撃では、あるエージェントに悪意のあるインプットまたはツールエクスプロイトが注入され、そのアウトプットを信頼するエージェント間でカスケードの妥協とダウンストリーム効果が増幅される。
論文 参考訳（メタデータ） (2025-07-23T13:51:28Z) - SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。
行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。
また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
論文 参考訳（メタデータ） (2025-07-01T15:10:00Z) - Multi-Agent Risks from Advanced AI [90.74347101431474]
先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。
エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。
各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
論文 参考訳（メタデータ） (2025-02-19T23:03:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。