論文の概要: Securing AI Agents with Information-Flow Control

• arxiv url: http://arxiv.org/abs/2505.23643v1
• Date: Thu, 29 May 2025 16:50:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 18:14:08.008114
• Title: Securing AI Agents with Information-Flow Control
• Title（参考訳）: 情報フロー制御によるAIエージェントのセキュア化
• Authors: Manuel Costa, Boris Köpf, Aashish Kolluri, Andrew Paverd, Mark Russinovich, Ahmed Salem, Shruti Tople, Lukas Wutschitz, Santiago Zanella-Béguelin,
• Abstract要約: 本稿では,AIエージェントのセキュリティ保証のための情報フロー制御(IFC)について検討する。 我々は,エージェントプランナーのセキュリティと表現性を推論するための形式モデルを提案する。 機密性や整合性のラベルを追跡し,セキュリティポリシーを決定的に実施するプランナであるFidesを紹介し,情報を選択的に隠蔽するための新しいプリミティブを紹介した。
• 参考スコア（独自算出の注目度）: 19.157953827101412
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI agents become increasingly autonomous and capable, ensuring their security against vulnerabilities such as prompt injection becomes critical. This paper explores the use of information-flow control (IFC) to provide security guarantees for AI agents. We present a formal model to reason about the security and expressiveness of agent planners. Using this model, we characterize the class of properties enforceable by dynamic taint-tracking and construct a taxonomy of tasks to evaluate security and utility trade-offs of planner designs. Informed by this exploration, we present Fides, a planner that tracks confidentiality and integrity labels, deterministically enforces security policies, and introduces novel primitives for selectively hiding information. Its evaluation in AgentDojo demonstrates that this approach broadens the range of tasks that can be securely accomplished. A tutorial to walk readers through the the concepts introduced in the paper can be found at https://github.com/microsoft/fides
• Abstract（参考訳）: AIエージェントがますます自律的になり、能力を持つようになると、プロンプトインジェクションのような脆弱性に対するセキュリティが重要になる。 本稿では,AIエージェントのセキュリティ保証のための情報フロー制御(IFC)について検討する。 我々は,エージェントプランナーのセキュリティと表現性を推論するための形式モデルを提案する。 このモデルを用いて,動的テナント追跡によって実施可能な特性のクラスを特徴付けるとともに,プランナー設計のセキュリティと実用上のトレードオフを評価するためのタスクの分類を構築した。 この調査にインフォームドされたFidesは、機密性および整合性ラベルを追跡し、セキュリティポリシーを決定的に強制し、情報を選択的に隠蔽するための新しいプリミティブを導入するプランナーである。 AgentDojoにおけるその評価は、このアプローチが安全に達成可能なタスクの範囲を広げていることを示している。 この論文で導入された概念を読者に説明するチュートリアルはhttps://github.com/microsoft/fidesにある。

関連論文リスト

• Automating Safety Enhancement for LLM-based Agents with Synthetic Risk Scenarios [77.86600052899156]
  LLM(Large Language Model)ベースのエージェントは、現実のアプリケーションにますますデプロイされる。 完全自動合成データ生成によるエージェント安全性を体系的に向上する最初のフレームワークであるAutoSafeを提案する。 AutoSafeは安全性のスコアを平均で45%向上させ、現実世界のタスクでは28.91%の改善を実現している。
  論文  参考訳（メタデータ） (2025-05-23T10:56:06Z)
• The Hidden Dangers of Browsing AI Agents [0.0]
  本稿では,複数のアーキテクチャ層にまたがるシステム的脆弱性に着目し,このようなエージェントの総合的なセキュリティ評価を行う。 本研究は,ブラウジングエージェントのエンド・ツー・エンドの脅威モデルについて概説し,実環境への展開を確保するための実用的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-05-19T13:10:29Z)
• A Survey on the Safety and Security Threats of Computer-Using Agents: JARVIS or Ultron? [30.063392019347887]
  本稿では,EmphComputer-Using Agentsの安全性とセキュリティの脅威に関する知識の体系化について述べる。 CUAは、デスクトップアプリケーション、Webページ、モバイルアプリをナビゲートするなど、自律的にタスクを実行することができる。
  論文  参考訳（メタデータ） (2025-05-16T06:56:42Z)
• Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
  本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。 敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。 GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
  論文  参考訳（メタデータ） (2025-03-30T13:26:00Z)
• Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
  本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。 これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。 55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
  論文  参考訳（メタデータ） (2024-10-14T17:57:02Z)
• Security of AI Agents [5.468745160706382]
  システムセキュリティの観点から、AIエージェントの潜在的な脆弱性を特定し、記述する。 本研究では,各脆弱性に対応する防御機構を設計と実験で導入し,その生存性を評価する。 本稿では、現在のAIエージェント開発におけるセキュリティ問題を文脈的に分析し、AIエージェントをより安全で信頼性の高いものにするための方法を解説する。
  論文  参考訳（メタデータ） (2024-06-12T23:16:45Z)
• TrustAgent: Towards Safe and Trustworthy LLM-based Agents [50.33549510615024]
  本稿では,エージェント・コンスティチューションをベースとしたエージェント・フレームワークであるTrustAgentについて述べる。 提案枠組みは,計画立案前のモデルに安全知識を注入する事前計画戦略,計画立案時の安全性を高める内計画戦略,計画後検査による安全性を確保する後計画戦略の3つの戦略要素を通じて,エージェント憲法の厳格な遵守を保証する。
  論文  参考訳（メタデータ） (2024-02-02T17:26:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。