論文の概要: The Importance of Out-of-Band Metadata for Safe Autonomous Agents: The Redpanda Agentic Data Plane
- arxiv url: http://arxiv.org/abs/2605.29082v1
- Date: Wed, 27 May 2026 20:37:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:55.450475
- Title: The Importance of Out-of-Band Metadata for Safe Autonomous Agents: The Redpanda Agentic Data Plane
- Title（参考訳）: 安全な自律エージェントのためのアウトオブバンドメタデータの重要性:レッドパンダエージェントデータプレーン
- Authors: Tyler Akidau, Tyler Rockwood, Johannes Brüderl, Marc Millstone,
- Abstract要約: 我々は,帯域外メタデータチャネルを中心に構築されたアーキテクチャであるRedpanda Agentic Data Plane (ADP)を紹介する。
我々は,自律エージェントが市場を監視し,取引決定を行い,独立したクライアントアカウント間で注文を実行するポートフォリオ再バランスシステムでADPを示す。
- 参考スコア（独自算出の注目度）: 0.07499722271664146
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents are increasingly expected to operate as digital employees: accessing enterprise data, making decisions, and taking actions autonomously. But agents are simultaneously less predictable than humans -- prone to hallucination, misinterpretation, and adversarial manipulation -- and more technically capable: with deep system knowledge and high-throughput interfaces cascading damage at machine speed. This combination makes it unsafe to rely on agents to faithfully interpret or propagate security-critical metadata such as access policies, data classifications, and behavioral constraints. We present the Redpanda Agentic Data Plane (ADP), an architecture built around out-of-band metadata channels: infrastructure pathways that carry security context, policy signals, and audit trails deterministically, entirely outside the agent's read and write path and across heterogeneous infrastructure. These channels enforce governance at every stage of the agent lifecycle -- scoping data access on the way in, constraining actions during execution, and capturing tamper-proof transcripts on the way out. We demonstrate ADP with a multi-agent portfolio rebalancing system in which autonomous agents monitor markets, make trade decisions, and execute orders across isolated client accounts -- with per-client data scoping, trade approval thresholds, and tamper-proof audit trails all enforced by out-of-band channels the agents can neither see nor bypass.
- Abstract（参考訳）: AIエージェントは、企業のデータにアクセスし、意思決定し、自律的に行動を取る、デジタル従業員として活動することがますます期待されている。
しかしエージェントは、幻覚、誤解釈、敵対的な操作をしがちな人間よりも、同時に予測しにくく、より技術的には、深いシステム知識と、機械の速度で損傷を発生させる高スループットインターフェースを持つ。
この組み合わせにより、アクセスポリシー、データ分類、行動制約といったセキュリティクリティカルなメタデータを忠実に解釈したり、広めたりするエージェントに頼るのが危険になる。
セキュリティコンテキスト,ポリシシグナル,監査パスを決定論的に,エージェントの読み取りおよび書き込みパス外,異種インフラストラクチャをまたいだインフラストラクチャパスという,帯域外メタデータチャネルを中心に構築されたアーキテクチャであるRedpanda Agentic Data Plane(ADP)を紹介します。
これらのチャネルは、エージェントライフサイクルのすべての段階でガバナンスを強制する -- 入路でデータアクセスをスコーピングし、実行中にアクションを制限し、退路でタンパーセーフな書き起こしをキャプチャする。
我々は、自律的なエージェントが市場を監視し、貿易決定を行い、孤立したクライアントアカウント間で注文を実行するマルチエージェントポートフォリオ再バランスシステムでADPを実証する。
関連論文リスト
- Towards Security-Auditable LLM Agents: A Unified Graph Representation [22.355591892994642]
本稿ではエージェントセキュリティ監査のための統合構造表現であるエージェントBOMを提案する。
エージェントBOMは、クロスセッションメモリ中毒やツール誤用など、ステルス攻撃チェーンを再構築できることを示す。
Agent-BOMは複雑なエージェントエコシステムにおける根本原因分析とセキュリティ適応のための統一的で監査可能な基盤を提供する。
論文 参考訳（メタデータ） (2026-05-07T18:14:29Z) - DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。
DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。
DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
論文 参考訳（メタデータ） (2026-05-06T11:59:48Z) - Information-Theoretic Privacy Control for Sequential Multi-Agent LLM Systems [5.100622189286672]
逐次マルチエージェント大規模言語モデル (LLM) システムにおいて, 偶発的プライバシー漏洩について検討する。
そこで本研究では,エージェント出力とエージェントローカル依存変数間の情報フローを直接制約する,プライバシ規則化されたトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-13T18:23:03Z) - AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。
エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。
AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
論文 参考訳（メタデータ） (2026-01-26T13:45:41Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - Securing the Model Context Protocol (MCP): Risks, Controls, and Governance [1.4072883206858737]
我々は、MPPの柔軟性を生かした3種類の敵に焦点を当てる。
早期のインシデントと概念実証攻撃に基づいて,MPPが攻撃面を増加させる方法について述べる。
本稿では,ユーザ単位の認証とスコープ認証を含む,一連の実用的な制御を提案する。
論文 参考訳（メタデータ） (2025-11-25T23:24:26Z) - What's the next frontier for Data-centric AI? Data Savvy Agents [71.76058707995398]
我々は、エージェントシステムの設計において、データに精通する能力が最優先すべきであると主張している。
本稿では,このビジョンを実現するための4つの重要な機能を提案する。プロアクティブデータ取得,ソフシフィケートデータ処理,インタラクティブテストデータ合成,連続的適応。
論文 参考訳（メタデータ） (2025-11-02T17:09:29Z) - A Survey of Data Agents: Emerging Paradigm or Overstated Hype? [66.1526688475023]
現在「データエージェント」は用語的曖昧さと不整合性に悩まされている。
この調査では、データエージェントのための最初の体系的な階層型分類を紹介した。
プロアクティブな生成データエージェントの出現を想定する、先見的なロードマップで締めくくります。
論文 参考訳（メタデータ） (2025-10-27T17:54:07Z) - Analyzing and Internalizing Complex Policy Documents for LLM Agents [53.14898416858099]
大規模言語モデル(LLM)ベースのエージェントシステムは、多様なビジネスルールをコードするコンテキスト内ポリシー文書に依存している。
これは、パフォーマンスを保ちながら、ポリシー文書をモデルプリエントに組み込む内部化手法の開発を動機付けます。
CC-Genは4つのレベルにまたがる制御可能な複雑度を持つエージェントベンチマークジェネレータである。
論文 参考訳（メタデータ） (2025-10-13T16:30:07Z) - Enterprise AI Must Enforce Participant-Aware Access Control [9.68210477539956]
大規模言語モデル(LLM)は、複数のユーザと対話し、センシティブな内部データに基づいてトレーニングあるいは微調整されるエンタープライズ環境に、ますます多くデプロイされている。
敵は、現在の微調整アーキテクチャやRAGアーキテクチャを利用して、アクセス制御の強制力の欠如を活用して機密情報を漏洩することができることを示す。
本稿では, LLM による学習, 検索, 生成に使用されるコンテンツは, インセンティブに関わるユーザに対して明示的に認証される,という原則に基づくフレームワークを提案する。
論文 参考訳（メタデータ） (2025-09-18T04:30:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。