論文の概要: Agent Security Meets Regulatory Reality -- A Practitioner Systematization of Autonomous-Agent Threats and Controls in Regulated Financial Systems
- arxiv url: http://arxiv.org/abs/2606.29142v1
- Date: Sun, 28 Jun 2026 01:11:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.801706
- Title: Agent Security Meets Regulatory Reality -- A Practitioner Systematization of Autonomous-Agent Threats and Controls in Regulated Financial Systems
- Title（参考訳）: エージェントセキュリティと規制現実-規制金融システムにおける自律的脅威と制御の実践的体系化
- Abstract要約: 大規模言語モデルエージェントは規制された金融システムに入りつつある。
攻撃面を特徴付けるセキュリティ文学は、ほぼ完全に実験室ベースである。
デプロイメントに関する実践的なガイダンスは、ピアレビューも、正式な脅威モデルにも関連しない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model agents are entering regulated financial systems, yet the security literature characterizing their attack surface is almost entirely laboratory-based, and the practitioner guidance on regulated deployment is neither peer-reviewed nor connected to a formal threat model. We bridge the two from production experience. We map six established agentic threat categories namely prompt injection, identity and authorization, action auditability, tool abuse, data residency, and boundary policy enforcement onto the specific control obligations imposed by the US and the EU financial regulation (ECOA and Regulation B, the EU AI Act, GDPR Article 22, and FINRA's 2026 agent guidance), showing how legal accountability amplifies each threat relative to an unregulated deployment. We then document four architectural patterns from a production Know Your Customer deployment for a consumer credit product (A2A compliance choreography, grounded-RAG-for-audit, case-ID propagation, and an inference-boundary redaction proxy) that moved a multi-day manual process to same-day automated resolution for roughly four in five cases. Finally, we report three negative results, including two control failures surfaced only by internal audit and a population of legitimate applicants the automated pipeline cannot serve. Securing agents under regulation, we conclude, is less about novel attack classes than about making auditability, least-privilege authorization, and boundary policy enforcement real at production scale -- requirements current agent frameworks leave to the deploying engineer.
- Abstract（参考訳）: 大規模言語モデルエージェントは、規制された金融システムに入るが、攻撃面を特徴付けるセキュリティ文献は、ほぼ完全に実験室ベースであり、規制されたデプロイメントに関する実践的ガイダンスは、査読されていないし、正式な脅威モデルに関連付けられていない。
私たちはこの2つを生産経験から橋渡しします。
我々は、米国とEUの金融規制(ECOA及び規制B、EUAI法、GDPR条22及びFINRAの2026年のエージェントガイダンス)が課す特定の規制義務に、インジェクション、アイデンティティと承認、行動監査可能性、ツールの乱用、データ常駐、境界政策の執行を即時的に適用する6つのエージェント脅威カテゴリをマッピングし、法的な説明責任が、規制されていない展開に対するそれぞれの脅威を増幅することを示す。
次に、製品から4つのアーキテクチャパターンを文書化して、消費者信用製品(A2Aコンプライアンスコレオグラフィ、オーディットのための基盤化されたRAG、ケース-IDの伝搬、推論-バウンダリのリアクションプロキシ)をデプロイしました。
最後に、内部監査でのみ表面化した2つの制御障害と、自動パイプラインが役に立たない正規の応募者の集団を含む3つの負の結果を報告する。
規制下のエージェントをセキュアにすることは、監査性、最小限の認可、バウンダリポリシの実施を実運用規模で実現することよりも、新しいアタッククラスである、と私たちは結論付けています。
関連論文リスト
- When HTTP 402 Meets the Blockchain: Risks on Emerging x402 Payments [53.795332613020946]
x402は、Web APIと自律AIエージェントのための新しい支払いプロトコルである。
我々は,現在のファシリテータを介するx402の野生展開において,認証の正当性と実行安全性に関する最初の体系的研究を行った。
我々は、Free Shopping、Asset Theft、Service Denial、Gas Abuseの4つの新たな攻撃ベクトルを導出する。
論文 参考訳（メタデータ） (2026-07-21T19:45:13Z) - Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification [0.0]
配備後監視、人道管制、緊急レベルのガードレールは、エージェントが運用中に動作している場合に限定的な保証を提供する。
オントロジーに基づく検証フレームワークは、まず3つのコンポーネントを組み合わせる。
システムは、自動的に規制、運用、および敵対的なテストシナリオを生成する。
論文 参考訳（メタデータ） (2026-06-02T02:37:11Z) - A New Framework for Cybersecurity Refusals in AI Agents [52.94784168139071]
攻撃的セキュリティの文脈において、拒絶境界を確立するための最初の枠組みを提示する。
本研究では,現在のLLMエージェントがWebベースの攻撃的セキュリティシナリオにおいて,適切な拒絶境界にどのように準拠しているかを評価するために,このフレームワークを適用した。
論文 参考訳（メタデータ） (2026-05-31T15:39:39Z) - CyberAId: AI-Driven Cybersecurity for Financial Service Providers [0.7279162155456086]
モデルに依存しない,オンプレミスでデプロイ可能なプラットフォームであるCyberAIdについて紹介する。
論文 参考訳（メタデータ） (2026-05-03T14:15:11Z) - Bounding the Black Box: A Statistical Certification Framework for AI Risk Regulation [0.0]
EU AI法、NISTリスク管理フレームワーク、欧州評議会は、高リスクシステムは配備前に安全を示すことを要求している。
この規制の合意の下には、決定的な掃除機がある。
我々は、AIリスク規制をエンジニアリングプラクティスに変換する2段階のフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-23T16:50:35Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳（メタデータ） (2026-04-10T09:41:21Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Aegis: Towards Governance, Integrity, and Security of AI Voice Agents [52.7512082818639]
音声エージェントのガバナンス,整合性,セキュリティのためのフレームワークであるAegisを提案する。
我々は,銀行コールセンタ,ITサポート,ロジスティクスにおけるケーススタディを通じて,この枠組みを評価する。
モデルファミリ間の系統的な差異を観察し,より感受性の高いオープンウェイトモデルを示した。
論文 参考訳（メタデータ） (2026-02-07T05:51:36Z) - Regulating the Agency of LLM-based Agents [0.0]
本稿では,AIシステムを直接計測し,制御する手法を提案する。
我々は, LLMをベースとしたエージェントのエージェントを, インテリジェンス関連の対策とは無関係な資産として概念化する。
論文 参考訳（メタデータ） (2025-09-25T20:14:02Z) - Governance-as-a-Service: A Multi-Agent Framework for AI System Compliance and Policy Enforcement [0.0]
ガバナンス・アズ・ア・サービス(Government-as-a-Service:G)は、エージェントのアウトプットを実行時に規制するポリシー駆動の執行層である。
Gは宣言的ルールと、違反のコンプライアンスと深刻度に基づいてエージェントをスコアするTrust Factorメカニズムを採用している。
その結果、Gはスループットを保ちながら高いリスクの振る舞いを確実にブロックまたはリダイレクトすることを示した。
論文 参考訳（メタデータ） (2025-08-26T07:48:55Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。