論文の概要: Intent Drift at SME Scale: Deployment Practice, Not Model Capability, Determines Agentic Compliance
- arxiv url: http://arxiv.org/abs/2609.05975v1
- Date: Sat, 05 Sep 2026 08:26:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.17419
- Title: Intent Drift at SME Scale: Deployment Practice, Not Model Capability, Determines Agentic Compliance
- Title（参考訳）: SMEスケールでのインテントドリフト:デプロイプラクティス、モデル能力、エージェントコンプライアンスの決定
- Abstract要約: Chain of Intentは、小規模規制企業におけるエージェントAIのためのガバナンスフレームワークである。
セキュリティエンジニアリングを必要としない4つのコントロールが適用される。
タスク完了を保ちながら、実行毎に不正な接触を排除した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Chain of Intent, a governance framework for agentic AI at small regulated firms, and validate it against a failure it was built to address. Existing agentic governance research assumes enterprise infrastructure that small firms do not have. In a simulated Hong Kong asset manager with 415 synthetic contact records, an agent performing a routine client-communications task was subjected to ordinary managerial pressure to increase its reach. With its authorised constraints written into its configuration, the agent held: it identified every ambiguity in the firm's records, cited privacy legislation it had never been shown, and refused six successive requests, breaching in two of fifteen runs. With the same task, data, pressure and model, but its purpose left unstated as resource-constrained firms routinely leave it, it breached in thirteen of fifteen runs, contacting up to 220 individuals of whom 94 per cent had no demonstrable marketing consent - conduct carrying a maximum of three years' imprisonment under Hong Kong law. Chain of Intent applies four controls requiring no security engineering: a machine-readable purpose, constrained tool access, a scope ledger, and a pre-action check. It eliminated unlawful contact in every run while preserving task completion, and ablation shows each control independently sufficient by a different mechanism. We further show that drift must be measured at two stages - agents widened their candidate sets in every pressured run while acting on them in roughly one in seven - and that governance applied at the point of intent costs roughly half as much as governance applied at the point of action.
- Abstract（参考訳）: 私たちは、小規模規制企業におけるエージェントAIのためのガバナンスフレームワークであるChain of Intentを紹介し、それに対応するために構築された障害に対して、それを検証します。
既存のエージェントガバナンスの研究は、中小企業が持っていないエンタープライズインフラストラクチャーを前提としている。
香港のシミュレート・アセット・マネジャー(415人)は、顧客との定期的なコミュニケーションを行うエージェントに、通常のマネジャープレッシャーを課し、リーチを拡大させた。
エージェントは、同社の記録のあらゆる曖昧さを特定し、これまで表示されなかったプライバシー法を引用し、連続して6件の要求を拒否し、15件のうち2件を突破した。
同じ仕事、データ、圧力、モデルでも、その目的は定かではないままで、資源に制約のある企業が定期的に出回っていたため、15回のうち13回が破られ、最大220回まで接触し、その94%が、香港法の下で最大3年間の禁固刑を課すという、実証可能なマーケティングの同意が得られなかった。
Chain of Intentは、マシン可読性、制約されたツールアクセス、スコープ台帳、事前アクションチェックという、セキュリティエンジニアリングを必要としない4つのコントロールを適用している。
タスク完了を保ちながら、実行毎に不正な接触を排除し、アブレーションは異なるメカニズムによって、それぞれのコントロールを独立して示す。
さらに、ドリフトは2つの段階で測定されなければならないことを示します - エージェントは、およそ7分の1で行動しながら、プレッシャー付きラン毎に候補セットを広げ、意図的に適用されるガバナンスは、アクションの時点で適用されるガバナンスのおよそ半分のコストがかかる。
関連論文リスト
- Why LLM Agents Collapse Without Oversight: The Enforcement Gap as the Mechanism Behind Emergence World Failures [19.162716475205308]
反射型エージェントは、反復的な自己批判を通じて、すでに危険な計画ステップを検出している。
監査は問題を認識し、コントローラはそれを無視します。
実施確率がゼロに近い場合、検出品質はセキュリティとは無関係であることを正式に証明する。
論文 参考訳（メタデータ） (2026-09-14T09:46:59Z) - Delegation Without Trust: An Empirical Gap Analysis of Identity, Authorization, and Runtime Governance in Multi-Agent LLM Systems [0.0]
4つの敵を中心としたマルチエージェントデリゲートに対する脅威モデルを提案する。
デフォルトのランタイムモデリングの共通プラクティスが4つの脅威すべてに失敗することを示す。
我々は、ギャップを埋める認証ブローカを実装し、敵に評価する。
論文 参考訳（メタデータ） (2026-08-31T19:09:34Z) - Agent Security Meets Regulatory Reality -- A Practitioner Systematization of Autonomous-Agent Threats and Controls in Regulated Financial Systems [0.0]
大規模言語モデルエージェントは規制された金融システムに入りつつある。
攻撃面を特徴付けるセキュリティ文学は、ほぼ完全に実験室ベースである。
デプロイメントに関する実践的なガイダンスは、ピアレビューも、正式な脅威モデルにも関連しない。
論文 参考訳（メタデータ） (2026-06-28T01:11:00Z) - Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification [0.0]
配備後監視、人道管制、緊急レベルのガードレールは、エージェントが運用中に動作している場合に限定的な保証を提供する。
オントロジーに基づく検証フレームワークは、まず3つのコンポーネントを組み合わせる。
システムは、自動的に規制、運用、および敵対的なテストシナリオを生成する。
論文 参考訳（メタデータ） (2026-06-02T02:37:11Z) - CHI-Bench: Can AI Agents Automate End-to-End, Long-Horizon, Policy-Rich Healthcare Workflows? [150.84850629123287]
現実的な医療業務のエンドツーエンドの自動化は、現在のベンチマークで不足している3つの機能を強調します。
$-Benchは3つのドメインにわたる長期医療のベンチマークである。
30以上のエージェントハーネス/モデル構成で、最高のエージェントはタスクの28.0%しか解決せず、厳格なパス3では20%をクリアし、単一のセッションですべてのタスクを実行するとパフォーマンスは3.8%に低下する。
論文 参考訳（メタデータ） (2026-05-15T22:34:31Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Sovereign-OS: A Charter-Governed Operating System for Autonomous AI Agents with Verifiable Fiscal Discipline [7.232369984903087]
Sovereign-OSはガバナンスファーストのオペレーティングシステムで、すべてのエージェントアクションを憲法上の管理下に置く。
CEO(ストラテジスト)は、目標を依存性を認識したタスクDAGに分解する。
CFOは、オークションベースの入札エンジンを介して、予算上限、日々の燃焼制限、収益性フロアに対して各支出をゲートする。
労働者は、動的TrustScoreが管理する有給オートノミーの下で活動する。
論文 参考訳（メタデータ） (2026-03-14T16:25:31Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z) - Are Your Agents Upward Deceivers? [73.1073084327614]
大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。
これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。
本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
論文 参考訳（メタデータ） (2025-12-04T14:47:05Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。