論文の概要: The Vulnerability With No CVE: Managing Persistent Gaps Between Mandate and Authority in AI Coding Agents
- arxiv url: http://arxiv.org/abs/2608.05884v1
- Date: Thu, 06 Aug 2026 11:06:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.744994
- Title: The Vulnerability With No CVE: Managing Persistent Gaps Between Mandate and Authority in AI Coding Agents
- Title（参考訳）: CVEなしの脆弱性:AIコーディングエージェントの委任と権限の間の永続的なギャップを管理する
- Abstract要約: 本稿では,タスク条件付き管理抽象化としてエージェント姿勢脆弱性(APV)を提案する。
APVは、既存の過度の緊急性、認可、制御-構成の弱点を運用する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing guidance identifies excessive agency, excessive permission, weak task-bound authorization, and inadequate agent controls as important risks. Control frameworks also describe capabilities for constraining, authorizing, observing, validating, and responding to agent activity. Yet security programs still need a way to manage persistent deployed instances that span components and outlive any one event. We propose the agentic posture vulnerability (APV) as a task-conditioned vulnerability-management abstraction: a durable record for a composed agent-control exposure. One posture may produce different runtime manifestations across tasks; APV links those manifestations to the invariant posture and remains open until authority is narrowed, a missing control is added, risk is accepted, or closure is verified. APV is not proposed as a new root-cause class of risk; it operationalizes existing excessive-agency, authorization, and control-composition weaknesses. We distinguish APVs from CVE-addressable product defects, OWASP Excessive Agency, Agent Baseline control outcomes, and the runtime authorization-execution gap. We then provide a field vignette, a thresholded definition, six recurring APV patterns, a vulnerability lifecycle, a minimum record, a control-and-closure matrix, tooling implications, and a testable research agenda.
- Abstract（参考訳）: 既存のガイダンスでは、過剰な機関、過剰な許可、弱いタスクバウンドの認可、不十分なエージェントコントロールが重要なリスクとして特定されている。
コントロールフレームワークはまた、エージェントアクティビティの制約、認可、監視、検証、応答の機能を記述している。
しかしセキュリティプログラムには,コンポーネントにまたがる永続的なデプロイインスタンスの管理方法や,ひとつのイベントを乗り越える方法が依然として必要だ。
エージェント・コントロール・エクスポージャーのための耐久性のある記録として,タスク条件付き脆弱性管理抽象化としてエージェント・姿勢脆弱性(APV)を提案する。
APVは、これらのマニフェストを不変の姿勢にリンクし、権限が狭まるまでオープンであり、コントロールの欠如が追加され、リスクが受け入れられ、またはクロージャが検証される。
APVは新たな根本原因のリスククラスとして提案されていない。
我々は,APVとCVE対応製品欠陥,OWASP Excessive Agency,エージェントベースライン制御結果,ランタイムの承認と実行のギャップを区別する。
次に、フィールドウィグレット、しきい値の定義、6つの繰り返しAPVパターン、脆弱性ライフサイクル、最小記録、制御と閉鎖のマトリックス、ツールの意味、そしてテスト可能な研究課題を提供します。
関連論文リスト
- Securing Agentic AI: From Per-Action Checks to Trajectory Assurance [8.523545468742919]
大規模言語モデル(LLM)ベースのエージェントがより自律的になるにつれて、単一のチャレンジからエージェントスタック全体にまたがる、広く相互接続されたランドスケープへと、それらを保護する。
おそらく最も根本的な課題は行動の封じ込めである:個々の許容される行動のシーケンスは、システムレベルの制約と安全性の不変性に総括的に違反する可能性がある。
より広いレベルでは、サプライチェーンの整合性、証明性、説明可能性、エンドツーエンドの可観測性はほぼオープンな問題のままです。
論文 参考訳（メタデータ） (2026-08-03T00:28:49Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Operational Hallucination and Safety Drift in AI Agents [0.3823356975862005]
ツール使用自律エージェントのプランナーとして機能する大規模言語モデル(LLM)は、マルチターン実行における動的信頼性のリスクを導入する。
本稿では,複数のLLM(Safety Drift)とOperational Hallucination(Operational Hallucination)の2つの障害モードを実証的に特徴付ける。
本稿では、インテント-アクション整合性チェック、状態追跡、強制終了プリミティブを組み込んだ、軽量でプラグ&プレイのアーキテクチャ青写真であるAction-Aware Supervision Layerを提案する。
論文 参考訳（メタデータ） (2026-07-20T17:01:50Z) - AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。
既存の安全機構は主に外部ガードレールに依存している。
我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文 参考訳（メタデータ） (2026-06-21T21:13:55Z) - Position: AI Safety Requires Effective Controllability [7.789894640525689]
我々は、AIの安全性は第一級の目的として制御性を必要とすると論じている。
OpenClawベースのエージェントによる実験では、現在のアライメントとガードレール機構がリスクを低減しているが、永続的で権威的で強制可能なランタイムコントロールの提供に失敗することが多い。
論文 参考訳（メタデータ） (2026-05-26T14:53:24Z) - The Authorization-Execution Gap Is a Major Safety and Security Problem in Open-World Agents [111.54911637435269]
オーソライゼーション・実行ギャップ(英: Authorization-Execution Gap、AEG)は、オープンワールドエージェントの安全性とセキュリティの問題である。
AEGは、プリンシパルが認可しようとするものと、オープンワールドエージェントが最終的に実行するものとの違いである。
論文 参考訳（メタデータ） (2026-05-10T04:05:31Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳（メタデータ） (2026-04-10T09:41:21Z) - Governance-Constrained Agentic AI: Blockchain-Enforced Human Oversight for Safety-Critical Wildfire Monitoring [0.0]
本稿では、信頼された山火事早期警戒のためのガバナンスを意識したエージェントAIアーキテクチャを提供する。
山火事のモニタリングは、部分的に観測可能なマルコフ決定プロセスとしてモデル化されている。
我々は、警告の完全性、人的制御、非調査、ビザンチン断層の限定的な検出遅延仮定などの公式な保証を構築する。
論文 参考訳（メタデータ） (2026-04-05T21:07:21Z) - Execution-State-Aware LLM Reasoning for Automated Proof-of-Vulnerability Generation [36.950993500170014]
本稿では,PoV生成を反復的仮説検証法として再構成するエージェントフレームワークであるDrillAgentを提案する。
我々は、実世界のC/C++脆弱性の大規模なベンチマークであるSEC-bench上でDrillAgentを評価する。
論文 参考訳（メタデータ） (2026-02-14T03:17:27Z) - Aegis: Towards Governance, Integrity, and Security of AI Voice Agents [52.7512082818639]
音声エージェントのガバナンス,整合性,セキュリティのためのフレームワークであるAegisを提案する。
我々は,銀行コールセンタ,ITサポート,ロジスティクスにおけるケーススタディを通じて,この枠組みを評価する。
モデルファミリ間の系統的な差異を観察し,より感受性の高いオープンウェイトモデルを示した。
論文 参考訳（メタデータ） (2026-02-07T05:51:36Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。