論文の概要: A Policy Algebra for Trust-Preserving Agentic AI Execution
- arxiv url: http://arxiv.org/abs/2608.16402v1
- Date: Mon, 17 Aug 2026 10:59:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.642123
- Title: A Policy Algebra for Trust-Preserving Agentic AI Execution
- Title（参考訳）: 信頼維持型エージェントAI実行のためのポリシー代数
- Abstract要約: 本稿では,エージェント能力の行使可能な信頼性エンベロープを定義するポリシー代数を提案する。
この評価は、能力ベンチマークではなく、信頼性と信頼性のトレードオフとして解釈される。
- 参考スコア（独自算出の注目度）: 5.943264605557423
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model-based agentic frameworks primarily optimize capability: whether an agent can reason, retrieve information, call tools, delegate work, and complete a goal. Enterprise execution requires a stronger property. A successful result is not reliable if it was produced through unauthorized data access, widened delegated authority, unapproved side effects, unrecoverable budget consumption, or incomplete evidence. This paper defines reliable capability as a path property: an agent is reliably capable only when it completes a task through action events that remain admissible under identity, profile, tool, data, memory, budget, artifact, approval, and audit constraints. We propose a policy algebra that defines the reliability envelope within which agent capability may be exercised. Security profiles and runtime obligations compose through joins, intersections, budget narrowing, approval inheritance, and evidence accumulation; the resulting composition is both trust-preserving and the least restrictive state satisfying all governing inputs. The algebra also propagates restrictions across multi-agent calls and introduces cost-aware artifact materialization, which redirects open-ended execution toward a recoverable outcome as budget exposure grows. The evaluation is interpreted as a reliability-capability trade-off rather than a capability benchmark: the policy-algebra runtime intervenes on 94.8% of policy-violating events while retaining an 86.9% task-completion rate, eliminates the observed profile-monotonicity and zero-artifact-exhaustion violations, and increases audit completeness to 98.6%. The method provides researchers and practitioners with formal correctness conditions, executable decision semantics, and trace evidence for building agents that are not only capable, but reliably capable.
- Abstract（参考訳）: エージェントが推論し、情報を取得し、ツールを呼び、作業を委譲し、目標を達成できるかどうか。
エンタープライズ実行には、より強力なプロパティが必要です。
結果は、未承認のデータアクセス、広範囲に委任された権限、承認されていない副作用、未確認の予算消費、あるいは不完全な証拠によって作成された場合、信頼性が低い。
エージェントは、アイデンティティ、プロファイル、ツール、データ、メモリ、予算、アーティファクト、承認、監査制約の下で許容されるアクションイベントを通じてタスクを完了する場合にのみ、確実に機能する。
本稿では,エージェント能力の行使可能な信頼性エンベロープを定義するポリシー代数を提案する。
セキュリティプロファイルと実行時の義務は、結合、交差点、予算の絞り込み、承認の継承、証拠の蓄積を通じて構成される。
この代数学は、マルチエージェント呼び出しにまたがる制約を伝播し、コストを意識したアーティファクトのアーティファクト化を導入し、予算の露出が増加するにつれて、オープンエンドの実行を回復可能な結果へとリダイレクトする。
ポリシ-代数ランタイムは、86.9%のタスク補完率を維持しながらポリシー違反イベントの94.8%に介入し、観察されたプロファイル-単調性とゼロアーティファクト-排他的違反を排除し、監査完全性を98.6%に向上する。
この方法は、正式な正当性条件、実行可能な決定セマンティクス、そして、有能であるだけでなく確実に有能である構築エージェントの痕跡証拠を研究者や実践者に提供します。
関連論文リスト
- A Finger on the Scale: Covert Policy Steering through Agentic Skills [42.71897827897363]
再利用可能なエージェントスキルは、タスクプロシージャ、ツールユースガイダンス、出力制約を備えた大きな言語モデル(LLM)エージェントを拡張する。
我々は、その宣言された機能とユーザ認証された目的と整合し続けるために、スキルによるポリシーを必要とするスキルポリシーの整合性を定式化する。
SkillShiftは、明示的なコマンドインジェクションやタスクハイジャックを使わずに、隠蔽ポリシーステアリングのための制約付きブラックボックスフレームワークである。
論文 参考訳（メタデータ） (2026-09-02T13:15:14Z) - READY or Not: Reliable Enterprise Agent Deployment [16.430548759635037]
READYは、企業へのAIエージェントのデプロイを資格付けするためのフレームワークである。
人間のAIシステムの信頼性と運用コストを測定する。
統計学的には保留ケースに該当する。
論文 参考訳（メタデータ） (2026-09-02T04:34:48Z) - From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.44420701722915]
大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。
RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。
我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
論文 参考訳（メタデータ） (2026-08-17T01:40:14Z) - Context Is Not Authority: Structured Runtime Governance for Financial Market Agents [16.252780383876928]
SAGE-Finは金融特有の権限取扱契約である。
提案を型付きアダプタバウンド候補にコンパイルする。
それは、名目上の型が消費する応答、実行、またはポリシーアダプタと一致する正確なアーティファクトレシートを必要とする。
論文 参考訳（メタデータ） (2026-08-10T02:26:07Z) - Stop Shipping AI Agents on Faith: Capability Is Not Production Readiness [0.0]
本稿では,AIエージェントのガバナンス準備度指標であるProofAgent Index(PAI)を紹介する。
PAIは、評価、コンテキスト、コンプライアンス、ガバナンスの4つの側面を組み合わせたデプロイメントエビデンスです。
監査可能なAIエージェント評価とガバナンスのためのオープンソースのインフラストラクチャであるProofAgent Harness内に実装されている。
論文 参考訳（メタデータ） (2026-07-30T04:44:47Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority [7.392721604463545]
制限はエージェントの実行アーキテクチャの不変として保証できることを示す。
学習量やスキル獲得量、自己引き起こされるガバナンスの抽象化がエージェントの許可された権限を広げることはできないことを証明します。
論文 参考訳（メタデータ） (2026-07-06T02:42:06Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - The Authorization-Execution Gap Is a Major Safety and Security Problem in Open-World Agents [111.54911637435269]
オーソライゼーション・実行ギャップ(英: Authorization-Execution Gap、AEG)は、オープンワールドエージェントの安全性とセキュリティの問題である。
AEGは、プリンシパルが認可しようとするものと、オープンワールドエージェントが最終的に実行するものとの違いである。
論文 参考訳（メタデータ） (2026-05-10T04:05:31Z) - Alignment Contracts for Agentic Security Systems [7.008213336755055]
我々は、観測可能な効果トレースに対する行動制約を規定し、強制するためのフレームワークであるアライメント契約を導入する。
契約は、スコープ、許容および禁止された効果、リソース予算、開示ポリシーを定義します。
リーン4アーティファクトは、論文が使用する公式なコア定理をチェックします。
論文 参考訳（メタデータ） (2026-04-30T14:38:05Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。