論文の概要: The Missing Layer: Specification Infrastructure for AI Oversight
- arxiv url: http://arxiv.org/abs/2607.24866v1
- Date: Sun, 26 Jul 2026 18:12:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.561498
- Title: The Missing Layer: Specification Infrastructure for AI Oversight
- Title（参考訳）: AI監視のための仕様インフラストラクチャ
- Authors: Satyam Kumar, Saurabh Jha,
- Abstract要約: エージェントシステムを構築するすべてのチームは、独自の監査スキーマ、ポリシ方言、監視スタック、エスカレーションパスを構築します。
5つの技術レイヤ(レギュラビリティ、仕様、メディエーション、評価、エスカレーション)は、アライメント、堅牢性、敵防衛、セキュリティ、ガバナンス、説明責任の6つにまたがっている。
本稿では,レイヤ2の設計原則を6つ提案する。
- 参考スコア（独自算出の注目度）: 2.587194279527956
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI safety has a missing layer. Interpretability, formal methods, security engineering, evaluation methodology, and reinforcement-learning safety each produce substantial work, but the resulting artifacts do not compose into deployable oversight: every team fielding an agentic system builds its own audit schema, policy dialect, monitoring stack, and escalation path, mostly reinventions of patterns understood elsewhere. We diagnose this as a coordination gap, not a research gap, and propose a two-axis taxonomy: five technical layers (Legibility, Specification, Mediation, Evaluation, Escalation) crossed with six concerns spanning alignment, robustness, adversarial defense, security, governance, and accountability, populating the resulting 5x6 matrix with existing work. Layer 2 (Specification), where humans translate intent into machine-checkable artifacts, is the connective tissue every layer depends on, yet it lacks four marks of a mature engineering discipline: shared vocabulary, design principles, composability standards, and governance practices. We propose six design principles for Layer 2, from elicitability and composability to adversary-awareness, traceability, and governability, made concrete through worked examples and a reference architecture turning specifications into runtime enforcement, evaluation, and escalation. Existing systems such as Cedar, Constitutional AI, and Open Policy Agent each address a fragment of Layer 2 well and the matrix poorly; treating them as fragments of one shared layer makes composition tractable. As evidence, we introduce CARMA, a Layer 2 prototype for autonomous ETL agents in which one specification drives enforcement, evaluation, and escalation, with every decision traceable to a versioned specification, naming what AI oversight is missing and giving independent teams principles to build the missing pieces so they compose.
- Abstract（参考訳）: AIの安全性には欠落するレイヤがある。
解釈可能性、形式的手法、セキュリティエンジニアリング、評価方法論、強化学習の安全性はそれぞれ大きな成果を上げていますが、結果として得られた成果物は、デプロイ可能な監視に構成されません。
5つの技術レイヤ(レギュラビリティ、仕様、メディエーション、評価、エスカレーション)は、アライメント、ロバスト性、敵防衛、セキュリティ、ガバナンス、アカウンタビリティの6つにまたがって、既存の作業で得られた5x6マトリクスを膨らませる。
レイヤ2(仕様)は、人間が意図をマシンチェック可能なアーティファクトに変換するもので、すべてのレイヤが依存する結合組織であるが、成熟したエンジニアリング規律の4つのマークが欠落している。
本稿では,レイヤ2の設計原則を6つ提案する。適用性と構成性から敵意識,トレーサビリティ,管理性に至るまで,実例による具体化と参照アーキテクチャをランタイムの実施,評価,エスカレーションに変換する。
Cedar、Constitutional AI、Open Policy Agentといった既存のシステムでは、それぞれレイヤ2の断片とマトリックスをうまく扱いません。
証拠として、私たちはCARMAを紹介します。これは自律ETLエージェントのためのレイヤー2のプロトタイプで、1つの仕様が実施、評価、エスカレーションを駆動し、すべての決定がバージョン管理された仕様にトレース可能であり、AIの監視が欠けているものを命名し、独立したチームが欠落した部品を構築するための原則を与えます。
関連論文リスト
- Risk Architecture for AI-Native Engineering Teams: An Organizational Framework for Agentic System Governance [0.0]
本稿では、純粋なソフトウェアエンジニアリング、ハイブリッド、AIネイティブチームを区別する7次元プロファイルを提供する。
研究の対象は人間の行動よりもフレームワークの妥当性にあるため、評価は観察されたカバレッジクレームよりも導出される。
論文 参考訳（メタデータ） (2026-07-01T19:31:02Z) - From Prompt to Process: a Process Taxonomy and Comparative Assessment of Frameworks Supporting AI Software Development Agents [0.0]
AI機能をプロセスに変換する運用フレームワークに重点を置いています。
仕様駆動による完全な軽量な開発、エージェント駆動のアジャイル計画、エージェント上のコンテキストエンジニアリング、ワークツリーの分離とレビュー、レガシーシステムからの運用仕様の回復。
私たちの中心的な貢献は、仕様、コンテキスト、役割、実行、バリデーション、ポータビリティという6次元プロセスの分類です。
論文 参考訳（メタデータ） (2026-06-03T14:49:15Z) - Autonomy and Agency in Agentic AI: Architectural Tactics for Regulated Contexts [1.2031796234206136]
この研究は、両次元を5つの運用レベルに編成する2次元設計空間を導入する。
自律性は人体操作(L1)から完全自律監視(L5)まで様々である。
我々は、チェックポイント、エスカレーション、マルチエージェントデリゲート、ツールプロビジョニング、ツールフェンシング、書き込みステージングの6つのアーキテクチャ戦略を提案する。
論文 参考訳（メタデータ） (2026-05-12T13:20:30Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - When Agents Evolve, Institutions Follow [52.359340707289114]
大規模言語モデル上に構築されたマルチエージェントシステムは、同じ課題に直面している。
彼らの中心的な問題は、個人の知性だけでなく、集団的な組織である。
我々は,4つの標準的ガバナンスパターンにまたがる7つの歴史的政治機関を,実行可能なマルチエージェントアーキテクチャに翻訳する。
論文 参考訳（メタデータ） (2026-04-30T10:30:58Z) - A Two-Dimensional Framework for AI Agent Design Patterns: Cognitive Function and Execution Topology [54.72352855252792]
本研究では,認知関数軸を7つのカテゴリ,実行位相軸を6つの構造的アーチタイプと組み合わせた2次元分類を提案する。
その結果得られた7x6行列は、27の名前付きパターン、13のオリジナルネームを識別し、AIエージェントアーキテクチャ設計のための原則付き、フレームワークニュートラル、モデルに依存しない語彙を提供する。
論文 参考訳（メタデータ） (2026-03-16T04:01:01Z) - GenAI for Systems: Recurring Challenges and Design Principles from Software to Silicon [62.2138479061386]
ジェネレーティブAIは、コンピュータシステムの設計、最適化、構築方法を変えようとしているが、ソフトウェア、アーキテクチャ、チップデザインコミュニティの間で研究は断片化されている。
本稿では、ハードウェア設計空間探索からRTL合成、物理レイアウト、検証に至るまで、コード生成と分散ランタイムから生成モデルがどのように適用されているかを検討する。
論文 参考訳（メタデータ） (2026-02-16T22:45:33Z) - Designing Domain-Specific Agents via Hierarchical Task Abstraction Mechanism [61.01709143437043]
階層型タスク抽象化機構(HTAM)を中心とした新しいエージェント設計フレームワークを提案する。
具体的には、HTAMは、社会的役割のエミュレーションを超えて、代わりに、複数のエージェントシステムを、あるドメインの固有のタスク依存グラフを反映する論理階層に構造化する。
我々は、複雑な地理空間解析に適したマルチエージェントシステムであるEarthAgentとして、このフレームワークをインスタンス化する。
論文 参考訳（メタデータ） (2025-11-21T12:25:47Z) - HADA: Human-AI Agent Decision Alignment Architecture [0.0]
HADAはプロトコルとフレームワークのリファレンスアーキテクチャであり、大きな言語モデル(LLM)エージェントとレガシーアルゴリズムの両方を組織的目標と値に一致させる。
技術的および非技術的アクターは、戦略的、戦術的、リアルタイムな地平線を越えて、あらゆる決定をクエリ、ステア、監査、または競合することができる。
論文 参考訳（メタデータ） (2025-06-01T14:04:52Z) - EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration [63.112790050749695]
本稿では,行動情報と意味情報の両方をシームレスに統合する新しい生成推薦フレームワークであるEAGERを紹介する。
EAGERの有効性を4つの公開ベンチマークで検証し,既存手法と比較して優れた性能を示した。
論文 参考訳（メタデータ） (2024-06-20T06:21:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。