論文の概要: AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments
- arxiv url: http://arxiv.org/abs/2604.04749v1
- Date: Mon, 06 Apr 2026 15:14:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:19.24731
- Title: AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments
- Title（参考訳）: AI Trust OS - 企業環境における自律的AI可観測性とゼロトラストコンプライアンスのための継続的ガバナンスフレームワーク
- Authors: Eranga Bandara, Asanga Gunaratna, Ross Gore, Abdul Rahman, Ravi Mukkamala, Sachin Shetty, Sachini Rajapakse, Isurunima Kularathna, Peter Foytik, Safdar H. Bouk, Xueping Liang, Amin Hass, Ng Wee Keong, Kasun De Zoysa,
- Abstract要約: 本稿では,継続的かつ自律的なAIオブザーバビリティとゼロトラストコンプライアンスのためのガバナンスアーキテクチャであるAI Trust OSを提案する。
このフレームワークはゼロトラストテレメトリ境界を介して動作し、短命の読み取り専用プローブが構造メタデータを検証する。
- 参考スコア（独自算出の注目度）: 4.3073750462661256
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The accelerating adoption of large language models, retrieval-augmented generation pipelines, and multi-agent AI workflows has created a structural governance crisis. Organizations cannot govern what they cannot see, and existing compliance methodologies built for deterministic web applications provide no mechanism for discovering or continuously validating AI systems that emerge across engineering teams without formal oversight. The result is a widening trust gap between what regulators demand as proof of AI governance maturity and what organizations can demonstrate. This paper proposes AI Trust OS, a governance architecture for continuous, autonomous AI observability and zero-trust compliance. AI Trust OS reconceptualizes compliance as an always-on, telemetry-driven operating layer in which AI systems are discovered through observability signals, control assertions are collected by automated probes, and trust artifacts are synthesized continuously. The framework rests on four principles: proactive discovery, telemetry evidence over manual attestation, continuous posture over point-in-time audit, and architecture-backed proof over policy-document trust. The framework operates through a zero-trust telemetry boundary in which ephemeral read-only probes validate structural metadata without ingressing source code or payload-level PII. An AI Observability Extractor Agent scans LangSmith and Datadog LLM telemetry, automatically registering undocumented AI systems and shifting governance from organizational self-report to empirical machine observation. Evaluated across ISO 42001, the EU AI Act, SOC 2, GDPR, and HIPAA, the paper argues that telemetry-first AI governance represents a categorical architectural shift in how enterprise trust is produced and demonstrated.
- Abstract（参考訳）: 大きな言語モデル、検索強化された生成パイプライン、マルチエージェントAIワークフローの採用が加速したことで、構造的なガバナンス危機が生まれている。
決定論的Webアプリケーションのために構築された既存のコンプライアンス方法論は、正式な監視なしにエンジニアリングチーム全体で現れるAIシステムを発見し、継続的に検証するためのメカニズムを提供しません。
その結果、AIガバナンスの成熟性の証明として規制当局が要求するものと、組織が示せるものとの間には、信頼のギャップが広がります。
本稿では,継続的かつ自律的なAIオブザーバビリティとゼロトラストコンプライアンスのためのガバナンスアーキテクチャであるAI Trust OSを提案する。
AI Trust OSは、コンプライアンスを常時オンのテレメトリ駆動の運用層として再認識し、可観測性信号を通じてAIシステムが発見され、自動プローブによって制御アサーションが収集され、信頼成果物が継続的に合成される。
このフレームワークは4つの原則に基づいている。前向きな発見、手動による証明に対するテレメトリの証拠、ポイントインタイム監査に対する継続的な姿勢、およびポリシー文書信頼に対するアーキテクチャ支援の証明である。
このフレームワークはゼロトラストテレメトリ境界を介して動作し、短命の読み取り専用プローブがソースコードやペイロードレベルのPIIを入力せずに構造メタデータを検証する。
AI Observability Extractor Agentは、LangSmithとDatadog LLMテレメトリをスキャンし、未文書のAIシステムを自動登録し、ガバナンスを組織的な自己報告から経験的なマシン観察に移行する。
ISO 42001、EU AI Act、SOC 2, GDPR、HIPAAで評価され、テレメトリファーストのAIガバナンスは、企業の信頼の創造と実証方法における分類学的アーキテクチャシフトを表している、と論じている。
関連論文リスト
- Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale [1.0896567381206714]
ポイント・イン・タイムの文書ベースの監査では、決定論的でない振る舞いには対応できない。
垂直的には、ガバナンスとコントロールの義務は、フレームワークが運用できるものよりも速く変化します。
リスクベースの規制は、現在進行中のコントロールの妥当性と効果を示す必要がある。
本稿では,信頼度を静的証明書ではなく,連続的に発生する信号として再設定する。
論文 参考訳（メタデータ） (2026-02-15T10:49:47Z) - Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - AIBoMGen: Generating an AI Bill of Materials for Secure, Transparent, and Compliant Model Training [1.2520011735093362]
AI Bill of Materials(AIBOM)は、トレーニングされたAIモデルとその環境の標準化された検証可能な記録として紹介されている。
私たちの概念実証プラットフォームであるAIBoMGenは、トレーニング中にデータセット、モデルメタデータ、環境の詳細をキャプチャすることで、署名されたAIBOMの生成を自動化する。
論文 参考訳（メタデータ） (2026-01-09T10:46:42Z) - AI Bill of Materials and Beyond: Systematizing Security Assurance through the AI Risk Scanning (AIRS) Framework [31.261980405052938]
人工知能(AI)システムの保証は、ソフトウェアサプライチェーンセキュリティ、敵機械学習、ガバナンスドキュメントに分散している。
本稿では,AI保証の運用を目的とした脅威モデルに基づくエビデンス発生フレームワークであるAI Risk Scanning(AIRS)フレームワークを紹介する。
論文 参考訳（メタデータ） (2025-11-16T16:10:38Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳（メタデータ） (2025-11-10T22:24:21Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - From Cloud-Native to Trust-Native: A Protocol for Verifiable Multi-Agent Systems [7.002091295810318]
エージェントインフラストラクチャに直接構造保証を組み込むプロトコルであるTrustTrackを導入する。
TrustTrackは、知的エージェントが組織や司法機関をまたいでどのように機能するかを再設定する。
Cloud -> AI -> Agent -> Trust transitionは、自律システムのための次のアーキテクチャレイヤである、と私たちは主張する。
論文 参考訳（メタデータ） (2025-07-25T04:38:38Z) - Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。
我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
論文 参考訳（メタデータ） (2025-04-11T15:41:21Z) - Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。
このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
論文 参考訳（メタデータ） (2024-10-31T15:31:22Z) - Trustworthy AI: From Principles to Practices [44.67324097900778]
多くの現在のAIシステムは、認識不能な攻撃に脆弱で、表現不足なグループに偏り、ユーザのプライバシ保護が欠如していることが判明した。
このレビューでは、信頼できるAIシステムを構築するための包括的なガイドとして、AI実践者に提供したいと思っています。
信頼に値するAIに対する現在の断片化されたアプローチを統合するために、AIシステムのライフサイクル全体を考慮した体系的なアプローチを提案する。
論文 参考訳（メタデータ） (2021-10-04T03:20:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。