論文の概要: Traccia: An OpenTelemetry-Based Governance Platform for AI Systems
- arxiv url: http://arxiv.org/abs/2607.14309v1
- Date: Wed, 15 Jul 2026 19:14:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:32.89477
- Title: Traccia: An OpenTelemetry-Based Governance Platform for AI Systems
- Title（参考訳）: Traccia:AIシステムのためのオープンテレメトリベースのガバナンスプラットフォーム
- Abstract要約: LLM(Large Language Models)とAI(Artificial Intelligent)による自律エージェントの急速な開発は、ソフトウェアガバナンスの既存の形態を根本的に変えた。
現在のソリューションでは、アライメントやセキュリティ上の懸念、シャドウAIシステムの無許可デプロイメントといった深刻な脅威から、非バウンドな状態空間エージェントアーキテクチャを保護することができない。
OpenTelemetryインフラストラクチャプラットフォーム上に構築された、一貫性のあるマルチレベルAIガバナンススタックであるTracciaの形で、議論された課題を克服するためのソリューションが提案されている。
- 参考スコア（独自算出の注目度）: 0.7919969809015938
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rapid development of Large Language Models (LLMs) and Artificial Intelligent (AI) powered autonomous agents has fundamentally changed the existing forms of software governance. In spite of the rigorous standards of transparency and account ability required according to the international frameworks such as the European Union's AI Act, there is a considerable gap between theory and reality. The present study discusses the inherent drawbacks of currently utilized platforms for LLM evaluation, machine learning workflow, and application performance monitoring in general. It has been shown that current disjointed solutions fail to protect unbound state space agentic architecture from serious threats such as alignment drift, SaaS security concerns, and unauthorized deployment of shadow AI systems. Moreover, a solution is proposed for overcoming the discussed challenges in form of a coherent multi-level AI governance stack Traccia built on the top of OpenTelemetry infrastructure platform. Traccia resolves the last mile for AI Alignment by adding the telemetry data, passive semantic guardrail assessment, and execution lineage into a hashed trace ledger. Traccia automatically creates compliance evidence packages by appending tamper-resistant fingerprints and SHA-256 content hash, that map to regulatory requirements (Articles 12, 14, 19, 26(6), and 50 of the EU AI Act) without invading any data privacy. By performing this evaluation in a methodical manner, a solid machine-readable base has been created for enterprise-wide management of autonomous AI systems.
- Abstract（参考訳）: LLM(Large Language Models)とAI(Artificial Intelligent)による自律エージェントの急速な開発は、ソフトウェアガバナンスの既存の形態を根本的に変えた。
欧州連合のAI法のような国際枠組みによる透明性と説明能力の厳格な基準にもかかわらず、理論と現実の間にはかなりのギャップがある。
本研究では,LLM評価,機械学習ワークフロー,アプリケーションパフォーマンス監視など,現在使用されているプラットフォームの本質的な欠点について論じる。
現在の分離されたソリューションでは、アライメントドリフトやSaaSセキュリティの懸念、シャドーAIシステムの無許可デプロイメントといった深刻な脅威から、非バウンドな状態空間エージェントアーキテクチャを保護できないことが示されている。
さらに、OpenTelemetryインフラストラクチャプラットフォーム上に構築されたコヒーレントなマルチレベルAIガバナンススタックTracciaという形で、議論された課題を克服するためのソリューションも提案されている。
Tracciaは、テレメトリデータ、パッシブセマンティックガードレールアセスメント、実行ラインをハッシュトレース台帳に追加することで、AIアライメントの最終マイルを解決している。
Tracciaは、データプライバシーを侵害することなく、規制要件(EUAI法第12条、第19条、第26条、第50条)にマップする、タンパー抵抗指紋とSHA-256コンテンツハッシュを追加することで、コンプライアンスエビデンスパッケージを自動生成する。
この評価を体系的に実施することにより、自律型AIシステムの企業規模の管理のために、ソリッドマシン可読ベースが作成されている。
関連論文リスト
- Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges [0.0]
この調査は、信頼できるエージェントAIのための総合的なシステムセキュリティリファレンスフレームワークを提供する。
汎用エージェントアーキテクチャをステートフルな5タプルとして形式化し,セキュリティ,安全性,プライバシ,説明可能性,公正性,説明責任を網羅した6次元信頼性分類を確立した。
論文 参考訳（メタデータ） (2026-09-12T05:51:27Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - The Open-Weight Paradox: Why Restricting Access to AI Models May Undermine the Safety It Seeks to Protect [0.0]
オープンウェイト人工知能(AI)モデルのガバナンスは、リスクとしてのオープン性、安全性としての制限という2つの選択肢として考えられている。
本稿は、規制された代替手段を使わずに、アクセス制限がリスクを減らすよりもリスクをなくす可能性があることを論じる。
論文 参考訳（メタデータ） (2026-04-19T12:38:14Z) - Networking-Aware Energy Efficiency in Agentic AI Inference: A Survey [64.20429885919701]
本稿では,知覚・推論・行動サイクル全体にわたる計算・通信コストを同定するエネルギー会計フレームワークを提案する。
我々は、単純化、計算制御、インプット・アンド・アテンション最適化、ハードウェア・アウェア・推論にまたがる統一的な分類法を確立する。
我々は,第6世代移動通信(6G)ネイティブエージェントAI,自己維持システムといったグリーンラーニングのオープンな課題を特定した。
論文 参考訳（メタデータ） (2026-04-09T06:13:59Z) - AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments [4.3073750462661256]
本稿では,継続的かつ自律的なAIオブザーバビリティとゼロトラストコンプライアンスのためのガバナンスアーキテクチャであるAI Trust OSを提案する。
このフレームワークはゼロトラストテレメトリ境界を介して動作し、短命の読み取り専用プローブが構造メタデータを検証する。
論文 参考訳（メタデータ） (2026-04-06T15:14:10Z) - Uncovering Security Threats and Architecting Defenses in Autonomous Agents: A Case Study of OpenClaw [42.9467373594646]
本報告では,OpenClawエコシステムの総合的なセキュリティ分析について述べる。
我々は、インジェクション駆動のRemote Code Execution(RCE)、シーケンシャルツールアタックチェーン、コンテキスト記憶、サプライチェーン汚染などの重要な脆弱性を強調した。
これらのシステム的アーキテクチャ欠陥に対処するために、フルライフサイクルエージェントセキュリティアーキテクチャ(FASA)を導入します。
この理論的な防御青写真は、ゼロトラストエージェント実行、動的意図検証、および層間推論-作用相関を提唱している。
論文 参考訳（メタデータ） (2026-03-13T04:33:05Z) - MAIF: Enforcing AI Trust and Provenance with an Artifact-Centric Agentic Paradigm [0.5495755145898128]
現在のAIシステムは、監査証跡、証明追跡、EU AI Actのような新たな規則で要求される説明可能性に欠ける不透明なデータ構造で運用されている。
動作は一時的なタスクではなく、永続的で検証可能なデータアーティファクトによって駆動される、アーティファクト中心のAIエージェントパラダイムを提案する。
プロダクション対応実装では、超高速ストリーミング(2,720.7MB/s)、最適化されたビデオ処理(1,342MB/s)、エンタープライズレベルのセキュリティが示されている。
論文 参考訳（メタデータ） (2025-11-19T04:10:32Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Rethinking Autonomy: Preventing Failures in AI-Driven Software Engineering [1.6766200616088744]
SAFE-AI Frameworkは、安全性、監査可能性、フィードバック、説明可能性を強調した総合的なアプローチである。
我々は、リスク評価と監視を導くために、提案的、生成的、自律的、破壊的なアクションを分類する、AI行動の新しい分類法を導入する。
この記事では、EU AI ActやカナダのAIDAといった新たな規則に沿って、ソフトウェアエンジニアリングにおける責任あるAI統合のためのロードマップを提供する。
論文 参考訳（メタデータ） (2025-08-15T22:13:54Z) - Generative AI for Autonomous Driving: Frontiers and Opportunities [145.6465312554513]
この調査は、自律運転スタックにおけるGenAIの役割の包括的合成を提供する。
まず、VAE、GAN、拡散モデル、および大規模言語モデルを含む、現代の生成モデリングの原則とトレードオフを蒸留することから始めます。
我々は、合成データ一般化、エンドツーエンド駆動戦略、高忠実なデジタルツインシステム、スマートトランスポートネットワーク、具体化されたAIへのクロスドメイン転送など、実用的な応用を分類する。
論文 参考訳（メタデータ） (2025-05-13T17:59:20Z) - How VADER is your AI? Towards a definition of artificial intelligence systems appropriate for regulation [39.58317527488534]
最近のAI規制提案では、ICT技術、アプローチ、AIではないシステムに影響を与えるAI定義が採用されている。
本稿では,AI定義の規制(VADER)が適切に定義されているかを評価するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2024-02-07T17:41:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。