論文の概要: A Methodology for Auditable Trustworthiness Levels in AI Lifecycle Governance
- arxiv url: http://arxiv.org/abs/2607.16130v1
- Date: Fri, 17 Jul 2026 17:11:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.914652
- Title: A Methodology for Auditable Trustworthiness Levels in AI Lifecycle Governance
- Title（参考訳）: AIライフサイクルガバナンスにおける信頼度評価手法
- Abstract要約: 我々は、AIガバナンスにおける監査可能な信頼性レベルのための軽量な方法論を提案する。
この方法論には、信頼性レベルを表現および学習するための正式なフレームワークと、軽量なAIライフサイクルガバナンス手順の2つのコンポーネントがある。
我々の手法は法的または他の専門家の判断に取って代わらない。
- 参考スコア（独自算出の注目度）: 0.3384279376065155
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: AI governance increasingly requires judgments about whether an AI system remains adequately trustworthy over time, whether observed changes are tolerable, and how such judgments should be documented in a transparent and contestable way. Yet existing work on AI trustworthiness remains either too high-level to support lifecycle monitoring and reassessment or too narrowly metric-driven to connect with governance needs. We therefore propose a lightweight methodology for auditable trustworthiness levels in AI governance. The methodology has two components: a formal framework for representing and learning trustworthiness levels, and a lightweight AI lifecycle governance procedure for documenting, monitoring, and reassessing them over time. The formal framework models governance-relative trustworthiness through a context-sensitive protocol of measurable dimensions and learns trustworthiness levels as interpretable rules over trustworthiness profiles. Using decision trees as an interpretable proof-of-concept model class, the methodology yields explicit trustworthiness plateaus, readable level transitions, and two simple lifecycle diagnostics: boundary margins and profile drift. The governance procedure embeds these formal objects in a conformity-oriented workflow for design-time labeling, post-deployment monitoring, reassessment, and reporting. It also assigns human responsibilities and control gates for protocol design, validation, monitoring, and reassessment. We illustrate the methodology on synthetic AI lifecycle traces involving degradation, shocks, updates, heterogeneous monitoring cadences, and system comparison. Our methodology does not replace legal or other expert judgment: it supports conformity documentation and lifecycle monitoring by providing an evidential basis for documenting and tracking AI governance-relevant changes over time.
- Abstract（参考訳）: AIガバナンスは、時間とともにAIシステムが適切な信頼性を維持しているかどうか、観察された変更が許容可能であるかどうか、そしてそのような判断が透明で議論の余地のある方法で文書化されるべきかどうか、という判断をますます求めている。
しかし、AIの信頼性に関する既存の作業は、ライフサイクル監視と再評価をサポートするには高レベルすぎるか、あるいはガバナンスのニーズに結びつくには狭すぎるメトリック駆動である。
そこで我々は,AIガバナンスにおける監査可能な信頼性レベルのための軽量な方法論を提案する。
この方法論には2つのコンポーネントがある。信頼度レベルを表現および学習するための正式なフレームワークと、それらをドキュメント化し、監視し、再評価するための軽量なAIライフサイクルガバナンス手順だ。
フォーマルなフレームワークは、測定可能な次元の文脈に敏感なプロトコルを通じてガバナンスの相対的信頼度をモデル化し、信頼度プロファイルに対する解釈可能なルールとして信頼度レベルを学ぶ。
決定木を解釈可能な概念モデルクラスとして用いて、この方法論は明確な信頼度高原、読みやすいレベル遷移、および2つの単純なライフサイクル診断(境界マージンとプロファイルドリフト)をもたらす。
ガバナンス手順は、これらの形式的オブジェクトを、設計時ラベリング、デプロイ後の監視、再評価、レポートのための整合性指向のワークフローに組み込む。
また、プロトコル設計、検証、監視、再評価のためのヒューマン責任とコントロールゲートを割り当てる。
本稿では, 劣化, 衝撃, 更新, 不均一なモニタリングケイデンス, システム比較を含む, 合成AIライフサイクルトレースの方法論について述べる。
我々の方法論は、法的または他の専門家の判断に取って代わるものではない。AIガバナンスに関連する変更の文書化と追跡のための明確な基盤を提供することで、適合性ドキュメントとライフサイクルモニタリングをサポートする。
関連論文リスト
- Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Referential Security as a New Paradigm for AI Evaluations [5.748110232428846]
我々は,AI評価の新しいパラダイムとして参照セキュリティを提案する。
このアプローチは、モデルアイデンティティを経験的に検証可能な性質として再設計し、参照安定性を実体セキュリティが条件としているものと区別する。
論文 参考訳（メタデータ） (2026-05-25T10:24:10Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Beyond Task Success: An Evidence-Synthesis Framework for Evaluating, Governing, and Orchestrating Agentic AI [0.0]
本稿では,手動符号化コーパスにおける有界なエビデンス合成に寄与する。
本稿では,(1)評価,ガバナンス,オーケストレーション,保証にまたがる4層フレームワーク,(2)可観測性,決定性,タイムライン,検証性に基づくODTA実行時配置テスト,(3)状態変更動作のための最小アクション検証バンドル,の3つの関連アーティファクトを紹介する。
論文 参考訳（メタデータ） (2026-04-18T20:28:26Z) - Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale [1.0896567381206714]
ポイント・イン・タイムの文書ベースの監査では、決定論的でない振る舞いには対応できない。
垂直的には、ガバナンスとコントロールの義務は、フレームワークが運用できるものよりも速く変化します。
リスクベースの規制は、現在進行中のコントロールの妥当性と効果を示す必要がある。
本稿では,信頼度を静的証明書ではなく,連続的に発生する信号として再設定する。
論文 参考訳（メタデータ） (2026-02-15T10:49:47Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Explainable AI Systems Must Be Contestable: Here's How to Make It Happen [2.5875936082584623]
本稿では、説明可能なAIにおける競合性の最初の厳密な形式的定義について述べる。
我々は、ヒューマン中心のインターフェース、技術プロセス、組織アーキテクチャにまたがる、設計やポストホックメカニズムのモジュール化されたフレームワークを紹介します。
私たちの作業は実践者に、真のリコースと説明責任をAIシステムに組み込むためのツールを提供しています。
論文 参考訳（メタデータ） (2025-06-02T13:32:05Z) - Learning Verifiable Control Policies Using Relaxed Verification [49.81690518952909]
本研究は,実行中にプロパティを評価可能なポリシを目標として,トレーニングを通じて検証を実施することを提案する。
アプローチは、微分可能な到達可能性分析を使用して、新しいコンポーネントを損失関数に組み込むことである。
論文 参考訳（メタデータ） (2025-04-23T16:54:35Z) - Value Functions are Control Barrier Functions: Verification of Safe
Policies using Control Theory [46.85103495283037]
本稿では,制御理論から学習値関数への検証手法の適用方法を提案する。
我々は値関数と制御障壁関数の間の関係を確立する原定理を定式化する。
我々の研究は、RLベースの制御システムの汎用的でスケーラブルで検証可能な設計のための公式なフレームワークに向けた重要な一歩である。
論文 参考訳（メタデータ） (2023-06-06T21:41:31Z) - Joint Differentiable Optimization and Verification for Certified
Reinforcement Learning [91.93635157885055]
安全クリティカル制御システムのためのモデルベース強化学習では,システム特性を正式に認定することが重要である。
本稿では,強化学習と形式検証を共同で行う枠組みを提案する。
論文 参考訳（メタデータ） (2022-01-28T16:53:56Z) - Trustworthy Artificial Intelligence and Process Mining: Challenges and
Opportunities [0.8602553195689513]
プロセスマイニングは、AIコンプライアンスプロセスの実行に事実に基づく可視性を得るために有用なフレームワークを提供することができることを示す。
AI規制コンプライアンスプロセスの不確実性を分析し、修正し、監視する自動化アプローチを提供する。
論文 参考訳（メタデータ） (2021-10-06T12:50:47Z) - Uncertainty as a Form of Transparency: Measuring, Communicating, and
Using Uncertainty [66.17147341354577]
我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。
モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。
この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
論文 参考訳（メタデータ） (2020-11-15T17:26:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。