論文の概要: AI Integrity: A New Paradigm for Verifiable AI Governance

• arxiv url: http://arxiv.org/abs/2604.11065v1
• Date: Mon, 13 Apr 2026 06:45:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.368231
• Title: AI Integrity: A New Paradigm for Verifiable AI Governance
• Title（参考訳）: AI統合: 検証可能なAIガバナンスのための新しいパラダイム
• Authors: Seulki Lee,
• Abstract要約: AIシステムは、医療、法律、防衛、教育における高い意思決定をますます形作っている。 既存のガバナンスパラダイム – AI倫理、AI安全性、AIアライメント – は共通の制限を共有している。 本稿では、AIシステムのオーソリティスタックが汚職、汚染、操作、バイアスから保護されている状態として定義された概念であるAIインテグリティを紹介する。
• 参考スコア（独自算出の注目度）: 3.7184769644515896
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI systems increasingly shape high-stakes decisions in healthcare, law, defense, and education, yet existing governance paradigms -- AI Ethics, AI Safety, and AI Alignment -- share a common limitation: they evaluate outcomes rather than verifying the reasoning process itself. This paper introduces AI Integrity, a concept defined as a state in which the Authority Stack of an AI system -- its layered hierarchy of values, epistemological standards, source preferences, and data selection criteria -- is protected from corruption, contamination, manipulation, and bias, and maintained in a verifiable manner. We distinguish AI Integrity from the three existing paradigms, define the Authority Stack as a 4-layer cascade model (Normative, Epistemic, Source, and Data Authority) grounded in established academic frameworks -- Schwartz Basic Human Values for normative authority, Walton argumentation schemes with GRADE/CEBM hierarchies for epistemic authority, and Source Credibility Theory for source authority -- characterize the distinction between legitimate cascading and Authority Pollution, and identify Integrity Hallucination as the central measurable threat to value consistency. We further specify the PRISM (Profile-based Reasoning Integrity Stack Measurement) framework as the operational methodology, defining six core metrics and a phased research roadmap. Unlike normative frameworks that prescribe which values are correct, AI Integrity is a procedural concept: it requires that the path from evidence to conclusion be transparent and auditable, regardless of which values a system holds.
• Abstract（参考訳）: AIシステムは、医療、法律、防衛、教育における高い評価の意思決定をますます形作っているが、既存のガバナンスパラダイム – AI倫理、AI安全性、AIアライメント – は共通の制限を共有している。 本稿では、AIシステムのオーソリティスタック(価値観、認識基準、ソース嗜好、データ選択基準の階層構造)が汚職、汚染、操作、バイアスから保護され、検証可能な方法で維持される状態として定義された概念であるAIインテリジェンスについて紹介する。 我々は、AIインテリジェンスと既存の3つのパラダイムを区別し、オーソリティスタックを、確立された学術フレームワークに基づく4層カスケードモデル(Normative, Epistemic, Source, Data Authority)として定義する。 さらに、PRISM(ProfileベースのReasoning Integrity Stack Measurement)フレームワークを運用方法論として指定し、6つのコアメトリクスとフェーズドリサーチロードマップを定義します。 どの値が正しいかを規定する規範的なフレームワークとは異なり、AI統合は手続き的な概念である。

関連論文リスト

• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Rational Superautotrophic Diplomacy (SupraAD); A Conceptual Framework for Alignment Based on Interdisciplinary Findings on the Fundamentals of Cognition [0.0]
  ラショナル超独立外交(Rational Superautotrophic Diplomacy, SupraAD)は、アライメントのための理論的、学際的な概念的枠組みである。 認知システム分析と器質的合理性モデリングに着目する。 SupraADは、AIより前の課題としてアライメントを再構築し、十分に複雑で協調的なインテリジェンスを損なう。
  論文  参考訳（メタデータ） (2025-06-03T17:28:25Z)
• Measuring Value Alignment [12.696227679697493]
  本稿では,AIシステムと人的価値の整合性を定量化する新しいフォーマリズムを提案する。 このフォーマリズムを利用することで、AI開発者と倫理学者は、人間の価値と調和して動作するように、AIシステムを設計し、評価することができる。
  論文  参考訳（メタデータ） (2023-12-23T12:30:06Z)
• Connecting the Dots in Trustworthy Artificial Intelligence: From AI Principles, Ethics, and Key Requirements to Responsible AI Systems and Regulation [22.921683578188645]
  私たちは、真に信頼できるAIを達成することは、システムのライフサイクルの一部であるすべてのプロセスとアクターの信頼性を懸念する、と論じています。 AIベースのシステムの倫理的利用と開発のためのグローバルな原則、AI倫理に対する哲学的な見解、AI規制に対するリスクベースのアプローチである。 信頼できるAIに関する私たちの学際的なビジョンは、最近発表されたAIの未来に関するさまざまな見解に関する議論で頂点に達した。
  論文  参考訳（メタデータ） (2023-05-02T09:49:53Z)
• Bridging the Global Divide in AI Regulation: A Proposal for a Contextual, Coherent, and Commensurable Framework [0.9622882291833615]
  本稿では、人工知能(AI)を制御するための文脈的・一貫性的・包括的枠組み(3C)を提案する。 コンテキスト性を確保するため、このフレームワークはAIライフサイクルを、基礎や汎用モデルを定義するのではなく、特定のタスクの学習とデプロイという2つのフェーズに分岐させる。 コンメンサビリティを確保するため、この枠組みはリスクの測定と緩和のための国際標準の採用を促進する。
  論文  参考訳（メタデータ） (2023-03-20T15:23:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。