論文の概要: Validity, Reliability, and Transparency in Artificial Intelligence Regulation
- arxiv url: http://arxiv.org/abs/2608.05800v1
- Date: Thu, 06 Aug 2026 09:36:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.86687
- Title: Validity, Reliability, and Transparency in Artificial Intelligence Regulation
- Title（参考訳）: 人工知能規制における妥当性、信頼性、透明性
- Abstract要約: 記事は、現代のAIは、構築の妥当性、欠点、代表性、流通のシフト、公正なトレードオフに関する懸念を提起している。
我々は、比例評価とデプロイメント承認の前提条件として推論が機能すべきであると主張している。
- 参考スコア（独自算出の注目度）: 2.588958866512272
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Artificial intelligence (AI) systems increasingly mediate decisions affecting individuals and societies. Existing data protection frameworks address certain privacy-related harms, particularly those arising from data leakage, re-identification, and profiling. However, they inadequately capture a more fundamental risk: unreliable or unjustified inference produced by AI systems even when data collection and processing are legitimate. This article argues that modern AI raises distinct concerns of construct validity, confounding, representativeness, distribution shift, and fairness trade-offs that require specialised regulatory attention. In the context of AI, transparency and explainability acquire distinct and significantly more challenging meanings than in conventional software. A substantial body of work in critical data studies and the measurement-theoretic literature has diagnosed these epistemological limitations. This article's contribution is to derive from that diagnosis a structured and operationalizable regulatory framework. We argue that validity of inference should function as a precondition for proportionality assessment and deployment approval --- a move that existing frameworks, including the EU AI Act's domain-based risk tiers, do not make. We ground this argument in the constitutional principle of informational self-determination articulated in the Indian Supreme Court's \emph{Puttaswamy} judgement, extending its reach from data collection to the legitimacy of use of data. Effective governance must therefore incorporate AI-specific validity assessment, post-deployment monitoring, and proportionality assessments grounded in structured articulation of both epistemic risk and potential benefit.
- Abstract（参考訳）: 人工知能(AI)システムは、個人や社会に影響を与える決定を仲介する。
既存のデータ保護フレームワークは、プライバシーに関する特定の害、特にデータ漏洩、再識別、プロファイリングに起因する問題に対処する。
しかし、データ収集や処理が正当である場合でも、AIシステムが生成する信頼できない、あるいは不正な推論という、より基本的なリスクを捕捉することができない。
この記事では、現代AIが、特別な規制の注意を必要とする構築の妥当性、欠点、代表性、流通のシフト、公正なトレードオフに対する明確な懸念を提起する。
AIの文脈では、透明性と説明可能性は、従来のソフトウェアよりもはっきりとした、そしてはるかに難しい意味を獲得します。
批判的データ研究と測定理論文学における重要な研究は、これらの認識学的限界を診断した。
この記事では、その診断を構造化され、運用可能な規制フレームワークから導き出すことに貢献する。
推論の妥当性は、比例評価とデプロイメント承認の前提条件として機能すべきであり、EU AI Actのドメインベースのリスク層を含む既存のフレームワークが実現しない動きである。
我々は、この主張を、インド最高裁判所の「emph{Puttaswamy}」判決で明記された情報自己決定の憲法原則に基づくものであり、データ収集からデータ使用の正当性までの範囲を広げている。
したがって、効果的なガバナンスには、AI固有の妥当性評価、デプロイ後の監視、および疫学リスクと潜在的な利益の両方の構造化された記述に基づく比例評価を組み込まなければならない。
関連論文リスト
- Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Why Avoid Generative Legal AI Systems? Hallucination, Overreliance, and their Impact on Explainability [0.0]
本稿では, 法的な職業における生成型AIシステムの展開には, 幻覚と過信の重大なリスクのため, 強い抑制が必要であることを論じる。
この分析の中心はジェネレーティブ法定AI(GLAI)の定義である。
論文 参考訳（メタデータ） (2026-03-16T21:40:43Z) - Is your AI Model Accurate Enough? The Difficult Choices Behind Rigorous AI Development and the EU AI Act [11.9330079062021]
2024年欧州連合のAI法は、リスクの高いシステムに対して「適切なレベルの精度」を規定している。
本稿では, 精度の定義, 測定, 評価の方法を決定する選択について, 法的・技術的に分析した。
本論文は,AIガバナンスと規制に関する学際的な議論に,テクノ・ノーマティブな精度の次元を明確化することによって貢献する。
論文 参考訳（メタデータ） (2026-03-11T15:51:37Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - A Conjecture on a Fundamental Trade-Off between Certainty and Scope in Symbolic and Generative AI [0.0]
論文では、AIシステムにおける証明可能な正しさと広範なデータマッピング能力の基本的なトレードオフを定式化する予想を紹介している。
この暗黙のトレードオフを明確化し、厳密な検証にオープンにすることで、この予想は、エンジニアリングの野望とAIに対する哲学的な期待の両方を大きく変えた。
論文 参考訳（メタデータ） (2025-06-11T19:18:13Z) - The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。
我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
論文 参考訳（メタデータ） (2025-06-09T18:37:14Z) - Ethical AI: Towards Defining a Collective Evaluation Framework [0.3413711585591077]
人工知能(AI)は医療、金融、自律システムといった分野を変えつつある。
しかし、その迅速な統合は、データ所有権、プライバシー、およびシステムバイアスに関する緊急の倫理的懸念を提起する。
本稿では,意味不明で解釈可能な単位のオントロジブロック上に構築されたモジュール型倫理的評価フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-30T21:10:47Z) - Is Trust Correlated With Explainability in AI? A Meta-Analysis [0.0]
我々は、AI説明可能性と信頼の関係を探るため、既存の文献を網羅的に調査する。
我々の分析では、90の研究データを取り入れた結果、AIシステムの説明可能性と彼らが与える信頼との間に統計的に有意だが適度な正の相関関係が明らかとなった。
この研究は、特に説明責任の促進と、医療や司法などの重要な領域におけるユーザの信頼の促進において、社会技術的に幅広い影響を強調している。
論文 参考訳（メタデータ） (2025-04-16T23:30:55Z) - Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。
バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。
多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
論文 参考訳（メタデータ） (2023-04-21T09:03:18Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z) - Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。
我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文 参考訳（メタデータ） (2020-11-02T20:04:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。