論文の概要: High-Risk AI Systems and the Problem of Identity in the European AI Act
- arxiv url: http://arxiv.org/abs/2605.23922v1
- Date: Fri, 17 Apr 2026 20:24:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 07:09:36.469169
- Title: High-Risk AI Systems and the Problem of Identity in the European AI Act
- Title（参考訳）: 欧州AI法におけるハイリスクAIシステムとアイデンティティの問題
- Authors: Andrea Ferrario,
- Abstract要約: EU人工知能法(英語: EU Artificial Intelligence Act、AIA)は、リスクの高いAIシステムのライフサイクルガバナンス体制を定めている。
このロジックは、アーティファクトアイデンティティーの関数+フレームワークによってどのように解明されるかを示す。
我々は、監査や紛争の文脈において、最小限の決定フローを介して同期ケースを運用する。
- 参考スコア（独自算出の注目度）: 0.3384279376065155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The EU Artificial Intelligence Act (AIA) establishes a lifecycle governance regime for high-risk AI systems built around ex-ante conformity assessment, post-market monitoring, and re-assessment upon "substantial modification." These obligations presuppose AI identity judgments: regulators and providers must decide when an updated system remains the same system over time. In this work, we show how this logic is clarified by the function+ framework of artifact identity, which individuates AI systems by their intended function together with context-sensitive criteria of appropriate functioning, captured as "AI trustworthiness." We further argue that the AIA does not provide an internal, auditable criterion for synchronic identity--when two AI systems at a given time should count as the same for regulatory purposes--and instead largely defers such sameness determinations to sectoral or harmonization instruments. function+ supplies a synchronic identity test anchored in intended function and trustworthiness profiles and levels, making synchronic identity decisions inspectable in governance settings such as procurement, liability, and market surveillance. Our contribution is a conceptual and auditing lens: we provide a correspondence map between AIA lifecycle obligations and function+ identity components, and we make the synchronic case operationally legible via a minimal decision flow for audit and dispute contexts. We conclude with two implementation-facing recommendations: (1) more precise, testable reporting of intended purpose, and (2) standardized, auditable trustworthiness reporting that supports comparability over time and across deployments.
- Abstract（参考訳）: EU人工知能法(英語: EU Artificial Intelligence Act, AIA)は、リスクの高いAIシステムのライフサイクルガバナンス体制を制定する。
これらの義務は、AIアイデンティティの判断を前提とします。規制当局とプロバイダは、更新されたシステムが時間とともに同じシステムのままであるかどうかを判断する必要があります。
本稿では,この論理が,AIシステムの意図した機能と,適切な機能に関するコンテキスト依存的な基準を同時に識別する,人工的アイデンティティの関数+フレームワークによって,どのように解明されるかを示す。
さらに、AIAは、同期IDのための内部で監査可能な基準を提供していない、と我々は主張する。
関数+は、意図された機能と信頼性プロファイルとレベルに固定された同期IDテストを提供し、調達、責任、市場監視といったガバナンス設定で検査可能な同期ID決定を実現する。
我々はAIAライフサイクル義務と機能+アイデンティティーコンポーネントの対応マップを提供し、監査・紛争状況の最小限の決定フローを通じて同期ケースを運用的に検証できるようにする。
1)意図した目的のより正確で、テスト可能な報告、(2)時間とデプロイメント間の互換性をサポートする標準化された監査可能な信頼性レポートである。
関連論文リスト
- Making Embodied AI Reliable: A Community Agenda from Testing to Formal Verification [38.209854965937495]
Embodied AIシステムは、ますますオープンな環境にデプロイされている。
この記事では、組み込みAIの信頼性は本質的にライフサイクル保証の問題である、と論じる。
論文 参考訳（メタデータ） (2026-06-02T12:58:40Z) - Referential Security as a New Paradigm for AI Evaluations [5.748110232428846]
我々は,AI評価の新しいパラダイムとして参照セキュリティを提案する。
このアプローチは、モデルアイデンティティを経験的に検証可能な性質として再設計し、参照安定性を実体セキュリティが条件としているものと区別する。
論文 参考訳（メタデータ） (2026-05-25T10:24:10Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Beyond Benchmark Islands: Toward Representative Trustworthiness Evaluation for Agentic AI [45.21562889170875]
シナリオ多様体に対するエージェントの信頼性を特徴付けるシステム評価パラダイムを提案する。
このフレームワークは,静的認知と政策分析,対話型サンドボックスシミュレーション,社会倫理アライメントアライメントアセスメント,および(iv)分散対応の代表サンプリングエンジンの4つの補完的コンポーネントを統合している。
論文 参考訳（メタデータ） (2026-03-16T08:51:33Z) - COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics [0.0]
本稿では,値整合型AIを実現するために設計された,新しいマルチエージェントオーケストレーションシステムを提案する。
このフレームワークは、オーケストレータと、主権、カーボン・アウェア・コンピューティング、コンプライアンス、倫理に対処する4つの専門のサブエージェントで構成されている。
LLM-as-a-judge法を用いることで、定量的スコアを割り当て、各評価次元について説明可能な正当化を生成する。
論文 参考訳（メタデータ） (2026-03-11T20:14:35Z) - Governing AI Forgetting: Auditing for Machine Unlearning Compliance [30.173215964349044]
我々は、認定されたアンラーニング理論と規制執行を統合することで、機械のアンラーニングコンプライアンスを監査するための最初の経済枠組みを導入する。
MUの本質的な不確かさを,証明された未学習の仮説検証解釈を用いて特徴付ける。
次に,オーディタとオペレータ間の戦略的相互作用を捉えるゲーム理論モデルを提案する。
論文 参考訳（メタデータ） (2026-02-16T08:32:09Z) - Compliance as a Trust Metric [1.0264137858888513]
本稿では,規制コンプライアンスを定量的かつダイナミックな信頼度として運用することで,この研究ギャップを埋める。
私たちのコントリビューションは、各違反の深刻度を、そのボリューム、時間、ブレッドス、臨界度など、複数の次元に沿って評価する定量的モデルです。
人工病院のデータセット上でACEを評価し,複雑なHIPAAおよびHIPAA違反を正確に検出できることを実証した。
論文 参考訳（メタデータ） (2026-01-03T21:14:40Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。
このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
論文 参考訳（メタデータ） (2024-10-31T15:31:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。