論文の概要: When Do Data-Driven Systems Exhibit the Capability to Infer?
- arxiv url: http://arxiv.org/abs/2606.11769v1
- Date: Wed, 10 Jun 2026 07:49:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.350452
- Title: When Do Data-Driven Systems Exhibit the Capability to Infer?
- Title（参考訳）: データ駆動システムはいつ推論能力を制限するのか?
- Authors: Maximilian Poretschkin, Tabea Naeven,
- Abstract要約: AI法に基づくAIシステムの重要な特徴は、推論能力である。
特定の例として、AI法のAnnex IIIに記載されている信用スコアシステムがある。
統計的学習理論によって動機づけられたこの研究は、推論能力の異なるレベルをグレードする枠組みを開発する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The European AI Act is the first comprehensive regulation of artificial intelligence (AI), setting out extensive obligations, particularly for so-called high-risk and general-purpose AI systems. A key distinguishing feature of AI systems under the AI Act is the capability to infer. Since the AI Act does not clearly define what inference is, there is a gray area for certain data-driven systems. A specific example is credit scoring systems, which are listed by Annex III of the AI Act. At the same time, however, these are often implemented using statistical models for which it is unclear whether they have the capability to infer and thus fall under the AI definition of the AI Act at all. Motivated by statistical learning theory, this work develops a framework for grading different levels of the capability to infer. Based on the AI Act and the Commission Guidelines on the definition of an artificial intelligence system, we analyze which levels constitute sufficient capability to infer within the meaning of the AI Act and where further regulatory clarity is needed. We illustrate the framework by creating two realistic credit scoring workflows and show whether and where inference occurs in them. Our analysis illustrates that not only individual models but the entire data processing workflow must be considered. It also shows that the involvement of human experts during development can have significant influence on the capability to infer. Code can be found at https://github.com/fraunhofer-iais/inference-framework-creditscorecards.
- Abstract（参考訳）: 欧州AI法(European AI Act)は、人工知能(AI)を包括的に規制する最初の法律であり、特に高リスクで汎用的なAIシステムにおいて、幅広い義務を課している。
AI法に基づくAIシステムの重要な特徴は、推論能力である。
AI法は、推論が何であるかを明確に定義していないため、特定のデータ駆動システムにはグレーの領域がある。
特定の例として、AI法のAnnex IIIに記載されている信用スコアシステムがある。
しかし同時に、これらは統計モデルを用いて実装されることが多く、AI法のAI定義に該当する推論能力があるかどうかは不明である。
統計的学習理論によって動機づけられたこの研究は、推論能力の異なるレベルをグレードする枠組みを開発する。
AI法と人工知能システムの定義に関する委員会ガイドラインに基づいて、AI法の意味内でどのレベルが十分な能力を持つのかを分析し、さらなる規制の明確性が必要かを明らかにする。
このフレームワークは、2つの現実的な信用スコアリングワークフローを作成し、その中に推論が発生するかどうかを示す。
私たちの分析では、個々のモデルだけでなく、データ処理のワークフロー全体を考慮しなければなりません。
また、人間の発達における専門家の関与が、推論能力に大きな影響を与える可能性があることも示している。
コードはhttps://github.com/fraunhofer-iais/inference-framework-creditscorecardsで見ることができる。
関連論文リスト
- Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - General Scales Unlock AI Evaluation with Explanatory and Predictive Power [57.7995945974989]
ベンチマークはAIの進歩を導くものだが、汎用AIシステムには限られた説明力と予測力を提供している。
私たちは、一般的なAIベンチマークが実際に何を計測しているかを説明することができる、AI評価のための一般的な尺度を紹介します。
私たちの完全に自動化された方法論は、飽和しない一般的なスケールにインスタンス要求を配置する18の新しく作られたルーリックの上に構築されます。
論文 参考訳（メタデータ） (2025-03-09T01:13:56Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - How VADER is your AI? Towards a definition of artificial intelligence systems appropriate for regulation [39.58317527488534]
最近のAI規制提案では、ICT技術、アプローチ、AIではないシステムに影響を与えるAI定義が採用されている。
本稿では,AI定義の規制(VADER)が適切に定義されているかを評価するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2024-02-07T17:41:15Z) - Trust, Accountability, and Autonomy in Knowledge Graph-based AI for
Self-determination [1.4305544869388402]
知識グラフ(KG)は、インテリジェントな意思決定を支えるための基盤として登場した。
KGと神経学習の統合は、現在活発な研究のトピックである。
本稿では,KGベースのAIによる自己決定を支援するための基礎的なトピックと研究の柱を概念化する。
論文 参考訳（メタデータ） (2023-10-30T12:51:52Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。