論文の概要: Using predictive multiplicity to measure individual performance within the AI Act

• arxiv url: http://arxiv.org/abs/2602.11944v1
• Date: Thu, 12 Feb 2026 13:40:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-13 21:07:25.84319
• Title: Using predictive multiplicity to measure individual performance within the AI Act
• Title（参考訳）: AI法における個人パフォーマンスの測定に予測的乗法を用いる
• Authors: Karolin Frohnapfel, Mara Seyfert, Sebastian Bordt, Ulrike von Luxburg, Kristof Meding,
• Abstract要約: 本稿は、EU AI Actの正確性に関する規定に関連して、予測的乗法を定めている。 我々は、AI法に基づき、予測多重性に関する情報をデプロイ者に提供すべきだと提案する。
• 参考スコア（独自算出の注目度）: 8.79823465328347
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When building AI systems for decision support, one often encounters the phenomenon of predictive multiplicity: a single best model does not exist; instead, one can construct many models with similar overall accuracy that differ in their predictions for individual cases. Especially when decisions have a direct impact on humans, this can be highly unsatisfactory. For a person subject to high disagreement between models, one could as well have chosen a different model of similar overall accuracy that would have decided the person's case differently. We argue that this arbitrariness conflicts with the EU AI Act, which requires providers of high-risk AI systems to report performance not only at the dataset level but also for specific persons. The goal of this paper is to put predictive multiplicity in context with the EU AI Act's provisions on accuracy and to subsequently derive concrete suggestions on how to evaluate and report predictive multiplicity in practice. Specifically: (1) We argue that incorporating information about predictive multiplicity can serve compliance with the EU AI Act's accuracy provisions for providers. (2) Based on this legal analysis, we suggest individual conflict ratios and $δ$-ambiguity as tools to quantify the disagreement between models on individual cases and to help detect individuals subject to conflicting predictions. (3) Based on computational insights, we derive easy-to-implement rules on how model providers could evaluate predictive multiplicity in practice. (4) Ultimately, we suggest that information about predictive multiplicity should be made available to deployers under the AI Act, enabling them to judge whether system outputs for specific individuals are reliable enough for their use case.
• Abstract（参考訳）: 決定支援のためのAIシステムを構築する場合、予測多重性の現象に遭遇することが多く、単一の最良のモデルが存在しない。 特に意思決定が人間に直接的な影響を与える場合、これは非常に満足できない。 モデル間で高い不一致を被る人には、その人のケースを別々に決定する、同様の全体的な精度の異なるモデルを選択することもできた。 この仲裁性は、リスクの高いAIシステムのプロバイダがデータセットレベルだけでなく、特定の人に対してもパフォーマンスを報告する必要があるEUのAI法と矛盾する、と我々は主張する。 本研究の目的は,EUのAI法における精度に関する規定と関連する予測的多重度を関連づけることであり,その後,予測的多重度を実際にどのように評価し,報告するかという具体的な提案を導出することである。 具体的には、(1)予測多重性に関する情報を組み込むことは、提供者に対するEU AI Actの正確性規定に準拠することができると論じる。 2) この法的な分析に基づいて,個別のケースにおけるモデル間の不一致を定量化し,矛盾する予測対象の個人を検出するツールとして,個別の競合比と$δ$-ambiguityを提案する。 (3)計算的洞察に基づいて,モデル提供者が実際に予測多重性を評価する方法について,簡単に実装できるルールを導出する。 (4) 究極的には、AI法の下では、予測多重性に関する情報をデプロイ者に提供し、特定の個人に対するシステムアウトプットがユースケースに十分な信頼性を持つかどうかを判断できるようにするべきである。

関連論文リスト

• On Arbitrary Predictions from Equally Valid Models [49.56463611078044]
  モデル多重性(英: Model multiplicity)とは、同じ患者に対して矛盾する予測を認める複数の機械学習モデルを指す。 たとえ小さなアンサンブルであっても、実際は予測的多重性を緩和・緩和できることを示す。
  論文  参考訳（メタデータ） (2025-07-25T16:15:59Z)
• Reconciling Model Multiplicity for Downstream Decision Making [24.335927243672952]
  2つの予測モデルがほぼ至るところでそれぞれの予測にほぼ一致しているとしても、最も応答性の高い行動が人口のかなりの部分で相違していることが示される。 本稿では,下流決定問題と個別確率予測の両方に関して,予測モデルを校正する枠組みを提案する。
  論文  参考訳（メタデータ） (2024-05-30T03:36:46Z)
• Underspecification in Language Modeling Tasks: A Causality-Informed Study of Gendered Pronoun Resolution [0.0]
  本稿では,素因性相関の生成における不特定性の役割を説明するための簡単な因果機構を提案する。 その単純さにもかかわらず、我々の因果モデルは2つの軽量ブラックボックス評価手法の開発を直接的に知らせる。
  論文  参考訳（メタデータ） (2022-09-30T23:10:11Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Cross-model Fairness: Empirical Study of Fairness and Ethics Under Model Multiplicity [10.144058870887061]
  1つの予測器が等しく機能するモデルのグループからアドホックに選択された場合、個人は害を受ける可能性があると我々は主張する。 これらの不公平性は実生活で容易に発見でき、技術的手段だけで緩和することは困難である可能性が示唆された。
  論文  参考訳（メタデータ） (2022-03-14T14:33:39Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
  建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。 本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。 本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
  論文  参考訳（メタデータ） (2021-01-24T05:40:29Z)
• Characterizing Fairness Over the Set of Good Models Under Selective Labels [69.64662540443162]
  同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。 到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。 選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
  論文  参考訳（メタデータ） (2021-01-02T02:11:37Z)
• Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models [110.82452096672182]
  逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。 また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
  論文  参考訳（メタデータ） (2020-03-10T09:15:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。