論文の概要: Statistical Inference for Responsiveness Verification

• arxiv url: http://arxiv.org/abs/2507.02169v1
• Date: Wed, 02 Jul 2025 21:50:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-04 15:37:15.271785
• Title: Statistical Inference for Responsiveness Verification
• Title（参考訳）: 応答性検証のための統計的推論
• Authors: Seung Hyun Cheon, Meredith Stewart, Bogdan Kulynych, Tsui-Wei Weng, Berk Ustun,
• Abstract要約: 本稿では,これらの特徴に対する介入に関して,予測の応答性に関する形式的検証手順を導入する。 ブラックボックスアクセスのみを用いて,モデルおよびデータセットの予測に対する応答性を推定する方法を述べる。 到達可能な点の均一なサンプルを生成することによって,これらの推定値を構成するアルゴリズムを開発する。
• 参考スコア（独自算出の注目度）: 15.571656327462142
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many safety failures in machine learning arise when models are used to assign predictions to people (often in settings like lending, hiring, or content moderation) without accounting for how individuals can change their inputs. In this work, we introduce a formal validation procedure for the responsiveness of predictions with respect to interventions on their features. Our procedure frames responsiveness as a type of sensitivity analysis in which practitioners control a set of changes by specifying constraints over interventions and distributions over downstream effects. We describe how to estimate responsiveness for the predictions of any model and any dataset using only black-box access, and how to use these estimates to support tasks such as falsification and failure probability estimation. We develop algorithms that construct these estimates by generating a uniform sample of reachable points, and demonstrate how they can promote safety in real-world applications such as recidivism prediction, organ transplant prioritization, and content moderation.
• Abstract（参考訳）: 機械学習における多くの安全性障害は、個人が入力を変更する方法を考慮せずに、人(しばしば貸付、雇用、コンテンツモデレーションのような設定で)に予測を割り当てるモデルが使用されるときに発生する。 本研究では,これらの特徴に対する介入に関して,予測の応答性に関する形式的検証手順を導入する。 提案手法は,下流効果に対する介入や分布に対する制約を規定し,一連の変化を制御するための感度分析の一種として,応答性に着目した。 ブラックボックスアクセスのみを用いて、モデルやデータセットの予測に対する応答性を推定する方法と、それらの推定を用いて、ファルシフィケーションや失敗確率推定などのタスクをサポートする方法について述べる。 我々は,到達点の均一なサンプルを生成して,これらの推定値を構成するアルゴリズムを開発し,レシビズム予測や臓器移植の優先順位付け,コンテンツモデレーションといった現実の応用における安全性向上を実証する。

関連論文リスト

• Partial Transportability for Domain Generalization [56.37032680901525]
  本稿では, 部分的同定と輸送可能性の理論に基づいて, 対象分布の関数値の有界化に関する新たな結果を紹介する。 我々の貢献は、輸送可能性問題に対する最初の一般的な評価手法を提供することである。 本稿では,スケーラブルな推論を実現するための勾配に基づく最適化手法を提案する。
  論文  参考訳（メタデータ） (2025-03-30T22:06:37Z)
• Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
  本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。 この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
  論文  参考訳（メタデータ） (2023-08-03T12:43:21Z)
• A Closer Look at the Intervention Procedure of Concept Bottleneck Models [18.222350428973343]
  概念ボトルネックモデル(コンセプションボトルネックモデル、CBM)は、その高レベルな概念に基づいて与えられた入力のターゲット応答を予測する、解釈可能なニューラルネットワークモデルのクラスである。 CBMは、ドメインの専門家が予測された概念に介入し、テスト時に間違いを修正できるので、最後にもっと正確なタスク予測ができる。 本研究では,介入効果を向上させるために介入概念を選択する様々な方法を開発し,異なる状況下でどのように進化するかを詳細に分析する。
  論文  参考訳（メタデータ） (2023-02-28T02:37:24Z)
• Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
  我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。 合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
  論文  参考訳（メタデータ） (2023-02-23T18:57:14Z)
• What Should I Know? Using Meta-gradient Descent for Predictive Feature Discovery in a Single Stream of Experience [63.75363908696257]
  計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。 この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。 本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
  論文  参考訳（メタデータ） (2022-06-13T21:31:06Z)
• Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
  本稿では、因果的観点からの包括的ミニマックス分析について述べる。 最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。 本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
  論文  参考訳（メタデータ） (2021-07-05T09:07:29Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)
• When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making [68.19284302320146]
  我々は,異なるレベルの専門知識を持つ人々が,異なるタイプの予測不確実性にどう反応するかを評価するために,ユーザスタディを実施している。 その結果,後続の予測分布を示すことは,MLモデルの予測との相違点が小さくなることがわかった。 このことは、後続の予測分布は、人間の分布の種類や専門性を考慮し、注意を払って使用するべき有用な決定支援として役立つ可能性があることを示唆している。
  論文  参考訳（メタデータ） (2020-11-12T02:23:53Z)
• Evaluating Model Robustness and Stability to Dataset Shift [7.369475193451259]
  機械学習モデルの安定性を解析するためのフレームワークを提案する。 本手法では,アルゴリズムが性能の悪い分布を決定するために,元の評価データを用いる。 我々は,アルゴリズムの性能を"Worst-case"分布で推定する。
  論文  参考訳（メタデータ） (2020-10-28T17:35:39Z)
• Demand Forecasting of Individual Probability Density Functions with Machine Learning [0.0]
  本研究では,予測分布の精度を評価する新しい手法を提案する。 教師付き機械学習手法であるCyclic Boostingを用いて、各予測が完全に説明可能であるように、完全な個別確率密度関数を予測できる。
  論文  参考訳（メタデータ） (2020-09-15T13:05:05Z)
• Uncertainty estimation for classification and risk prediction on medical tabular data [0.0]
  本研究は,医療データの分類とリスク予測のための不確実性推定の理解を深めるものである。 医療などのデータ共有分野において、モデルの予測の不確実性を測定する能力は、意思決定支援ツールの改善につながる可能性がある。
  論文  参考訳（メタデータ） (2020-04-13T08:46:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。