論文の概要: Outcome Indistinguishability

• arxiv url: http://arxiv.org/abs/2011.13426v1
• Date: Thu, 26 Nov 2020 18:33:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-20 12:42:35.346042
• Title: Outcome Indistinguishability
• Title（参考訳）: 結果の不一致
• Authors: Cynthia Dwork and Michael P. Kim and Omer Reingold and Guy N. Rothblum and Gal Yona
• Abstract要約: 結果の不識別性は従来研究されていた不識別性の概念と定性的に異なる挙動を示す。 この結果は、アルゴリズムのリスク予測機器を検査する際、監査人はアルゴリズムにアクセスできなければならないという政治的議論に対する最初の科学的根拠を与える。
• 参考スコア（独自算出の注目度）: 24.929576812496396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prediction algorithms assign numbers to individuals that are popularly understood as individual "probabilities" -- what is the probability of 5-year survival after cancer diagnosis? -- and which increasingly form the basis for life-altering decisions. Drawing on an understanding of computational indistinguishability developed in complexity theory and cryptography, we introduce Outcome Indistinguishability. Predictors that are Outcome Indistinguishable yield a generative model for outcomes that cannot be efficiently refuted on the basis of the real-life observations produced by Nature. We investigate a hierarchy of Outcome Indistinguishability definitions, whose stringency increases with the degree to which distinguishers may access the predictor in question. Our findings reveal that Outcome Indistinguishability behaves qualitatively differently than previously studied notions of indistinguishability. First, we provide constructions at all levels of the hierarchy. Then, leveraging recently-developed machinery for proving average-case fine-grained hardness, we obtain lower bounds on the complexity of the more stringent forms of Outcome Indistinguishability. This hardness result provides the first scientific grounds for the political argument that, when inspecting algorithmic risk prediction instruments, auditors should be granted oracle access to the algorithm, not simply historical predictions.
• Abstract（参考訳）: 予測アルゴリズムは、一般に「確率」と理解されている個人に数字を割り当てる。がん診断後の5年間の生存確率は? そしてそれが、人生を変える決定の基礎となるのです。 複雑性理論と暗号学で発達した計算不一致性の理解に基づいて,アウトカム不一致性を紹介する。 結果が区別できない予測者は、自然が生み出した実生活観察に基づいて効率的に反論できない結果の生成モデルを得る。 結果識別不能定義の階層について検討し,その厳密性は,識別者が対象の予測者にアクセス可能な程度で向上する。 その結果,アウトカム不識別性は従来研究されていた不識別性の概念と定性的に異なる挙動を示した。 まず、階層のあらゆるレベルで構成を提供します。 そして,最近開発された機械を平均的な細粒度硬さの証明に利用し,より厳密な結果の区別不能性の複雑さを低く評価した。 この難易度の結果は、アルゴリズムのリスク予測機器を検査する際、監査人は単なる歴史的予測ではなく、アルゴリズムへのオラクルアクセスを与えられるべきであるという政治的議論の最初の科学的根拠を提供する。

関連論文リスト

• Identifiability Guarantees for Causal Disentanglement from Purely Observational Data [10.482728002416348]
  因果解離は、データの背後にある潜在因果関係について学ぶことを目的としている。 近年の進歩は、(単一の)潜伏因子への介入が可能であると仮定して、識別可能性(identifiability)が確立されている。 非線形因果モデルで同定できる潜伏因子の高精度な評価法を提案する。
  論文  参考訳（メタデータ） (2024-10-31T04:18:29Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• Identification of Causal Structure in the Presence of Missing Data with Additive Noise Model [24.755511829867398]
  近年の付加雑音モデルでは,自己マスキングの欠如の存在下で因果構造を学習する可能性が示唆された。 本稿では, 以上の理論結果に基づいて, 因果骨格と因果方向を学習する実用的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-19T14:44:26Z)
• A Versatile Causal Discovery Framework to Allow Causally-Related Hidden Variables [28.51579090194802]
  因果ネットワークの至る所で、因果関係の隠れ変数の存在を許容する因果発見のための新しい枠組みを提案する。 ランクに基づく潜在因果探索アルゴリズム(RLCD)を開発し、隠れ変数を効率よく探索し、その濃度を判定し、測定値と隠れ変数の両方に対して因果構造全体を発見する。 合成・実世界のパーソナリティデータセットを用いた実験結果から,有限サンプルケースにおける提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-12-18T07:57:39Z)
• Predictive Coding beyond Correlations [59.47245250412873]
  このようなアルゴリズムのうちの1つは、予測符号化と呼ばれ、因果推論タスクを実行することができるかを示す。 まず、予測符号化の推論過程における簡単な変化が、因果グラフを再利用したり再定義したりすることなく、介入を計算できることを示す。
  論文  参考訳（メタデータ） (2023-06-27T13:57:16Z)
• Probabilistic computation and uncertainty quantification with emerging covariance [11.79594512851008]
  堅牢で解釈可能なセキュアなAIシステムを構築するには、確率論的視点の下で不確実性を定量化し、表現する必要がある。 確率計算は、ほとんどの従来の人工ニューラルネットワークにとって重要な課題である。
  論文  参考訳（メタデータ） (2023-05-30T17:55:29Z)
• On Second-Order Scoring Rules for Epistemic Uncertainty Quantification [8.298716599039501]
  本研究では,2次学習者が不確実性を忠実に表現する動機となる損失関数が存在しないことを示す。 この結果を証明するための主要な数学的ツールとして,2次スコアリングルールの一般化概念を導入する。
  論文  参考訳（メタデータ） (2023-01-30T08:59:45Z)
• Bounding Counterfactuals under Selection Bias [60.55840896782637]
  本稿では,識別不能なクエリと識別不能なクエリの両方に対処するアルゴリズムを提案する。 選択バイアスによって引き起こされる欠如にもかかわらず、利用可能なデータの可能性は無限であることを示す。
  論文  参考訳（メタデータ） (2022-07-26T10:33:10Z)
• Neuro-Symbolic Entropy Regularization [78.16196949641079]
  構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。 エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。 我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-25T06:23:10Z)
• Robustification of Online Graph Exploration Methods [59.50307752165016]
  我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。 本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-12-10T10:02:31Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。