論文の概要: Diagnosing failures of fairness transfer across distribution shift in
real-world medical settings
- arxiv url: http://arxiv.org/abs/2202.01034v2
- Date: Fri, 10 Feb 2023 15:24:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-19 14:37:59.689412
- Title: Diagnosing failures of fairness transfer across distribution shift in
real-world medical settings
- Title(参考訳): 実世界の医療環境における分布変化による公平性伝達障害の診断
- Authors: Jessica Schrouff and Natalie Harris and Oluwasanmi Koyejo and Ibrahim
Alabdulmohsin and Eva Schnider and Krista Opsahl-Ong and Alex Brown and
Subhrajit Roy and Diana Mincu and Christina Chen and Awa Dieng and Yuan Liu
and Vivek Natarajan and Alan Karthikesalingam and Katherine Heller and Silvia
Chiappa and Alexander D'Amour
- Abstract要約: 分散シフト下でのモデルフェアネスの変化の診断と緩和は、医療環境における機械学習の安全な展開の重要な構成要素である。
この知識は、文献でしばしば想定されるよりも現実のシフトがより複雑である事例を含む、公平性伝達の失敗の診断に有効であることを示す。
- 参考スコア(独自算出の注目度): 60.44405686433434
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diagnosing and mitigating changes in model fairness under distribution shift
is an important component of the safe deployment of machine learning in
healthcare settings. Importantly, the success of any mitigation strategy
strongly depends on the structure of the shift. Despite this, there has been
little discussion of how to empirically assess the structure of a distribution
shift that one is encountering in practice. In this work, we adopt a causal
framing to motivate conditional independence tests as a key tool for
characterizing distribution shifts. Using our approach in two medical
applications, we show that this knowledge can help diagnose failures of
fairness transfer, including cases where real-world shifts are more complex
than is often assumed in the literature. Based on these results, we discuss
potential remedies at each step of the machine learning pipeline.
- Abstract(参考訳): 分散シフトによるモデルフェアネスの変化の診断と緩和は、医療環境における機械学習の安全な展開の重要な構成要素である。
重要なことは、緩和戦略の成功はシフトの構造に強く依存する。
それにもかかわらず、実際に遭遇している分布シフトの構造を実証的に評価する方法についてはほとんど議論されていない。
本研究では,条件付き独立テストの動機付けに因果的フレーミングを適用し,分布シフトを特徴付ける。
本手法を2つの医学的応用に適用することにより,本知識は,文献でよく想定されるよりも現実のシフトが複雑である事例を含む,公平性伝達の失敗の診断に有効であることを示す。
これらの結果に基づいて、機械学習パイプラインの各ステップにおける潜在的な改善について論じる。
関連論文リスト
- Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - Assessing Uncertainty Estimation Methods for 3D Image Segmentation under
Distribution Shifts [0.36832029288386137]
本稿では, 分布シフトしたサンプルを検出するために, 最先端ベイズ法と非ベイズ法を併用する可能性について検討する。
後部分布における一様あるいは多様の局面を捉えるために, 3つの異なる不確実性推定法を比較した。
その結果, 後方分布におけるマルチモーダル特性に対処できる手法により, より信頼性の高い不確実性推定が可能であることが示唆された。
論文 参考訳(メタデータ) (2024-02-10T12:23:08Z) - Foundational Models for Fault Diagnosis of Electrical Motors [0.29494468099506893]
本研究は、電動機の故障診断のための基礎モデルを構築するための枠組みを提案する。
ニューラルネットワークベースのバックボーンを構築して、自己教師付き学習を使用して高度な機能を学習し、特定の目的を達成するためにバックボーンを微調整する。
論文 参考訳(メタデータ) (2023-07-31T17:58:16Z) - Distributionally Adaptive Meta Reinforcement Learning [85.17284589483536]
テスト時間分布シフトの下で適切に振る舞うメタRLアルゴリズムのフレームワークを開発する。
我々の枠組みは、分布のロバスト性に対する適応的なアプローチを中心とし、様々なレベルの分布シフトに対してロバストであるようメタポリスの人口を訓練する。
本研究は, 分散シフト下での後悔を改善するための枠組みを示し, シミュレーションロボティクス問題に対する効果を実証的に示す。
論文 参考訳(メタデータ) (2022-10-06T17:55:09Z) - Transferring Fairness under Distribution Shifts via Fair Consistency
Regularization [15.40257564187799]
本研究では,分散シフトの下でモデルフェアネスを伝達する方法について検討する。
ドメインシフトの下での転送精度の自己学習の成功に触発されて、グループフェアネスの転送に十分な条件が導出される。
論文 参考訳(メタデータ) (2022-06-26T06:19:56Z) - Causal Discovery in Heterogeneous Environments Under the Sparse
Mechanism Shift Hypothesis [7.895866278697778]
機械学習のアプローチは、一般に独立で同一に分散されたデータ(すなわち、d)の仮定に依存する。
実際、この仮定は環境間の分散シフトによってほとんど常に破られる。
そこで我々は,様々な経験的推定器に適用可能なスコアベースアプローチであるメカニズムシフトスコア(MSS)を提案する。
論文 参考訳(メタデータ) (2022-06-04T15:39:30Z) - MS Lesion Segmentation: Revisiting Weighting Mechanisms for Federated
Learning [92.91544082745196]
フェデレートラーニング(FL)は医用画像解析に広く用いられている。
FLのパフォーマンスは、多発性硬化症(MS)病変セグメンテーションタスクに制限される。
2つの効果的な再重み付け機構によるFLMS病変分割フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-03T14:06:03Z) - Learning Under Adversarial and Interventional Shifts [36.183840774167756]
分散シフトの集合に対してロバストなモデルを設計するための新しい定式化 RISe を提案する。
分散的に堅牢な最適化フレームワークを使用して、教師付きおよび強化学習設定の両方で結果の目標を最適化する。
論文 参考訳(メタデータ) (2021-03-29T20:10:51Z) - Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。
具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。
大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
論文 参考訳(メタデータ) (2021-03-07T03:10:32Z) - WILDS: A Benchmark of in-the-Wild Distribution Shifts [157.53410583509924]
分散シフトは、ワイルドにデプロイされた機械学習システムの精度を実質的に低下させることができる。
分散シフトの多様な範囲を反映した8つのベンチマークデータセットのキュレーションコレクションであるWILDSを紹介します。
本研究は, 標準訓練の結果, 分布性能よりも, 分布域外性能が有意に低下することを示す。
論文 参考訳(メタデータ) (2020-12-14T11:14:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。