論文の概要: Curating Naturally Adversarial Datasets for Trustworthy AI in Healthcare

• arxiv url: http://arxiv.org/abs/2309.00543v1
• Date: Fri, 1 Sep 2023 15:52:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-04 13:01:02.503770
• Title: Curating Naturally Adversarial Datasets for Trustworthy AI in Healthcare
• Title（参考訳）: 医療における信頼に値するAIのための自然な敵対的データセットの算出
• Authors: Sydney Pugh, Ivan Ruchkin, Insup Lee, James Weimer
• Abstract要約: 既存の研究は、入力データに知覚不能な摂動を加えて作られた合成敵の例に対する堅牢性に焦点を当てている。 本研究では, モデルロバスト性を評価するために, 自然な逆例からなるデータセットをキュレートする手法を提案する。
• 参考スコア（独自算出の注目度）: 5.349773727704873
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep learning models have shown promising predictive accuracy for time-series healthcare applications. However, ensuring the robustness of these models is vital for building trustworthy AI systems. Existing research predominantly focuses on robustness to synthetic adversarial examples, crafted by adding imperceptible perturbations to clean input data. However, these synthetic adversarial examples do not accurately reflect the most challenging real-world scenarios, especially in the context of healthcare data. Consequently, robustness to synthetic adversarial examples may not necessarily translate to robustness against naturally occurring adversarial examples, which is highly desirable for trustworthy AI. We propose a method to curate datasets comprised of natural adversarial examples to evaluate model robustness. The method relies on probabilistic labels obtained from automated weakly-supervised labeling that combines noisy and cheap-to-obtain labeling heuristics. Based on these labels, our method adversarially orders the input data and uses this ordering to construct a sequence of increasingly adversarial datasets. Our evaluation on six medical case studies and three non-medical case studies demonstrates the efficacy and statistical validity of our approach to generating naturally adversarial datasets
• Abstract（参考訳）: ディープラーニングモデルは、時系列医療アプリケーションに対して有望な予測精度を示している。 しかし、これらのモデルの堅牢性を保証することは、信頼できるAIシステムを構築する上で不可欠である。 既存の研究は主に、入力データに知覚不能な摂動を加えることによって作られた合成敵の例に対する堅牢性に焦点を当てている。 しかし、これらの合成敵対例は、特に医療データの文脈において、最も困難な現実のシナリオを正確に反映していない。 したがって、合成敵例に対するロバスト性は、必ずしも自然に生じる敵例に対するロバスト性に変換されるとは限らない。 本稿では,モデルロバスト性を評価するために,自然敵例からなるデータセットをキュレートする手法を提案する。 この手法は、ノイズと安価で観察可能なラベルヒューリスティックを組み合わせた、自動化された弱教師付きラベルから得られる確率的ラベルに依存する。 これらのラベルに基づいて、本手法は入力データを逆順に順序付けし、この順序付けを用いて、ますます敵対的なデータセットのシーケンスを構築する。 6例の症例と3例の非医学的ケーススタディについての評価を行い,本手法の有効性と統計的妥当性を実証した。

関連論文リスト

• Synthetic Simplicity: Unveiling Bias in Medical Data Augmentation [0.7499722271664144]
  医用画像などのデータ共有分野において、合成データがますます重要になっている。 下流のニューラルネットワークは、しばしば、データソースとタスクラベルの間に強い相関があるときに、実データと合成データの急激な区別を利用する。 このエクスプロイトは、真のタスク関連の複雑さではなく、表面的な特徴に過度に依存する、テクスティシビティ単純性バイアスとして現れます。
  論文  参考訳（メタデータ） (2024-07-31T15:14:17Z)
• Reliability in Semantic Segmentation: Can We Use Synthetic Data? [69.28268603137546]
  セマンティックセグメンテーションモデルの現実的信頼性を総合的に評価するために、合成データを具体的に生成する方法を初めて示す。 この合成データは、事前訓練されたセグメンタの堅牢性を評価するために使用される。 セグメンタのキャリブレーションとOOD検出能力を向上するために,我々のアプローチをどのように活用できるかを実証する。
  論文  参考訳（メタデータ） (2023-12-14T18:56:07Z)
• The Real Deal Behind the Artificial Appeal: Inferential Utility of Tabular Synthetic Data [40.165159490379146]
  評価値が不偏であっても, 偽陽性の発見率(タイプ1の誤り)は不可避的に高いことが示唆された。 以前提案された補正係数が使用されているにもかかわらず、この問題は深層生成モデルに対して持続する。
  論文  参考訳（メタデータ） (2023-12-13T02:04:41Z)
• A Discrepancy Aware Framework for Robust Anomaly Detection [51.710249807397695]
  本稿では,DAF(Disdisrepancy Aware Framework)を提案する。 本手法は,デコーダの欠陥同定に外見に依存しないキューを利用して,その合成外観への依存を緩和する。 単純な合成戦略の下では,既存の手法を大きなマージンで上回り,また,最先端のローカライゼーション性能も達成している。
  論文  参考訳（メタデータ） (2023-10-11T15:21:40Z)
• On the Robustness of Aspect-based Sentiment Analysis: Rethinking Model, Data, and Training [109.9218185711916]
  アスペクトベースの感情分析(ABSA)は、ソーシャルメディアのテキストやレビューの背後にある製品やサービスの特定の側面に対して、特定の感情の極性を自動的に推測することを目的としている。 我々は、モデル、データ、トレーニングを含むあらゆる可能な角度からボトルネックを体系的に再考することで、ABSAの堅牢性を高めることを提案する。
  論文  参考訳（メタデータ） (2023-04-19T11:07:43Z)
• Synthetic Data in Healthcare [10.555189948915492]
  本稿では,データ作成のための物理・統計シミュレーションの事例と医療・医療への応用について述べる。 人工物は、プライバシ、エクイティ、安全性、継続的な、因果学習を促進することができるが、欠陥や盲点を導入し、バイアスを伝播または誇張するリスクも負う。
  論文  参考訳（メタデータ） (2023-04-06T17:23:39Z)
• Data AUDIT: Identifying Attribute Utility- and Detectability-Induced Bias in Task Models [8.420252576694583]
  医用画像データセットの厳密で定量的なスクリーニングのための第1の手法を提案する。 提案手法は,データセット属性に関連するリスクを,検出性と実用性の観点から分解する。 本手法を用いて, ほぼ知覚不能なバイアス誘発アーティファクトを確実に同定するスクリーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-04-06T16:50:15Z)
• Investigating Bias with a Synthetic Data Generator: Empirical Evidence and Philosophical Interpretation [66.64736150040093]
  機械学習の応用は、私たちの社会でますます広まりつつある。 リスクは、データに埋め込まれたバイアスを体系的に広めることである。 本稿では,特定の種類のバイアスとその組み合わせで合成データを生成するフレームワークを導入することにより,バイアスを分析することを提案する。
  論文  参考訳（メタデータ） (2022-09-13T11:18:50Z)
• BeCAPTCHA-Type: Biometric Keystroke Data Generation for Improved Bot Detection [63.447493500066045]
  本研究では,キーストローク生体データ合成のためのデータ駆動学習モデルを提案する。 提案手法は,ユニバーサルモデルとユーザ依存モデルに基づく2つの統計的手法と比較する。 実験フレームワークでは16万件の被験者から1億3600万件のキーストロークイベントのデータセットについて検討している。
  論文  参考訳（メタデータ） (2022-07-27T09:26:15Z)
• Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
  既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。 本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。 ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-13T08:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。