論文の概要: Federated learning, ethics, and the double black box problem in medical AI

• arxiv url: http://arxiv.org/abs/2504.20656v1
• Date: Tue, 29 Apr 2025 11:31:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:54.869396
• Title: Federated learning, ethics, and the double black box problem in medical AI
• Title（参考訳）: 医療AIにおけるフェデレーション学習・倫理・二重ブラックボックス問題
• Authors: Joshua Hatherley, Anders Søgaard, Angela Ballantyne, Ruben Pauwels,
• Abstract要約: Federated Learning(FL)は、複数のデバイスや組織が、ローカルデータをサードパーティと共有することなく、協調的にモデルをトレーニングできる機械学習アプローチである。 医療用FLは、新しい種類の不透明性、フェデレーション不透明性、すなわち、医療AIにおいて特有の二重ブラックボックス問題を生み出している、と私たちは主張する。
• 参考スコア（独自算出の注目度）: 38.783801860620514
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) is a machine learning approach that allows multiple devices or institutions to collaboratively train a model without sharing their local data with a third-party. FL is considered a promising way to address patient privacy concerns in medical artificial intelligence. The ethical risks of medical FL systems themselves, however, have thus far been underexamined. This paper aims to address this gap. We argue that medical FL presents a new variety of opacity -- federation opacity -- that, in turn, generates a distinctive double black box problem in healthcare AI. We highlight several instances in which the anticipated benefits of medical FL may be exaggerated, and conclude by highlighting key challenges that must be overcome to make FL ethically feasible in medicine.
• Abstract（参考訳）: Federated Learning(FL)は、複数のデバイスや組織が、ローカルデータをサードパーティと共有することなく、協調的にモデルをトレーニングできる機械学習アプローチである。 FLは、医療人工知能における患者のプライバシー問題に対処するための有望な方法と考えられている。 しかし、医療用FLシステム自体の倫理的リスクは、これまで過小評価されてきた。 本稿は、このギャップに対処することを目的としている。 医療用FLは、新しい種類の不透明性、フェデレーション不透明性、すなわち、医療AIにおいて特有の二重ブラックボックス問題を生み出している、と私たちは主張する。 医学的FLの利点が誇張される可能性のあるいくつかの事例を強調し、医療においてFLを倫理的に実現可能にするためには克服すべき重要な課題を強調した。

関連論文リスト

• Future-Proofing Medical Imaging with Privacy-Preserving Federated Learning and Uncertainty Quantification: A Review [14.88874727211064]
  AIはすぐに、病気の診断、予後、治療計画、治療後の監視のための臨床実践のルーチンになるかもしれない。 患者のデータを取り巻くプライバシー上の懸念は、医療画像にAIが広く採用される上で大きな障壁となる。 Federated Learning(FL)は、機密データを共有することなく、AIモデルを協調的にトレーニングするためのソリューションを提供する。
  論文  参考訳（メタデータ） (2024-09-24T16:55:32Z)
• FedMedICL: Towards Holistic Evaluation of Distribution Shifts in Federated Medical Imaging [68.6715007665896]
  FedMedICLは統合されたフレームワークであり、フェデレートされた医療画像の課題を全体評価するためのベンチマークである。 6種類の医用画像データセットについて,いくつかの一般的な手法を総合的に評価した。 単純なバッチ分散手法はFedMedICL実験全体の平均性能において,高度な手法を超越していることがわかった。
  論文  参考訳（メタデータ） (2024-07-11T19:12:23Z)
• Federated Learning in Healthcare: Model Misconducts, Security, Challenges, Applications, and Future Research Directions -- A Systematic Review [2.710010611878837]
  フェデレートラーニング(FL)は、複数の医療機関が共有することなく、分散データから共同で学ぶことを可能にする。 FLの医療分野は、疾患予測、治療のカスタマイズ、臨床試験研究などの分野をカバーしている。 FLの実装は、非IIDデータ環境におけるモデル収束、通信オーバーヘッド、複数機関の協調管理など、課題を提起する。
  論文  参考訳（メタデータ） (2024-05-22T16:59:50Z)
• Med-Flamingo: a Multimodal Medical Few-shot Learner [58.85676013818811]
  医療領域に適応したマルチモーダル・数ショット学習者であるMed-Flamingoを提案する。 OpenFlamingo-9Bに基づいて、出版物や教科書からの医療画像テキストデータのペア化とインターリーブ化を継続する。 本研究は,医療用VQA(ジェネレーティブ医療用VQA)の最初の人間評価である。
  論文  参考訳（メタデータ） (2023-07-27T20:36:02Z)
• Federated Learning with Privacy-Preserving Ensemble Attention Distillation [63.39442596910485]
  Federated Learning(FL)は、多くのローカルノードがトレーニングデータを分散化しながら、中央モデルを協調的にトレーニングする機械学習パラダイムである。 本稿では,未ラベル公開データを利用した一方向オフライン知識蒸留のためのプライバシー保護FLフレームワークを提案する。 我々の技術は、既存のFLアプローチのような分散的で異質なローカルデータを使用するが、より重要なのは、プライバシー漏洩のリスクを著しく低減することです。
  論文  参考訳（メタデータ） (2022-10-16T06:44:46Z)
• Federated Learning for Medical Applications: A Taxonomy, Current Trends, Challenges, and Future Research Directions [9.662980267339375]
  我々は, acFLの医学的応用, 特にグローバル癌診断の文脈に焦点をあてる。 acFLの最近の発展により、複雑な機械学習モデルを分散的に訓練することが可能になった。
  論文  参考訳（メタデータ） (2022-08-05T21:41:15Z)
• Federated Learning: Applications, Challenges and Future Scopes [1.3190581566723918]
  フェデレーション・ラーニング(Federated Learning, FL)とは、複数のクライアントが機械学習の問題を解決するために、中心的なアグリゲータが協調するシステムである。 FLは無線通信、サービスレコメンデーション、インテリジェント医療診断システム、医療に応用されている。
  論文  参考訳（メタデータ） (2022-05-18T10:47:09Z)
• Federated Learning for Privacy Preservation in Smart Healthcare Systems: A Comprehensive Survey [6.824747267214373]
  プライバシー保護のためのIoMTネットワークにおけるFLの役割について述べる。 本稿では、プライバシーの脅威を検出するために、深層強化学習(DRL)、デジタルツイン、GAN(Generative Adversarial Network)を取り入れた高度なFLアーキテクチャを紹介する。
  論文  参考訳（メタデータ） (2022-03-18T02:32:05Z)
• Federated Learning for Smart Healthcare: A Survey [39.68559637397757]
  新たな分散コラボレーティブAIパラダイムとしてのフェデレートラーニング(FL)は、スマートヘルスケアにとって特に魅力的なものだ。 スマートヘルスケアにおけるFLの最近の進歩、モチベーション、FLの使用要件について述べる。 本稿では、保健データ管理、リモートヘルスモニタリング、医療画像、COVID-19検出など、主要な医療分野におけるFLの新たな応用についてレビューする。
  論文  参考訳（メタデータ） (2021-11-16T23:34:22Z)
• Federated Semi-supervised Medical Image Classification via Inter-client Relation Matching [58.26619456972598]
  フェデレートラーニング(FL)は、ディープ・ネットワークのトレーニングのために、分散医療機関とのコラボレーションで人気が高まっている。 本報告では,実践的かつ困難なFL問題であるtextitFederated Semi-supervised Learning (FSSL)について検討する。 本稿では, 従来の整合性正規化機構を改良し, クライアント間関係マッチング方式を提案する。
  論文  参考訳（メタデータ） (2021-06-16T07:58:00Z)
• Inverse Distance Aggregation for Federated Learning with Non-IID Data [48.48922416867067]
  近年,フェデレートラーニング(FL)は医用画像の分野で有望なアプローチである。 FLにおける重要な問題は、特に医療シナリオにおいて、ノイズの多い分散クライアントやアウトオブディストリビューションクライアントに対して堅牢な、より正確な共有モデルを持つことである。 非平衡データと非IDデータを扱うメタ情報に基づく新しい適応重み付け手法であるIDAを提案する。
  論文  参考訳（メタデータ） (2020-08-17T23:20:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。