論文の概要: Privacy Leakage in Federated Learning in Radiology Reports: A Comparative Evaluation of Tokenizer-Driven Privacy Risks

• arxiv url: http://arxiv.org/abs/2607.14205v1
• Date: Wed, 15 Jul 2026 17:57:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:32.872159
• Title: Privacy Leakage in Federated Learning in Radiology Reports: A Comparative Evaluation of Tokenizer-Driven Privacy Risks
• Title（参考訳）: 放射線医学におけるフェデレーション学習におけるプライバシ漏洩 : トケナイザーによるプライバシリスクの比較評価
• Abstract要約: フェデレートラーニング(Federated Learning)は、生データを共有することなく、臨床テキストの多施設的な訓練を可能にする。 放射線学報告におけるこの漏洩の程度とトークン化剤の設計の役割は、いまだに不明である。 FLにおける勾配に基づくテキスト再構成の定量化と,3つのトークン間でのプライバシーリスクの比較を行う。
• 参考スコア（独自算出の注目度）: 0.19690447466610903
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) enables multi-institutional training on clinical text without sharing raw data, but gradient inversion can reconstruct sensitive information from shared model updates. The extent of this leakage for radiology reports, and the role of tokenizer design, remains unclear. We quantify gradient-based text reconstruction in FL and compare privacy risk across three tokenizers with the model architecture held fixed. Six FL clients trained a GPT-2-style transformer (sequence length 32) on public radiology corpora (368,751 diagnostic reports, 98,206 discharge summaries, 1,500 MIMIC-CXR free-text reports) using the GPT-2, RadBERT, and LLaMA-2 tokenizers at batch sizes of 64, 128, and 256. Assuming an active malicious server that modifies the shared architecture before distribution, we applied analytic gradient inversion and measured reconstruction fidelity over five runs. Exact sentence reconstruction ranged from 31% to 44% across tokenizers (30.6-43.5% across the 27 tokenizer x dataset x batch-size cells). At batch size 64 on the Discharge dataset, accuracy was 42.1% (GPT-2), 42.3% (RadBERT), and 39.4% (LLaMA-2), decreasing to 37.3%, 37.2%, and 34.3% at batch size 256. S-BLEU declined as batch size grew (GPT-2: 0.44 to 0.33; RadBERT: 0.48 to 0.35). RadBERT yielded the highest reconstruction fidelity and recovered the most clinical terms (18.1% of a 1,440-term reference vocabulary, vs 12.5% for GPT-2 and 9.4% for LLaMA-2), yet no tokenizer prevented leakage. Substantial portions of report text are therefore recoverable from FL gradients even at larger batch sizes and with domain-specific tokenizers. Tokenizer design influences leakage severity and is a privacy-relevant decision, not only a utility one; safeguards such as secure aggregation and differential privacy are likely necessary to meet HIPAA and GDPR requirements for FL in radiology NLP.
• Abstract（参考訳）: フェデレートラーニング(FL)は、生データを共有せずに臨床テキストを多施設で訓練することができるが、勾配インバージョンは、共有モデル更新から機密情報を再構築することができる。 放射線学報告におけるこの漏洩の程度とトークン化剤の設計の役割は、いまだに不明である。 FLの勾配に基づくテキスト再構成を定量化し、3つのトークン化器間でのプライバシーリスクと固定されたモデルアーキテクチャを比較した。 6つのFLクライアントは、GPT-2、RadBERT、LLaMA-2トークンを64、128、256のバッチサイズでGPT-2スタイルのトランスフォーマー(シーケンス長32)を訓練した(368,751の診断報告、98,206の放電サマリー、1500のMIMIC-CXR自由テキストレポート)。 分散前に共有アーキテクチャを変更する能動的悪意のあるサーバを仮定し,解析的勾配インバージョンを適用し,5回の実行で再現率を測定した。 厳密な文の再構成は、トークン化剤で31%から44%まで(27のトークン化剤で30.6-43.5%、データセットでxのバッチサイズセルで30.6-43.5%)。 出力データセットのバッチサイズ64では、精度は42.1%(GPT-2)、42.3%(RadBERT)、39.4%(LLaMA-2)となり、バッチサイズ256では37.3%、37.2%、34.3%に低下した。 S-BLEUはバッチサイズが大きくなるにつれて減少した(GPT-2: 0.44 to 0.33、RadBERT: 0.48 to 0.35)。 RadBERTは最も高い再現率を示し、最も臨床的な用語(18.1%は1,440期の参照語彙、12.5%はGPT-2、9.4%はLLaMA-2)を回復した。 したがって、レポートテキストの実質的な部分は、より大きなバッチサイズやドメイン固有のトークン化子でもFL勾配から回復可能である。 トケナイザーの設計は漏洩の重大さに影響を与え、実用性だけでなくプライバシーに関する決定であり、放射線学におけるFLのHIPAAおよびGDPR要件を満たすためには、安全なアグリゲーションや差分プライバシーなどの保護が必要である。

関連論文リスト

• Parameter-Efficient pretrained-CT-to-MRI Transfer for Rectal Cancer Segmentation: Performance-Calibration Trade-offs [3.0748861313822995]
  直腸癌における術前パラメータ-eFモデルであるSWIFTと腫瘍認識微細チューニングについて紹介する。 10,444個の3次元CTボリュームで事前訓練したSwin V2エンコーダを4つの累積構成によりT2強調MRIに適用した。 計測精度, 腫瘍検出, 放射線学的一致, 確率校正について検討した。
  論文  参考訳（メタデータ） (2026-08-27T14:27:49Z)
• Passing Coarse Marginal Checks Can Be Cheap: Persona Mixtures and Imprecise Treatment-Response Estimates in an LLM Persona Panel [0.0]
  戦略ゲームにおける16個の軽量人格条件付きGPT-4.1構成の固定パネルについて検討した。 変化は急激なインデクシングであったが、そのシェアは不確実性の仮定に依存していた。 結果は、1つの固定されたモデル・プロンプトパネルに関係し、人間の置換性を確立しない。
  論文  参考訳（メタデータ） (2026-08-02T04:10:11Z)
• Scaffold splits hide structural-frontier failures in ADMET models [25.408600489964726]
  我々は,最も広く,最も物理化学的に遠隔的な足場群を予約するラベルフリーな構造フロンティアスプリットを導入する。 ADMETタスクを6つの公開実験またはキュレートしたADMETタスクで評価した。
  論文  参考訳（メタデータ） (2026-07-12T12:25:50Z)
• Decomposing Memorization Reduction in Privacy-Preserving Fine-Tuning of SLMs for CSIRTs [0.0]
  構造化CSIRTデータ上で1Bから3Bパラメータの小さな言語モデルを微調整する際に,DP SGDとHMACの擬似化がどのように作用するかを示す。 96個のLORAアダプタを4つのSLMと4つのトレーニング体制で評価した。その中には、生微調整、大規模バッチトレーニング付きQLoRA、エプシロン2と8のDP SGDが含まれる。
  論文  参考訳（メタデータ） (2026-06-26T17:35:17Z)
• When Calibration Fails the Vulnerable Hospital: Federated Conformal Risk Control via Risk-Curve Shrinkage [0.0]
  コンフォーマルリスク制御(CRC)は、セグメンテーション品質の分布自由保証を提供する。 フェデレートされたデプロイメントでは、標準的なアプローチは、サイト間でキャリブレーションスコアを単一のしきい値にプールする。 この単純プール型CRCは平均的な病院を保護しているが、個々の施設の40%はカバー範囲に違反している。
  論文  参考訳（メタデータ） (2026-06-18T11:39:44Z)
• GlobalDentBench: A Multinational Benchmark for Evaluating LLM Clinical Reasoning in Dentistry with Expert Calibration [35.3851755931076]
  大規模言語モデル(LLMs)は医学の変革的な可能性を持っているが、実際の臨床シナリオにおけるそれらの推論の堅牢性や安全性は、特に歯科医学において非常に過小評価されている。 ここでは、88か国と6大陸にまたがる14の歯科専門分野を含む分類を特徴とする、最初の多国籍歯科用ベンチマークであるGlobalDentBenchを紹介する。 ベンチマークは3つのフォーマット(複数選択、短い回答、ケースベースの質問)にまたがる8,978のエキスパート検証された質問で構成され、3つのプログレッシブな推論レベルを評価する。
  論文  参考訳（メタデータ） (2026-05-23T15:53:44Z)
• The Autocorrelation Blind Spot: Why 42% of Turn-Level Findings in LLM Conversation Analysis May Be Spurious [35.76482964927589]
  202のマルチターン会話における66のターンレベルメトリクスの自己相関構造を特徴付ける。 標準プールテストでは,42%のアソシエーションがクラスタ・ロバスト補正に成功しなかった。 我々は、Chelton (1983) の有効自由度と会話レベルのブロックブートストラップを組み合わせた2段階補正フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-15T20:54:39Z)
• Activation Outliers in Transformer Quantization: Reproduction, Statistical Analysis, and Deployment Tradeoffs [0.0]
  変圧器のポストトレーニング量子化(PTQ)は、構造化されたアクティベーションアウトリアによる精度の低下に悩まされていることが知られている。 本稿では,QNLIで微調整されたBERTベースにおける再現可能な経験的再現と,その現象のシステムレベルの拡張について述べる。
  論文  参考訳（メタデータ） (2026-03-04T17:26:29Z)
• Residual Stream Analysis of Overfitting And Structural Disruptions [26.444437808784482]
  安全データは一般的な命令データに比べてトークンエントロピーと2グラムの多様性が著しく低いことを示す。 根本原因を明らかにするために,PCAをベースとした安定な形状解析ツールであるFlowLensを紹介する。 中層残留物における過剰な分散濃度をペナル化する補助正則化器である可変濃度損失を提案する。
  論文  参考訳（メタデータ） (2026-03-04T11:13:58Z)
• PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology [48.732366302949515]
  大規模言語モデル(LLM)は、標準化された検査において専門家レベルの性能を達成したが、複数の選択精度は現実の臨床的有用性や安全性を十分に反映していない。 我々は、未確認患者の質問に対して、専門家のルーブリックを作成するための、ループ内人間パイプラインを開発した。 LLM-as-a-judge フレームワークを用いて,22のプロプライエタリおよびオープンソース LLM の評価を行い,臨床完全性,事実精度,Web-search 統合について検討した。
  論文  参考訳（メタデータ） (2026-03-02T00:50:39Z)
• Fact or Facsimile? Evaluating the Factual Robustness of Modern Retrievers [34.31192184496381]
  デンスレトリバーとリランカーは、検索強化世代(RAG)パイプラインの中心である。 我々は,これらのコンポーネントがベースとする大規模言語モデル(LLM)をどの程度の事実的能力で継承するか,あるいは失うかを評価する。 全ての埋め込みモデルにおいて、クエリと正しい完了の間のコサイン類似度スコアは、間違ったものよりも著しく高い。
  論文  参考訳（メタデータ） (2025-08-28T04:13:51Z)
• LLMCARE: early detection of cognitive impairment via transformer models enhanced by LLM-generated synthetic data [32.69241041313969]
  アルツハイマー病と関連する認知症は、米国で500万人近い高齢者に影響を及ぼす。 本研究は,トランスフォーマー埋め込みと手作り言語的特徴を融合した音声ベースのスクリーニングパイプラインを開発し,評価する。
  論文  参考訳（メタデータ） (2025-08-08T13:44:55Z)
• Agent-Based Uncertainty Awareness Improves Automated Radiology Report Labeling with an Open-Source Large Language Model [1.7064514726335305]
  クローン病患者のヘブライ語9,683例について検討した。 我々は不確実性を認識したプロンプトアンサンブルとエージェントに基づく決定モデルを導入した。
  論文  参考訳（メタデータ） (2025-02-02T16:57:03Z)
• Qilin-Med: Multi-stage Knowledge Injection Advanced Medical Large Language Model [41.11769935795965]
  本稿では,ドメイン固有型連続事前学習(DCPT),スーパーバイザードファインチューニング(SFT),直接選好最適化(DPO)を組み合わせた多段階学習手法を提案する。 CPTとSFTの段階では、Qilin-MedはCMExamテストセットでそれぞれ38.4%と40.0%の精度を達成した。 DPOフェーズでは、BLEU-1で16.66点、Huatuo-26MテストセットでROUGE-1で27.44点を記録し、SFTフェーズ(BLEU-1で12.69点、ROUGE-1で24.21点)をさらに改善した。
  論文  参考訳（メタデータ） (2023-10-13T13:17:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。