論文の概要: The Privacy-Hallucination Tradeoff in Differentially Private Language Models

• arxiv url: http://arxiv.org/abs/2609.00492v1
• Date: Mon, 31 Aug 2026 23:39:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.166241
• Title: The Privacy-Hallucination Tradeoff in Differentially Private Language Models
• Title（参考訳）: 異なる私的言語モデルにおけるプライバシ・ハロシン化のトレードオフ
• Abstract要約: 差分プライベート(DP)言語モデルにおけるプライバシ・ハロシン化のトレードオフについて検討する。 DPで事前訓練されたり、微調整されたりすると、非DPに比べて幻覚がより多く生じる傾向が示されている。
• 参考スコア（独自算出の注目度）: 19.291584742880953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Both privacy and factual accuracy are paramount in high-stakes domains like healthcare. Concerningly, we uncover and investigate a privacy-hallucination tradeoff in differentially private (DP) language models. First, we empirically show that models pre-trained or fine-tuned with DP tend to produce more hallucinations than non-DP counterparts, with increased severity as the privacy budget grows stricter. Second, we investigate model properties driving this tradeoff, demonstrating that DP mechanisms flatten output distributions, potentially redistributing probability mass toward factually incorrect alternatives. Third, through experiments where we control fact frequency in training data, we characterize how information frequency can reduce hallucination risks in DP models. Overall, our findings underscore the need for more nuanced privacy-preserving interventions that offer rigorous privacy guarantees without compromising factual accuracy.
• Abstract（参考訳）: プライバシーと事実の正確性は、医療のような高度な領域で最重要である。 本稿では,DP言語モデルにおけるプライバシ・ハロシン化のトレードオフを明らかにし,検討する。 まず、DPで事前訓練されたモデルや微調整されたモデルは、非DPのモデルよりも幻覚を引き起こす傾向があり、プライバシー予算が厳格化するにつれて重大さが増すことを実証的に示す。 第2に、このトレードオフを駆動するモデル特性について検討し、DP機構が出力分布をフラットにし、確率質量を再分配する可能性を実証する。 第3に、トレーニングデータの事実頻度を制御する実験を通して、情報周波数がDPモデルにおける幻覚リスクを減らせるかを特徴付ける。 われわれの調査結果は、事実の正確性を損なうことなく、厳格なプライバシー保証を提供する、よりきめ細やかなプライバシー保護介入の必要性を浮き彫りにした。

関連論文リスト

• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• Machine Learning with Privacy for Protected Attributes [56.44253915927481]
  差分プライバシー(DP)の定義を洗練し、機能差分プライバシー(FDP)と呼ばれるより汎用的で柔軟なフレームワークを作成する。 私たちの定義はシミュレーションに基づいており、プライバシの追加/削除と置き換えの両方が可能で、保護された機能と非保護された機能の任意の分離を処理できます。 各種機械学習タスクにフレームワークを適用し,パブリック機能が利用可能であればDP学習モデルの実用性を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-06-24T17:53:28Z)
• Differential privacy enables fair and accurate AI-based analysis of speech disorders while protecting patient data [10.6135892856374]
  本研究は,病的音声データにおける差分プライバシーを初めて研究したものである。 プライバシ、診断精度、公正性のトレードオフに焦点を当てている。 以上の結果から,DPは音声障害検出におけるプライバシーと利便性のバランスがとれることが明らかとなった。
  論文  参考訳（メタデータ） (2024-09-27T18:25:54Z)
• De-amplifying Bias from Differential Privacy in Language Model Fine-tuning [10.847913815093179]
  公正性とプライバシは、機械学習(ML)実践者がしばしばモデルで運用しようとする2つの重要な価値である。 大規模言語モデルを微調整した場合,DPは性別,人種,宗教的偏見を増幅することを示す。 本稿では, バイアスに対処する方法として, DPによるバイアス増幅の軽減が知られている。
  論文  参考訳（メタデータ） (2024-02-07T00:30:58Z)
• Privacy Constrained Fairness Estimation for Decision Trees [2.9906966931843093]
  任意のAIモデルの公平さを測定するには、データセット内の個人の敏感な属性が必要である。 プライバシ・アウェア・フェアネス・オブ・ルール(PAFER)と呼ばれる新しい手法を提案する。 提案手法は,ラプラシアン機構を用いて,データセット内の個人のプライバシーを高い確度で保証しつつ,低い誤差でSPを推定できることを示す。
  論文  参考訳（メタデータ） (2023-12-13T14:54:48Z)
• Unlocking Accuracy and Fairness in Differentially Private Image Classification [43.53494043189235]
  差別化プライバシ(DP)は、プライバシ保護トレーニングのための金の標準フレームワークと考えられている。 DPを微調整した事前学習基礎モデルでは,非私的分類器と同様の精度が得られることを示す。
  論文  参考訳（メタデータ） (2023-08-21T17:42:33Z)
• Private, fair and accurate: Training large-scale, privacy-preserving AI models in medical imaging [47.99192239793597]
  我々は,AIモデルのプライバシ保護トレーニングが,非プライベートトレーニングと比較して精度と公平性に与える影響を評価した。 我々の研究は、実際の臨床データセットの困難な現実的な状況下では、診断深層学習モデルのプライバシー保護トレーニングは、優れた診断精度と公正さで可能であることを示しています。
  論文  参考訳（メタデータ） (2023-02-03T09:49:13Z)
• DP2-Pub: Differentially Private High-Dimensional Data Publication with Invariant Post Randomization [58.155151571362914]
  本稿では,2つのフェーズで動作する差分プライベートな高次元データパブリッシング機構(DP2-Pub)を提案する。 属性をクラスタ内凝集度の高い低次元クラスタに分割し、クラスタ間の結合度を低くすることで、適切なプライバシ予算を得ることができる。 また、DP2-Pubメカニズムを、ローカルの差分プライバシーを満たす半正直なサーバでシナリオに拡張します。
  論文  参考訳（メタデータ） (2022-08-24T17:52:43Z)
• Just Fine-tune Twice: Selective Differential Privacy for Large Language Models [69.66654761324702]
  本稿では,大規模なトランスフォーマーベース言語モデルのためのSDPを実現するための,シンプルで効果的なジャストファイントゥンツースプライバシ機構を提案する。 実験により, カナリア挿入攻撃に対して頑健でありながら, 高い性能が得られた。
  論文  参考訳（メタデータ） (2022-04-15T22:36:55Z)
• Don't Generate Me: Training Differentially Private Generative Models with Sinkhorn Divergence [73.14373832423156]
  そこで我々はDP-Sinkhornを提案する。DP-Sinkhornは個人データからデータ分布を差分プライバシで学習するための新しいトランスポートベース生成手法である。 差分的にプライベートな生成モデルを訓練するための既存のアプローチとは異なり、我々は敵の目的に頼らない。
  論文  参考訳（メタデータ） (2021-11-01T18:10:21Z)
• Smoothed Differential Privacy [55.415581832037084]
  微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。 本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。 サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
  論文  参考訳（メタデータ） (2021-07-04T06:55:45Z)
• Accuracy, Interpretability, and Differential Privacy via Explainable Boosting [22.30100748652558]
  我々は、EBM(Explainable Boosting Machines)に差分プライバシーを追加することで、プライバシーを保護しながら最先端の精度が得られることを示す。 複数分類および回帰データセットを用いた実験により,DP-EBMモデルでは,強い差分プライバシー保証を伴っても驚くほど精度の低下がみられた。
  論文  参考訳（メタデータ） (2021-06-17T17:33:00Z)
• Chasing Your Long Tails: Differentially Private Prediction in Health Care Settings [34.26542589537452]
  差分プライベート(DP)学習の方法は、プライバシ保証付きモデルを学習するための汎用的なアプローチを提供する。 DP学習の現代的な手法は、情報に過度にユニークなと判断される情報を検閲するメカニズムを通じて、プライバシーを確保する。 我々はDP学習に最先端の手法を用いて,臨床予測タスクにおけるプライバシ保護モデルを訓練する。
  論文  参考訳（メタデータ） (2020-10-13T19:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。