論文の概要: Certification-Based Differentially Private Learning

• arxiv url: http://arxiv.org/abs/2609.39629v1
• Date: Wed, 30 Sep 2026 12:37:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.779909
• Title: Certification-Based Differentially Private Learning
• Title（参考訳）: 認証に基づく差分私的学習
• Abstract要約: 我々は、抽象勾配学習(AGT)フレームワークを、連続的、非有界回帰におけるプライベートな予測に一般化する。 我々は、AGTフレームワークの強化されたプライバシ会計と、私たちのスムーズな感度上のバウンドが良好なプライバシユーティリティトレードオフをもたらすことを示す理論的分析を提供する。 また、一致した条件下では、私たちのプライベート学習アルゴリズムは標準のプライベート学習者より優れています。
• 参考スコア（独自算出の注目度）: 5.534626267734823
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Differential privacy (DP) in machine learning is typically achieved by adding noise to model parameters (private learning) or to model outputs (private prediction). Recent work uses formal methods, namely abstract interpretation, to provide tighter privacy guarantees, but only for private prediction in classification settings. In this work, we investigate the use of formal methods as a general tool for tighter privacy analysis. First, we generalize the abstract gradient training (AGT) framework to private prediction in continuous, unbounded regression. Second, by reducing learning in parameterized models to a regression problem over the parameter space, we introduce Abstract Gradient Sampling (AGS), an algorithm that enables reachability-based analysis to provide guarantees for private learning. In both private prediction and private learning, we provide tightened privacy accounting for the AGT framework and a theoretical analysis demonstrating when our smooth sensitivity upper-bounds yield favourable privacy-utility trade-off. In practice, we validate that our regression bounds are tighter than global-sensitivity baselines on regression benchmarks, and, notably, yield the first finite privacy guarantees in settings where global prediction sensitivity is a priori unbounded. We also find that under matched conditions, our private learning algorithm can outperform standard private learners.
• Abstract（参考訳）: 機械学習における微分プライバシー(DP)は通常、モデルパラメータ(プライベートラーニング)やモデル出力(プライベート予測)にノイズを加えることで達成される。 最近の研究は、形式的な方法、すなわち抽象的な解釈を使用して、より厳密なプライバシー保証を提供するが、分類設定におけるプライベートな予測に限られる。 本研究では,より厳密なプライバシ分析のための汎用ツールとして,形式的手法の使用について検討する。 まず、抽象勾配学習(AGT)フレームワークを、連続的、非有界回帰におけるプライベートな予測に一般化する。 第2に,パラメータ化モデルの学習をパラメータ空間上の回帰問題に還元することにより,到達可能性に基づく解析により個人学習の保証を実現するアルゴリズムである抽象勾配サンプリング(AGS)を導入する。 プライベートな予測とプライベートラーニングの両方において、AGTフレームワークの厳密なプライバシー説明と、スムーズな感度の上限が適切なプライバシーとユーティリティのトレードオフをもたらすことを示す理論的分析を提供する。 実際に、回帰バウンダリが回帰ベンチマークのグローバル感度ベースラインよりも厳密であることを検証するとともに、特に、グローバル予測感度が未境界であるような環境では、最初の有限プライバシー保証が得られる。 また、一致した条件下では、私たちのプライベート学習アルゴリズムは標準のプライベート学習者より優れています。

関連論文リスト

• Privacy-Preserving Reinforcement Learning from Human Feedback via Decoupled Reward Modeling [2.805986764620217]
  報酬学習のみに差分プライバシーを課すプライバシー保護フレームワークを提案する。 プライバシーは、通常の非私的統計誤差を超える付加的な用語に寄与していることを示す。 人為的HH-RLHFデータセットの実験は、既存の微分プライベートベースライン法よりも強いプライベートアライメント性能を示す。
  論文  参考訳（メタデータ） (2026-03-23T20:45:17Z)
• Differentially Private Two-Stage Gradient Descent for Instrumental Variable Regression [22.733602577854825]
  差分プライバシー制約下でのインストゥルメンタル変数回帰(IVaR)について検討する。 勾配更新に慎重に校正された雑音を注入することにより、差分プライバシーを確保するノイズの多い2状態勾配降下アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-09-26T18:02:58Z)
• Differentially Private Random Feature Model [47.35176457481132]
  プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。 本手法は,プライバシを保護し,一般化誤差を導出する。
  論文  参考訳（メタデータ） (2024-12-06T05:31:08Z)
• The Last Iterate Advantage: Empirical Auditing and Principled Heuristic Analysis of Differentially Private SGD [46.71175773861434]
  ノイズカットされた勾配勾配(DP-SGD)の簡易なプライバシー解析法を提案する。 各種トレーニング手順に適用したプライバシー監査の結果を予測できることを実験的に示す。 既存のプライバシー監査攻撃は、視覚と言語の両方のタスクにおける分析によって制限されていることを実証的に示しています。
  論文  参考訳（メタデータ） (2024-10-08T16:51:10Z)
• Certification for Differentially Private Prediction in Gradient-Based Training [36.686002369773014]
  非私的モデルの出力にノイズを加えることによって、差分プライバシーが達成されるプライベート予測について検討する。 既存の方法は、モデルのグローバルな感度に比例したノイズに依存しており、多くの場合、プライベートトレーニングと比較して、準最適プライバシーユーティリティトレードオフをもたらす。 本稿では,凸緩和法と有界伝播法を利用して,データセット固有の上限値の予測感度を計算するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-06-19T10:47:00Z)
• Initialization Matters: Privacy-Utility Analysis of Overparameterized Neural Networks [72.51255282371805]
  我々は、最悪の近傍データセット上でのモデル分布間のKLばらつきのプライバシー境界を証明した。 このKLプライバシー境界は、トレーニング中にモデルパラメータに対して期待される2乗勾配ノルムによって決定される。
  論文  参考訳（メタデータ） (2023-10-31T16:13:22Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
  現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。 本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
  論文  参考訳（メタデータ） (2022-09-09T08:54:13Z)
• Private Prediction Sets [72.75711776601973]
  機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。 これら2つのデシラタを共同で扱う枠組みを提案する。 本手法を大規模コンピュータビジョンデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-02-11T18:59:11Z)
• Tempered Sigmoid Activations for Deep Learning with Differential Privacy [33.574715000662316]
  活性化関数の選択は、プライバシー保護の深層学習の感度を束縛することの中心であることを示す。 我々は,MNIST,FashionMNIST,CIFAR10に対して,学習手順の基礎を変更することなく,新たな最先端の精度を実現する。
  論文  参考訳（メタデータ） (2020-07-28T13:19:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。