論文の概要: Not All Features Are Equal: Discovering Essential Features for Preserving Prediction Privacy

• arxiv url: http://arxiv.org/abs/2003.12154v2
• Date: Sat, 20 Feb 2021 05:02:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-19 21:40:44.894523
• Title: Not All Features Are Equal: Discovering Essential Features for Preserving Prediction Privacy
• Title（参考訳）: すべての機能が等しくない: 予測プライバシを保存するための必須機能の発見
• Authors: Fatemehsadat Mireshghallah, Mohammadkazem Taram, Ali Jalali, Ahmed Taha Elthakeb, Dean Tullsen, Hadi Esmaeilzadeh
• Abstract要約: クラウドから機械学習サービスを受信する場合、プロバイダはすべての機能を受信する必要はない。 我々はこの問題を摂動に基づく勾配法として定式化し、入力特徴空間のこの部分集合を発見する。 サブセットを特定した後、Cloakはユーティリティ保存定数値を使用して機能の残りの部分を抑圧する。
• 参考スコア（独自算出の注目度）: 7.468875876415463
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When receiving machine learning services from the cloud, the provider does not need to receive all features; in fact, only a subset of the features are necessary for the target prediction task. Discerning this subset is the key problem of this work. We formulate this problem as a gradient-based perturbation maximization method that discovers this subset in the input feature space with respect to the functionality of the prediction model used by the provider. After identifying the subset, our framework, Cloak, suppresses the rest of the features using utility-preserving constant values that are discovered through a separate gradient-based optimization process. We show that Cloak does not necessarily require collaboration from the service provider beyond its normal service, and can be applied in scenarios where we only have black-box access to the service provider's model. We theoretically guarantee that Cloak's optimizations reduce the upper bound of the Mutual Information (MI) between the data and the sifted representations that are sent out. Experimental results show that Cloak reduces the mutual information between the input and the sifted representations by 85.01% with only a negligible reduction in utility (1.42%). In addition, we show that Cloak greatly diminishes adversaries' ability to learn and infer non-conducive features.
• Abstract（参考訳）: クラウドから機械学習サービスを受信する場合、プロバイダはすべての機能を受信する必要はない。 このサブセットを特定することが、この作業の重要な問題です。 この問題を,入力特徴空間において,プロバイダが使用する予測モデルの機能に関して,この部分集合を発見する勾配に基づく摂動最大化法として定式化する。 サブセットを特定した後、我々のフレームワークであるCloakは、別の勾配ベースの最適化プロセスを通じて検出されるユーティリティ保存定数値を用いて、残りの機能を抑圧します。 Cloakは必ずしも通常のサービス以上のサービスプロバイダとのコラボレーションを必要としておらず、サービスプロバイダのモデルへのブラックボックスアクセスのみのシナリオに適用可能であることを示す。 理論上、cloakの最適化は、送信されるデータとsifted表現の間の相互情報(mi)の上限を減少させることを保証している。 実験の結果、cloakは入力とsifted表現間の相互情報を85.01%削減し、実用性は無視できる(1.42%)。 さらに,Cloakは,非表現的特徴の学習と推論能力を大幅に低下させることを示した。

関連論文リスト

• Transitional Uncertainty with Layered Intermediate Predictions [14.11559987180237]
  単一パス不確実性推定のための特徴工学について論じる。 本稿では,現在の単一パス推定器の欠点に対処する簡単なアプローチとして,階層型中間予測を用いた過渡不確実性を提案する。
  論文  参考訳（メタデータ） (2024-05-25T13:03:38Z)
• Addressing Feature Imbalance in Sound Source Separation [8.989667096301423]
  本稿では,FEAture BAlancing by Suppressing Easy feature (FEABASE) を提案する。 我々は,空間的特徴と音色特徴との間の特徴嗜好が現れるマルチチャネル音源分離タスクにおいて,提案手法の評価を行った。
  論文  参考訳（メタデータ） (2023-09-11T08:11:27Z)
• Identifying and Disentangling Spurious Features in Pretrained Image Representations [5.349513635393589]
  予備訓練された表現において,突発的特徴がどのように表現されるかを調査し,突発的特徴に関する情報を除去するための戦略を探る。 Waterbirdsのデータセットを考えると、急激な特徴を十分に理解しているとしても、その除去は、絡み合った表現のため簡単ではないことが分かる。 符号化に適用した2つの効果的なスプリアス特徴除去手法を提案し、最悪のグループ精度で測定された分類性能を著しく改善する。
  論文  参考訳（メタデータ） (2023-06-22T05:16:58Z)
• On User-Level Private Convex Optimization [59.75368670035683]
  ユーザレベルの差分プライバシー保証を伴う凸最適化(SCO)のための新しいメカニズムを提案する。 我々のメカニズムは損失に対する滑らかさの仮定を必要としない。 私たちの限界は、ユーザレベルのプライバシーに必要な最小限のユーザが、その次元に依存しない、最初のものです。
  論文  参考訳（メタデータ） (2023-05-08T17:47:28Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• Smooth Anonymity for Sparse Graphs [69.1048938123063]
  しかし、スパースデータセットを共有するという点では、差分プライバシーがプライバシのゴールドスタンダードとして浮上している。 本研究では、スムーズな$k$匿名性(スムーズな$k$匿名性)と、スムーズな$k$匿名性(スムーズな$k$匿名性)を提供する単純な大規模アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2022-07-13T17:09:25Z)
• Reducing Predictive Feature Suppression in Resource-Constrained Contrastive Image-Caption Retrieval [65.33981533521207]
  我々は、リソース制約のあるICR手法における予測的特徴抑圧を減らすアプローチを提案する:潜在目標デコーディング(LTD) LTDは、汎用文エンコーダの潜時空間で入力キャプションを再構成し、画像及びキャプションエンコーダが予測的特徴を抑制するのを防止する。 実験の結果,入力空間における入力キャプションの再構成とは異なり,LTDはリコール@k,r精度,nDCGスコアを高くすることで,予測的特徴抑制を低減できることがわかった。
  論文  参考訳（メタデータ） (2022-04-28T09:55:28Z)
• Pessimistic Minimax Value Iteration: Provably Efficient Equilibrium Learning from Offline Datasets [101.5329678997916]
  両プレイヤーゼロサムマルコフゲーム(MG)をオフライン環境で研究する。 目標は、事前収集されたデータセットに基づいて、近似的なナッシュ均衡(NE)ポリシーペアを見つけることである。
  論文  参考訳（メタデータ） (2022-02-15T15:39:30Z)
• Deep Unsupervised Feature Selection by Discarding Nuisance and Correlated Features [7.288137686773523]
  現代のデータセットには、相関した特徴とニュアンスな特徴の大きなサブセットが含まれている。 多数のニュアンス特徴が存在する場合、ラプラシアンは選択された特徴の部分集合上で計算されなければならない。 相関する特徴に対処するためにオートエンコーダアーキテクチャを使用し、選択した特徴のサブセットからデータを再構成するように訓練した。
  論文  参考訳（メタデータ） (2021-10-11T14:26:13Z)
• Toward Understanding the Influence of Individual Clients in Federated Learning [52.07734799278535]
  フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。 em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
  論文  参考訳（メタデータ） (2020-12-20T14:34:36Z)
• Oblivious Data for Fairness with Kernels [1.599072005190786]
  感度・非感度特性が利用できる場合のアルゴリズムフェアネスの問題について検討する。 このような不愉快な特徴を生成するための重要な要素は、ヒルベルト空間評価条件予測である。 本稿では,プラグインアプローチを提案し,推定誤差の制御方法を示す。
  論文  参考訳（メタデータ） (2020-02-07T16:59:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。