論文の概要: Quantifying Privacy Risks of Prompts in Visual Prompt Learning

• arxiv url: http://arxiv.org/abs/2310.11970v1
• Date: Wed, 18 Oct 2023 13:51:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-19 02:03:55.772605
• Title: Quantifying Privacy Risks of Prompts in Visual Prompt Learning
• Title（参考訳）: 視覚的プロンプト学習におけるプロンプトのプライバシーリスクの定量化
• Authors: Yixin Wu, Rui Wen, Michael Backes, Pascal Berrang, Mathias Humbert, Yun Shen, Yang Zhang,
• Abstract要約: 視覚的プロンプト学習によって学習されたプロンプトの包括的プライバシー評価を行う。 私たちの経験的評価は、両方の攻撃に対してプロンプトが脆弱であることを示している。 本研究は, 解答に対するメンバシップ推論攻撃が, 相対的仮定を緩やかに仮定することで成功できることを示唆する。
• 参考スコア（独自算出の注目度）: 33.244695390157595
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large-scale pre-trained models are increasingly adapted to downstream tasks through a new paradigm called prompt learning. In contrast to fine-tuning, prompt learning does not update the pre-trained model's parameters. Instead, it only learns an input perturbation, namely prompt, to be added to the downstream task data for predictions. Given the fast development of prompt learning, a well-generalized prompt inevitably becomes a valuable asset as significant effort and proprietary data are used to create it. This naturally raises the question of whether a prompt may leak the proprietary information of its training data. In this paper, we perform the first comprehensive privacy assessment of prompts learned by visual prompt learning through the lens of property inference and membership inference attacks. Our empirical evaluation shows that the prompts are vulnerable to both attacks. We also demonstrate that the adversary can mount a successful property inference attack with limited cost. Moreover, we show that membership inference attacks against prompts can be successful with relaxed adversarial assumptions. We further make some initial investigations on the defenses and observe that our method can mitigate the membership inference attacks with a decent utility-defense trade-off but fails to defend against property inference attacks. We hope our results can shed light on the privacy risks of the popular prompt learning paradigm. To facilitate the research in this direction, we will share our code and models with the community.
• Abstract（参考訳）: 大規模事前学習モデルは、プロンプトラーニングと呼ばれる新しいパラダイムを通じて、下流タスクに適応する傾向にある。 微調整とは対照的に、素早い学習は事前訓練されたモデルのパラメータを更新しない。 代わりに、入力の摂動、すなわち、予測のために下流のタスクデータに追加されるプロンプトのみを学ぶ。 素早い学習の急速な発展を考えると、十分に一般化されたプロンプトは必然的に貴重な資産となり、それを作成するためにプロプライエタリなデータが使用される。 これにより、プロンプトがトレーニングデータのプロプライエタリな情報をリークするかどうかという疑問が自然に持ち上がる。 本稿では,プロパティ推論とメンバシップ推論攻撃のレンズを通して,視覚的プロンプト学習によって学習されたプロンプトの包括的プライバシー評価を行う。 私たちの経験的評価は、両方の攻撃に対してプロンプトが脆弱であることを示している。 また、敵が限られたコストで資産推定攻撃を成功させることができることを示した。 さらに, 提案手法を適用すれば, 相手の仮定を緩やかにすることで, プロンプトに対する会員推測攻撃が成功できることが示唆された。 さらに,本手法は,有効効用トレードオフによるメンバシップ推論攻撃を緩和できるが,財産推論攻撃に対する防御に失敗することを確認する。 私たちの結果が、人気のある急進的な学習パラダイムのプライバシーリスクを浮き彫りにしてくれることを願っています。 この方向での研究を促進するため、私たちはコードとモデルをコミュニティと共有します。

関連論文リスト

• Revisiting Prompt Pretraining of Vision-Language Models [13.888505919946578]
  本稿では、RPP(Revisiting Prompt Pretraining)と呼ばれる一般的なフレームワークを提案する。 RPPは、フィッティングと一般化能力の改善を、迅速な構造と迅速な監督という2つの側面から目標としている。 また,事前訓練されたコントラスト言語画像事前学習(CLIP)教師モデルによって提供されるゼロショット確率予測から得られたソフトラベルを利用する。
  論文  参考訳（メタデータ） (2024-09-10T02:36:13Z)
• Detecting, Explaining, and Mitigating Memorization in Diffusion Models [49.438362005962375]
  そこで本研究では,テキスト条件予測の大きさを検査することで,暗黙のプロンプトを検出する方法を提案する。 提案手法はサンプリングアルゴリズムを中断することなくシームレスに統合し,第1世代でも高い精度を実現する。 検出戦略に基づいて,個々の単語やトークンの記憶への寄与を示す説明可能なアプローチを提示する。
  論文  参考訳（メタデータ） (2024-07-31T16:13:29Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• Students Parrot Their Teachers: Membership Inference on Model Distillation [54.392069096234074]
  知識蒸留によるプライバシを,教師と学生のトレーニングセットの両方で研究する。 私たちの攻撃は、生徒セットと教師セットが類似している場合、または攻撃者が教師セットを毒できる場合、最強です。
  論文  参考訳（メタデータ） (2023-03-06T19:16:23Z)
• Protecting Split Learning by Potential Energy Loss [70.81375125791979]
  我々は、分割学習の前方埋め込みからのプライバシー漏洩に焦点を当てる。 我々は、前方埋め込みをより「複雑化」させるためのエネルギー損失の可能性を提案する。
  論文  参考訳（メタデータ） (2022-10-18T06:21:11Z)
• Exploring the Universal Vulnerability of Prompt-based Learning Paradigm [21.113683206722207]
  素早い学習は、事前学習と微調整のギャップを埋め、数ショット設定で効果的に機能することを発見した。 しかし、この学習パラダイムは、特定のトリガをテキストに挿入することで、モデル予測が誤解されるような事前学習段階から脆弱性を継承することがわかった。 バックドアトリガを注入するか,あるいはプレーンテキストのみを用いて事前学習した言語モデル上での逆トリガを検索することにより,この普遍的な脆弱性を探究する。
  論文  参考訳（メタデータ） (2022-04-11T16:34:10Z)
• Where Did You Learn That From? Surprising Effectiveness of Membership Inference Attacks Against Temporally Correlated Data in Deep Reinforcement Learning [114.9857000195174]
  深い強化学習を産業的に広く採用する上での大きな課題は、プライバシー侵害の潜在的な脆弱性である。 本稿では, 深層強化学習アルゴリズムの脆弱性を検証し, メンバーシップ推論攻撃に適応する対戦型攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-08T23:44:57Z)
• Adversarial Targeted Forgetting in Regularization and Generative Based Continual Learning Models [2.8021833233819486]
  継続的(あるいはインクリメンタル)な学習アプローチは、その後のバッチやストリーミングデータから追加の知識やタスクを学ぶ必要がある場合に使用される。 知的敵は、既存の知識を時間とともに保持する連続学習アルゴリズムの能力を活用できることを示す。 敵は、そのタスクのテストインスタンスに慎重に設計されたバックドアサンプルを挿入することで、任意のタスクについて「偽のメモリ」を作成できることを示します。
  論文  参考訳（メタデータ） (2021-02-16T18:45:01Z)
• FaceLeaks: Inference Attacks against Transfer Learning Models via Black-box Queries [2.7564955518050693]
  教師モデルと直接対話することなく,個人情報を漏らしたり推測したりできるかどうかを検討する。 集約レベル情報から推測する新しい手法を提案する。 本研究は,情報漏洩が現実の状況で広く利用されている伝達学習フレームワークに対する真のプライバシー上の脅威であることを示す。
  論文  参考訳（メタデータ） (2020-10-27T03:02:40Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。