Fugu-MT 論文翻訳(概要): A Note On Interpreting Canary Exposure

論文の概要: A Note On Interpreting Canary Exposure

arxiv url: http://arxiv.org/abs/2306.00133v2
Date: Fri, 2 Jun 2023 14:48:38 GMT
ステータス: 処理完了
システム内更新日: 2023-06-05 11:23:48.123483
Title: A Note On Interpreting Canary Exposure
Title（参考訳）: カナリア露光の解釈に関する一考察
Authors: Matthew Jagielski
Abstract要約: カナリア露光は、機械学習モデルのトレーニングのプライバシを経験的に評価したり、監査するために頻繁に使用される。このノートの目的は、カナリア曝露の解釈方法に関する直感を提供することである。
参考スコア（独自算出の注目度）: 7.451276682691171
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Canary exposure, introduced in Carlini et al. is frequently used to empirically evaluate, or audit, the privacy of machine learning model training. The goal of this note is to provide some intuition on how to interpret canary exposure, including by relating it to membership inference attacks and differential privacy.
Abstract（参考訳）: カルリーニ等で導入されたカナリア露光は、機械学習モデルのトレーニングのプライバシを経験的に評価したり、監査するために頻繁に使用される。このノートの目的は、メンバシップ推論攻撃やディファレンシャルプライバシに関連することを含む、カナリアエクスポージャーの解釈に関する直感を提供することです。

関連論文リスト

Extracting Training Data from Document-Based VQA Models [67.1470112451617]
VLM(Vision-Language Models)は、文書ベースの視覚質問回答において顕著な進歩を遂げている(つまり、画像として提供される入力文書の内容に関する問い合わせに応答する)。これらのモデルでは、関連する視覚情報が削除された場合でも、トレーニングサンプルに対する応答を記憶し、それらをリグルジタイズすることができる。これには、トレーニングセットで繰り返し繰り返されるパーソナライズ可能な情報が含まれており、これらのモデルが機密情報を漏らし、したがってプライバシーリスクを引き起こす可能性があることを示している。
論文参考訳（メタデータ） (2024-07-11T17:44:41Z)
Revisiting Self-supervised Learning of Speech Representation from a Mutual Information Perspective [68.20531518525273]
我々は、情報理論の観点から、既存の自己教師型音声の手法を詳しく検討する。我々は線形プローブを用いて、対象情報と学習された表現の間の相互情報を推定する。我々は、ラベルを使わずに、データの異なる部分間の相互情報を見積もる自己教師型の表現を評価する可能性を探る。
論文参考訳（メタデータ） (2024-01-16T21:13:22Z)
Perturbation-based Self-supervised Attention for Attention Bias in Text Classification [31.144857032681905]
本稿では,摂動に基づく自己監督型アテンションアプローチを提案し,注意学習の指導を行う。文中のすべての単語に、その意味や予測を変えることなく、可能な限り多くのノイズを加えます。 3つのテキスト分類タスクの実験結果から,本手法は現在の注目モデルの性能を大幅に向上させることができることが示された。
論文参考訳（メタデータ） (2023-05-25T03:18:18Z)
Students Parrot Their Teachers: Membership Inference on Model Distillation [54.392069096234074]
知識蒸留によるプライバシを,教師と学生のトレーニングセットの両方で研究する。私たちの攻撃は、生徒セットと教師セットが類似している場合、または攻撃者が教師セットを毒できる場合、最強です。
論文参考訳（メタデータ） (2023-03-06T19:16:23Z)
Protecting Split Learning by Potential Energy Loss [70.81375125791979]
我々は、分割学習の前方埋め込みからのプライバシー漏洩に焦点を当てる。我々は、前方埋め込みをより「複雑化」させるためのエネルギー損失の可能性を提案する。
論文参考訳（メタデータ） (2022-10-18T06:21:11Z)
CANIFE: Crafting Canaries for Empirical Privacy Measurement in Federated Learning [77.27443885999404]
Federated Learning(FL)は、分散環境で機械学習モデルをトレーニングするための設定である。本稿では,訓練ラウンドの経験的プライバシを評価するために,強敵による慎重なサンプル作成手法であるCANIFEを提案する。
論文参考訳（メタデータ） (2022-10-06T13:30:16Z)
In Differential Privacy, There is Truth: On Vote Leakage in Ensemble Private Learning [42.34839009553982]
本研究では,PATE予測を行うノイズを用いることで,機密情報の漏洩の新たな形態を実現できることを示す。我々の敵は、この事実を利用して、基礎となる教師が提出した投票の高忠実度ヒストグラムを抽出する。これは、差別的なプライバシーをパナセアとして扱うのではなく、プライバシーを公平に考慮する将来の作業を促進することを願っている。
論文参考訳（メタデータ） (2022-09-22T02:07:21Z)
Towards Differential Relational Privacy and its use in Question Answering [109.4452196071872]
データセット内のエンティティ間の関係の記憶は、トレーニングされた質問応答モデルを使用する場合、プライバシの問題につながる可能性がある。我々はこの現象を定量化し、微分プライバシー(DPRP)の定義を可能にする。質問回答のための大規模モデルを用いた実験において,概念を解説する。
論文参考訳（メタデータ） (2022-03-30T22:59:24Z)
CAPE: Context-Aware Private Embeddings for Private Language Learning [0.5156484100374058]
Context-Aware Private Embeddings (CAPE)は、埋め込みのトレーニング中にプライバシを保存する新しいアプローチである。 CAPEはディファレンシャルプライバシを通じて校正ノイズを適用し、機密情報を隠蔽しながらエンコードされたセマンティックリンクを保存する。実験結果から,提案手法は単一介入よりも情報漏洩を低減させることが示された。
論文参考訳（メタデータ） (2021-08-27T14:50:12Z)
Interpreting Expert Annotation Differences in Animal Behavior [34.257144599478856]
手書きのアノテートデータは、主観的差異、ラター内変動、およびアノテータの専門性の違いによって異なる可能性がある。我々は,動物行動ビデオのセットで同じ行動クラスをラベル付けした,異なる専門家のアノテーションについて検討した。本稿では,行動分析におけるアノテーションの違いの解釈を支援するために,プログラム合成を用いた新しい手法を提案する。
論文参考訳（メタデータ） (2021-06-11T01:36:03Z)
Why Should I Trust a Model is Private? Using Shifts in Model Explanation for Evaluating Privacy-Preserving Emotion Recognition Model [35.016050900061]
本稿では,モデルの有効性を評価するために解釈可能な手法を用いることに焦点をあてる。プライバシーを守るための一般的な方法が、プライバシー保護の人間の認識とどのように一致しないかを示します。評価者の傾きを評価し、特定のタスクのモデルを選択するためのクラウドソーシング実験を行います。
論文参考訳（メタデータ） (2021-04-18T09:56:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。