論文の概要: Spoofing Generalization: When Can't You Trust Proprietary Models?

• arxiv url: http://arxiv.org/abs/2106.08393v1
• Date: Tue, 15 Jun 2021 19:46:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-18 10:51:47.392459
• Title: Spoofing Generalization: When Can't You Trust Proprietary Models?
• Title（参考訳）: Spoofing Generalization: いつプライオリティモデルを信頼できないのか?
• Authors: Ankur Moitra and Elchanan Mossel and Colin Sandon
• Abstract要約: 特に、トレーニングデータに適合するモデルgを構築することを目標とする悪意のあるエージェントのパワーについて検討するが、正確なモデルfとは区別できない。 暗号的仮定では、強いスプーフィングが可能であり、2. 任意の c> 0 に対して、c-弱スプーフィングは無条件で可能である。
• 参考スコア（独自算出の注目度）: 22.104738355946193
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we study the computational complexity of determining whether a machine learning model that perfectly fits the training data will generalizes to unseen data. In particular, we study the power of a malicious agent whose goal is to construct a model g that fits its training data and nothing else, but is indistinguishable from an accurate model f. We say that g strongly spoofs f if no polynomial-time algorithm can tell them apart. If instead we restrict to algorithms that run in $n^c$ time for some fixed $c$, we say that g c-weakly spoofs f. Our main results are 1. Under cryptographic assumptions, strong spoofing is possible and 2. For any c> 0, c-weak spoofing is possible unconditionally While the assumption of a malicious agent is an extreme scenario (hopefully companies training large models are not malicious), we believe that it sheds light on the inherent difficulties of blindly trusting large proprietary models or data.
• Abstract（参考訳）: 本研究では,学習データに完全に適合する機械学習モデルが,非知覚データに一般化するかどうかを判断する計算複雑性について検討する。 特に、トレーニングデータに適合するモデルgを構築することが目的であるが、正確なモデルfと区別できない悪意のあるエージェントのパワーについて検討する。 代わりに、ある固定された$c$に対して$n^c$時間で実行されるアルゴリズムを制限するなら、g c-weakly spoofs f である。 暗号の仮定では,強いスプーフィングが可能であり,2。 c>0の場合、c-weakの偽造は無条件で可能である 悪意のあるエージェントの仮定は極端なシナリオである(大きなモデルを訓練する企業が悪意を持っていないことを願う)が、大きなプロプライエタリなモデルやデータを盲目的に信頼する固有の困難に光を当てている、と我々は信じている。

関連論文リスト

• From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
  我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。 実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。 実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
  論文  参考訳（メタデータ） (2023-08-08T19:52:28Z)
• Gaussian Process Probes (GPP) for Uncertainty-Aware Probing [61.91898698128994]
  モデルによって表現される概念に関する不確実性を探索し、測定するための統一的でシンプルなフレームワークを導入する。 実験の結果,(1)ごく少数の例でも,モデルの概念表現を探索し,(2)認識の不確実性(プローブがどの程度確実か)と解離不確実性(モデルがファジィか)を正確に測定し,(3)これらの不確実性尺度と古典的手法を用いて分布データの検出を行うことができた。
  論文  参考訳（メタデータ） (2023-05-29T17:00:16Z)
• Can Membership Inferencing be Refuted? [31.31060116447964]
  本研究では,実際に会員推論攻撃の信頼性について検討する。 モデルオーナは,データポイント$x$のメンバシップ推論テストの結果に対して,検証の証明を構築することで,妥当に反証できることを示す。 本研究の結果は,実際に会員推論攻撃がもたらす影響を再評価するものである。
  論文  参考訳（メタデータ） (2023-03-07T04:36:35Z)
• On the Robustness of Dataset Inference [21.321310557323383]
  機械学習(ML)モデルは、大量のデータ、計算リソース、技術的専門知識を必要とするため、トレーニングにコストがかかる。 オーナーシップ検証技術により、モデル盗難事件の被害者は、容疑者モデルが実際に彼らから盗まれたことを実証することができる。 フィンガープリント技術であるデータセット推論(DI)は,従来の手法よりも堅牢性や効率性が向上することが示されている。
  論文  参考訳（メタデータ） (2022-10-24T22:17:55Z)
• Lethal Dose Conjecture on Data Poisoning [122.83280749890078]
  データ中毒は、悪意のある目的のために機械学習アルゴリズムのトレーニングセットを歪ませる敵を考える。 本研究は, 致死線量導出法(Lethal Dose Conjecture)とよばれるデータ中毒の基礎について, 1つの予想を立証するものである。
  論文  参考訳（メタデータ） (2022-08-05T17:53:59Z)
• Defending against Model Stealing via Verifying Embedded External Features [90.29429679125508]
  トレーニングサンプルがなく、モデルパラメータや構造にアクセスできない場合でも、敵はデプロイされたモデルを盗むことができる。 我々は、不審なモデルがディフェンダー特定遠近法の特徴の知識を含んでいるかどうかを検証することによって、他の角度からの防御を探索する。 本手法は, 複数段階の盗難処理によって盗難モデルが得られた場合でも, 同時に異なる種類の盗難モデルを検出するのに有効である。
  論文  参考訳（メタデータ） (2021-12-07T03:51:54Z)
• "Adversarial Examples" for Proof-of-Learning [32.438181794551035]
  Jiaらは、PoLという新しい概念/メカニズムを提案した。 PoLは、トレーニング手順の完全性を証明することによって、機械学習モデルのオーナシップを証明可能にする。 PoL は "adrialversa example" に対して脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-08-21T07:56:29Z)
• Supervised Machine Learning with Plausible Deniability [1.685485565763117]
  機械学習(ML)モデルが、特定のデータセットでトレーニングされたモデルが、トレーニングデータに対してどの程度のプライバシを提供するか、という問題について検討する。 我々は、純粋にランダムなトレーニングデータの集合を取ることができ、そこから、ちょうど$f$のMLモデルを生成する'適切な学習ルール'を定義することができることを示す。
  論文  参考訳（メタデータ） (2021-06-08T11:54:51Z)
• Bayesian Inference Forgetting [82.6681466124663]
  忘れられる権利は多くの国で合法化されているが、機械学習の施行は耐え難いコストを引き起こすだろう。 本稿では,ベイズ推論において忘れられる権利を実現するための it bayesian inference forgetting (bif) フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-16T09:52:51Z)
• Intrinsic Certified Robustness of Bagging against Data Poisoning Attacks [75.46678178805382]
  emphdata中毒攻撃では、攻撃者は学習した機械学習モデルを破損させるためにいくつかのトレーニング例を変更し、削除し、または挿入する。 データ中毒攻撃に対するバッグングの本質的確固たる堅牢性を証明する。 本手法は, 任意の修正, 削除, 挿入を行う場合, MNIST 上で 911.1% の精度を達成している。
  論文  参考訳（メタデータ） (2020-08-11T03:12:42Z)
• Privacy-Preserving Gaussian Process Regression -- A Modular Approach to the Application of Homomorphic Encryption [4.1499725848998965]
  ホモモルフィック暗号化(FHE)は、データを暗号化しながら計算することができる。 ガウス過程回帰のような一般的な機械学習アルゴリズムは、FHEにはあまり適していない。 保護を必要とするワークフローのセンシティブなステップのみにFHEを適用するモジュラーアプローチは、あるパーティがデータに対して予測できることを示している。
  論文  参考訳（メタデータ） (2020-01-28T11:50:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。