論文の概要: Code-Poisoning Property Inference Attacks

• arxiv url: http://arxiv.org/abs/2607.15970v1
• Date: Fri, 17 Jul 2026 14:04:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.869308
• Title: Code-Poisoning Property Inference Attacks
• Title（参考訳）: Code-Poisoning Property Inference Attacks
• Abstract要約: プロパティ推論攻撃は、トレーニングセットのグローバルなプロパティ情報を公開することを目的としている。 我々は,最初のコードレベルPIAであるCPPIA(Code-Poisoning Property Inference Attack)を提案する。 CPPIAはモデル精度を劣化させることなく100%の攻撃精度を提供する。
• 参考スコア（独自算出の注目度）: 12.041733198136326
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The flourishing code hosting platforms and coding agents enable even beginners with private data to build tailored Machine Learning (ML) models using available code quickly. The training data for ML models, often regarded as private property (e.g., clinical records, transaction information), is at significant risk of information leakage. Property Inference Attacks (PIAs), as a significant type of privacy attack, aim to expose global property information of the training set. In this paper, we present Code-Poisoning Property Inference Attack (CPPIA), the first code-level PIA, which overcomes four limitations of existing works: insufficient attack performance, severe degradation of model accuracy, high computational overhead, and failure under defenses. We consider malicious code providers from code hosting platforms (GitHub) and coding agents (Codex). Upon downloading the poisoned code, data holders train models with their private data without professional auditing, subsequently releasing label-only APIs to the public. The adversary embeds the properties into secret samples during training and queries the trained model on these samples later to leak privacy. CPPIA offers 100\% attack accuracy without degrading model accuracy. It is also computationally lightweight and requires no shadow models. We evaluate the attack performance across four datasets, eight model architectures, eighteen properties, and under three defense mechanisms, demonstrating the universality and effectiveness of CPPIA.
• Abstract（参考訳）: 繁栄するコードホスティングプラットフォームとコーディングエージェントは、プライベートデータを使った初心者でも、利用可能なコードを使用して、カスタマイズされた機械学習(ML)モデルを構築することができる。 MLモデルのトレーニングデータは、しばしば私有財産(臨床記録、取引情報など)と見なされるが、情報漏洩のリスクが大きい。 プロパティ推論アタック(PIAs)は,トレーニングセットのグローバルなプロパティ情報を公開することを目的とした,重要なタイプのプライバシアタックである。 本稿では,攻撃性能の不足,モデル精度の低下,高い計算オーバーヘッド,防衛下での障害といった,既存の作業の4つの制限を克服するコードレベル PIA である Code-Poisoning Property Inference Attack (CPPIA) を提案する。 コードホスティングプラットフォーム(GitHub)とコーディングエージェント(Codex)の悪意のあるコードプロバイダについて検討する。 有毒なコードをダウンロードすると、データ保持者はプロの監査なしにプライベートデータでモデルをトレーニングし、その後、ラベルのみのAPIを一般公開する。 相手は、トレーニング中にプロパティを秘密のサンプルに埋め込んで、これらのサンプルについてトレーニングされたモデルに問い合わせて、プライバシーを漏らします。 CPPIAは、モデル精度を劣化させることなく、100\%の攻撃精度を提供する。 また、計算量も軽く、影モデルを必要としない。 CPPIAの汎用性と有効性を示すため,攻撃性能を4つのデータセット,8つのモデルアーキテクチャ,18のプロパティ,3つの防御機構で評価した。

関連論文リスト

• Unlearned but Not Forgotten: Data Extraction after Exact Unlearning in LLM [31.093224824043087]
  学習前モデルからの信号を利用して学習後モデルを導く新しいデータ抽出攻撃を導入する。 シミュレーションされた医療診断データセット上での攻撃の有効性を実証し、正確なアンラーニングに関連する現実世界のプライバシーリスクを明らかにする。
  論文  参考訳（メタデータ） (2025-05-30T09:09:33Z)
• A Method to Facilitate Membership Inference Attacks in Deep Learning Models [5.724311218570013]
  我々は,従来の技術よりも厳格に強力な新たな会員推論攻撃を実演する。 私たちの攻撃は、敵がすべてのトレーニングサンプルを確実に識別する権限を与えます。 これらのモデルは、共通の会員プライバシー監査の下で、増幅された会員リークを効果的に偽装できることを示す。
  論文  参考訳（メタデータ） (2024-07-02T03:33:42Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Gotcha! This Model Uses My Code! Evaluating Membership Leakage Risks in Code Models [12.214474083372389]
  コードモデルに特化した新しいメンバシップ推論手法であるGotchaを提案する。 我々は,Gotchaが真正率0.95,偽正率0.10でデータメンバーシップを予測できることを示した。 この研究は、コードモデルのプライバシを理解することにより多くの注意を払っている。
  論文  参考訳（メタデータ） (2023-10-02T12:50:43Z)
• On the Exploitability of Instruction Tuning [103.8077787502381]
  そこで本研究では,モデルの動作を変えるための命令チューニングを,相手がどのように活用できるかを検討する。 自動データ中毒パイプラインである textitAutoPoison を提案する。 結果から、AutoPoisonは、少数のデータだけを中毒することで、敵がモデルの振る舞いを変えることを可能にする。
  論文  参考訳（メタデータ） (2023-06-28T17:54:04Z)
• PEOPL: Characterizing Privately Encoded Open Datasets with Public Labels [59.66777287810985]
  プライバシとユーティリティのための情報理論スコアを導入し、不誠実なユーザの平均パフォーマンスを定量化する。 次に、ランダムなディープニューラルネットワークの使用を動機付ける符号化スキームのファミリーを構築する際のプリミティブを理論的に特徴づける。
  論文  参考訳（メタデータ） (2023-03-31T18:03:53Z)
• Client-specific Property Inference against Secure Aggregation in Federated Learning [52.8564467292226]
  フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。 多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。 単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
  論文  参考訳（メタデータ） (2023-03-07T14:11:01Z)
• CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
  本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。 CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。 評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
  論文  参考訳（メタデータ） (2022-10-14T11:27:49Z)
• CANIFE: Crafting Canaries for Empirical Privacy Measurement in Federated Learning [77.27443885999404]
  Federated Learning(FL)は、分散環境で機械学習モデルをトレーニングするための設定である。 本稿では,訓練ラウンドの経験的プライバシを評価するために,強敵による慎重なサンプル作成手法であるCANIFEを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:30:16Z)
• Lessons Learned: Defending Against Property Inference Attacks [0.0]
  本研究は,資産推測攻撃(PIA)に対する複数の防衛戦略について検討し,評価する。 PIAは、基礎となるトレーニングデータの統計的特性、例えば、医療訓練データセットにおける男女比を明らかにすることを目的としている。 プロパティアンラーニングによる実験は、プロパティアンラーニングが一般化できないこと、すなわち、PIAのクラス全体に対する保護が示される。
  論文  参考訳（メタデータ） (2022-05-18T09:38:37Z)
• Enhanced Membership Inference Attacks against Machine Learning Models [9.26208227402571]
  メンバーシップ推論攻撃は、モデルがトレーニングセット内の個々のデータポイントについてリークする個人情報の定量化に使用される。 我々は,AUCスコアを高い精度で達成できる新たな攻撃アルゴリズムを導き,その性能に影響を及ぼすさまざまな要因を強調した。 我々のアルゴリズムは、モデルにおけるプライバシ損失の極めて正確な近似を捉え、機械学習モデルにおけるプライバシリスクの正確かつ詳細な推定を行うためのツールとして使用することができる。
  論文  参考訳（メタデータ） (2021-11-18T13:31:22Z)
• Property Inference Attacks on Convolutional Neural Networks: Influence and Implications of Target Model's Complexity [1.2891210250935143]
  プロパティ推論攻撃は、トレーニングデータセットに関する与えられたモデルプロパティをモデルの主な目標とは無関係に推測することを目的としている。 本稿では,ターゲットモデルの複雑性が攻撃の精度に及ぼす影響について検討する。 その結果,ターゲットモデルの複雑さとは無関係に,プライバシ侵害のリスクがあることが判明した。
  論文  参考訳（メタデータ） (2021-04-27T09:19:36Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。