論文の概要: Adversarial Data Poisoning for Fake News Detection: How to Make a Model Misclassify a Target News without Modifying It

• arxiv url: http://arxiv.org/abs/2312.15228v2
• Date: Thu, 4 Jan 2024 16:20:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-05 16:42:26.705937
• Title: Adversarial Data Poisoning for Fake News Detection: How to Make a Model Misclassify a Target News without Modifying It
• Title（参考訳）: フェイクニュース検出のための敵対的データ毒殺: モデルがターゲットニュースを変更せずに誤分類する方法
• Authors: Federico Siciliano, Luca Maiano, Lorenzo Papa, Federica Baccini, Irene Amerini, Fabrizio Silvestri
• Abstract要約: 我々は,攻撃者が本来のターゲットニュースを操作することなく,特定のニュースコンテンツに対するオンライン学習検出器の性能を損なうことができるかを分析する。 攻撃者がオンライン学習手法の動作を操作するために、トレーニングデータに毒データを導入する方法を示す。
• 参考スコア（独自算出の注目度）: 7.0956279273625364
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fake news detection models are critical to countering disinformation but can be manipulated through adversarial attacks. In this position paper, we analyze how an attacker can compromise the performance of an online learning detector on specific news content without being able to manipulate the original target news. In some contexts, such as social networks, where the attacker cannot exert complete control over all the information, this scenario can indeed be quite plausible. Therefore, we show how an attacker could potentially introduce poisoning data into the training data to manipulate the behavior of an online learning method. Our initial findings reveal varying susceptibility of logistic regression models based on complexity and attack type.
• Abstract（参考訳）: 偽ニュース検出モデルは偽情報に対抗するために重要であるが、敵の攻撃によって操作できる。 本稿では,攻撃者が本来のターゲットニュースを操作することなく,特定のニュースコンテンツに対してオンライン学習検出器の性能を損なうことができるかを分析する。 ソーシャルネットワークのように、攻撃者が全ての情報を完全に制御できない状況では、このシナリオは確かに極めて妥当である。 そこで本研究では,攻撃者がオンライン学習手法の動作を操作するためのトレーニングデータに有毒データを導入する方法を示す。 最初の知見から,ロジスティック回帰モデルの複雑性と攻撃タイプによる感受性が異なっていた。

関連論文リスト

• Mitigating Data Injection Attacks on Federated Learning [20.24380409762923]
  フェデレートラーニング(Federated Learning)は、複数のエンティティがデータを使ってモデルを協調的にトレーニングすることを可能にするテクニックである。 その利点にもかかわらず、フェデレートされた学習は偽のデータ注入攻撃の影響を受けやすい。 本稿では,フェデレート学習システムにおけるデータインジェクション攻撃の検出と緩和を行う新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-12-04T18:26:31Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• Verifying the Robustness of Automatic Credibility Assessment [79.08422736721764]
  テキスト分類法は信頼性の低い内容を検出する手段として広く研究されている。 入力テキストの無意味な変更は、モデルを誤解させることがある。 偽情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAを紹介する。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Adversarial Attacks are a Surprisingly Strong Baseline for Poisoning Few-Shot Meta-Learners [28.468089304148453]
  これにより、システムの学習アルゴリズムを騙すような、衝突する入力セットを作れます。 ホワイトボックス環境では、これらの攻撃は非常に成功しており、ターゲットモデルの予測が偶然よりも悪化する可能性があることを示す。 攻撃による「過度な対応」と、攻撃が生成されたモデルと攻撃が転送されたモデルとのミスマッチという2つの仮説を探索する。
  論文  参考訳（メタデータ） (2022-11-23T14:55:44Z)
• Truth Serum: Poisoning Machine Learning Models to Reveal Their Secrets [53.866927712193416]
  トレーニングデータセットを有害にすることができる敵が、このデータセットでトレーニングされたモデルに、他の当事者のプライベート詳細を漏洩させる可能性があることを示す。 私たちの攻撃は、メンバーシップ推論、属性推論、データ抽出に効果的です。 私たちの結果は、機械学習のためのマルチパーティプロトコルにおける暗号化プライバシ保証の関連性に疑問を投げかけました。
  論文  参考訳（メタデータ） (2022-03-31T18:06:28Z)
• Adversarial Transfer Attacks With Unknown Data and Class Overlap [19.901933940805684]
  現在の移動攻撃の研究は、攻撃者にとって非現実的な優位性を持っている。 攻撃者および被害者が不完全な設定で利用可能なデータに着目した敵攻撃の転送に関する最初の研究について述べる。 この脅威モデルは、医学、マルウェアなどの応用に関係している。
  論文  参考訳（メタデータ） (2021-09-23T03:41:34Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• Manipulating SGD with Data Ordering Attacks [23.639512087220137]
  基礎となるモデルデータセットやアーキテクチャを変更する必要のない,一連のトレーニングタイムアタックを提示する。 特に、アタッカーはトレーニングバッチをリオーダーするだけでモデルの完全性と可用性を損なう可能性がある。 攻撃は、攻撃後数百エポックというモデル性能を低下させるという長期的な影響をもたらす。
  論文  参考訳（メタデータ） (2021-04-19T22:17:27Z)
• Property Inference From Poisoning [15.105224455937025]
  プロパティ推論攻撃は、トレーニングされたモデルにアクセスでき、トレーニングデータのグローバルな統計を抽出しようとする敵を考える。 本研究では,モデルの情報漏洩を増大させることが目的とする中毒攻撃について検討する。 以上より,毒殺攻撃は情報漏洩を著しく促進し,敏感なアプリケーションにおいてより強力な脅威モデルと見なされるべきであることが示唆された。
  論文  参考訳（メタデータ） (2021-01-26T20:35:28Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。