論文の概要: Deception by Omission: Using Adversarial Missingness to Poison Causal Structure Learning

• arxiv url: http://arxiv.org/abs/2305.20043v1
• Date: Wed, 31 May 2023 17:14:20 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-01 15:03:45.782091
• Title: Deception by Omission: Using Adversarial Missingness to Poison Causal Structure Learning
• Title（参考訳）: 脱落による偽装:毒素因果構造学習における敵意欠如の活用
• Authors: Deniz Koyuncu, Alex Gittens, B\"ulent Yener, Moti Yung
• Abstract要約: 観測データから因果構造を推定することは因果機械学習の重要な要素である。 これまでの研究では、完全に観察されたトレーニングデータの逆流が、不正確な因果構造モデルの学習に役立てられることが示されている。 本研究は,学習因果構造に偏りを与えるために,敵対者が真の訓練データの一部を欺くような新たな攻撃手法を導入する。
• 参考スコア（独自算出の注目度）: 12.208616050090027
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Inference of causal structures from observational data is a key component of causal machine learning; in practice, this data may be incompletely observed. Prior work has demonstrated that adversarial perturbations of completely observed training data may be used to force the learning of inaccurate causal structural models (SCMs). However, when the data can be audited for correctness (e.g., it is crytographically signed by its source), this adversarial mechanism is invalidated. This work introduces a novel attack methodology wherein the adversary deceptively omits a portion of the true training data to bias the learned causal structures in a desired manner. Theoretically sound attack mechanisms are derived for the case of arbitrary SCMs, and a sample-efficient learning-based heuristic is given for Gaussian SCMs. Experimental validation of these approaches on real and synthetic data sets demonstrates the effectiveness of adversarial missingness attacks at deceiving popular causal structure learning algorithms.
• Abstract（参考訳）: 観測データから因果構造を推定することは因果機械学習の重要な要素であり、実際にはこのデータは不完全である。 これまでの研究では、完全に観察されたトレーニングデータの逆摂動が不正確な因果構造モデル(SCM)の学習に役立てられることが示されている。 しかし、データが正確性のために監査される場合(例えば、そのソースによってcrytographicに署名される)、この逆機構は無効となる。 本研究は,学習した因果構造を所望の方法で偏見づけるために,敵対者が真の訓練データの一部を欺く新たな攻撃手法を導入する。 理論的には任意のSCMに対して音響攻撃機構が導出され、ガウスSCMに対してサンプル効率の学習に基づくヒューリスティックが与えられる。 実データと合成データに対するこれらの手法の実験的検証は、一般的な因果構造学習アルゴリズムを識別する対向的欠落攻撃の有効性を示す。

関連論文リスト

• Exploiting the Data Gap: Utilizing Non-ignorable Missingness to Manipulate Model Learning [13.797822374912773]
  敵対的ミススティングネス(AM)攻撃は、悪意ある無知の欠陥メカニズムによって動機づけられる。 本研究は,AM攻撃の文脈における連帯学習に焦点を当てる。 両レベルの最適化として,対向的欠落メカニズムの学習を定式化する。
  論文  参考訳（メタデータ） (2024-09-06T17:10:28Z)
• Demystifying amortized causal discovery with transformers [21.058343547918053]
  観測データからの因果発見のための教師付き学習アプローチは、しばしば競争性能を達成する。 本研究では,CSIvAについて検討する。CSIvAは,合成データのトレーニングと実データへの転送を約束するトランスフォーマーモデルである。 既存の識別可能性理論とギャップを埋め、トレーニングデータ分布の制約がテスト観測の事前を暗黙的に定義していることを示します。
  論文  参考訳（メタデータ） (2024-05-27T08:17:49Z)
• How adversarial attacks can disrupt seemingly stable accurate classifiers [76.95145661711514]
  敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。 ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。 実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-09-07T12:02:00Z)
• Counterfactual (Non-)identifiability of Learned Structural Causal Models [10.102073937554488]
  我々は、観測データから反実的推論の非識別性について、実践者に警告する。 本稿では,学習したDSCMの予測結果の最悪のケースエラーを推定する手法を提案する。
  論文  参考訳（メタデータ） (2023-01-22T00:58:14Z)
• Amortized Inference for Causal Structure Learning [72.84105256353801]
  因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。 本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。 我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
  論文  参考訳（メタデータ） (2022-05-25T17:37:08Z)
• MIRACLE: Causally-Aware Imputation via Learning Missing Data Mechanisms [82.90843777097606]
  欠落データに対する因果認識型計算アルゴリズム(MIRACLE)を提案する。 MIRACLEは、欠落発生機構を同時にモデル化することにより、ベースラインの計算を反復的に洗練する。 我々は、MIRACLEが一貫してイミューテーションを改善することができることを示すために、合成および様々な公開データセットに関する広範な実験を行う。
  論文  参考訳（メタデータ） (2021-11-04T22:38:18Z)
• Pulling Up by the Causal Bootstraps: Causal Data Augmentation for Pre-training Debiasing [14.4304416146106]
  我々は、因果ブートストレッピングと呼ばれる因果訓練前脱バイアス技術の研究と拡張を行った。 このような因果前訓練技術が,既存のベースプラクティスを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2021-08-27T21:42:04Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)
• Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
  予測信頼性尺度は統計学と機械学習において基本的なものである。 これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。 この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
  論文  参考訳（メタデータ） (2020-11-24T19:52:38Z)
• Learning Causal Models Online [103.87959747047158]
  予測モデルは、予測を行うためにデータの急激な相関に依存することができる。 強い一般化を達成するための一つの解決策は、モデルに因果構造を組み込むことである。 本稿では,突発的特徴を継続的に検出・除去するオンラインアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-12T20:49:20Z)
• Causal Discovery from Incomplete Data: A Deep Learning Approach [21.289342482087267]
  因果構造探索と因果構造探索を反復的に行うために, 因果学習を提案する。 ICLは、異なるデータメカニズムで最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-01-15T14:28:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。