論文の概要: Dataset Poisoning Attacks on Behavioral Cloning Policies

• arxiv url: http://arxiv.org/abs/2511.20992v1
• Date: Wed, 26 Nov 2025 02:47:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-27 18:37:58.929311
• Title: Dataset Poisoning Attacks on Behavioral Cloning Policies
• Title（参考訳）: 行動的クローン政策に対するデータセットの攻撃
• Authors: Akansha Kalra, Soumil Datta, Ethan Gilmore, Duc La, Guanhong Tao, Daniel S. Brown,
• Abstract要約: 行動クローニング(BC)は、教師付き学習を通じて専門家によるデモンストレーションからシーケンシャルな意思決定ポリシーをトレーニングするための一般的なフレームワークである。 我々は,BC政策に対するクリーンラベルバックドア攻撃の有効性を初めて分析した。 最小限の毒性データセットでトレーニングされたBCポリシーは、明らかに高い、ほぼベースラインのタスクパフォーマンスを示す。
• 参考スコア（独自算出の注目度）: 14.07388955398914
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Behavior Cloning (BC) is a popular framework for training sequential decision policies from expert demonstrations via supervised learning. As these policies are increasingly being deployed in the real world, their robustness and potential vulnerabilities are an important concern. In this work, we perform the first analysis of the efficacy of clean-label backdoor attacks on BC policies. Our backdoor attacks poison a dataset of demonstrations by injecting a visual trigger to create a spurious correlation that can be exploited at test time. We evaluate how policy vulnerability scales with the fraction of poisoned data, the strength of the trigger, and the trigger type. We also introduce a novel entropy-based test-time trigger attack that substantially degrades policy performance by identifying critical states where test-time triggering of the backdoor is expected to be most effective at degrading performance. We empirically demonstrate that BC policies trained on even minimally poisoned datasets exhibit deceptively high, near-baseline task performance despite being highly vulnerable to backdoor trigger attacks during deployment. Our results underscore the urgent need for more research into the robustness of BC policies, particularly as large-scale datasets are increasingly used to train policies for real-world cyber-physical systems. Videos and code are available at https://sites.google.com/view/dataset-poisoning-in-bc.
• Abstract（参考訳）: 行動クローニング(BC)は、教師付き学習を通じて専門家によるデモンストレーションからシーケンシャルな意思決定ポリシーをトレーニングするための一般的なフレームワークである。 これらのポリシーが現実世界にますます展開されているため、その堅牢性と潜在的な脆弱性は重要な懸念事項である。 本研究では,BC政策に対するクリーンラベルバックドア攻撃の有効性を初めて分析する。 私たちのバックドア攻撃は、視覚的なトリガーを注入して、テスト時に悪用できる突発的な相関を生み出すことで、デモのデータセットを害します。 有害なデータの割合、トリガーの強度、トリガータイプによって、ポリシーの脆弱性がどのようにスケールするかを評価する。 また,バックドアの試験時間トリガーが性能低下に最も有効であることが期待される臨界状態を特定することで,ポリシー性能を著しく低下させる新規なエントロピーベースのテスト時間トリガー攻撃を導入する。 我々は、最小限の毒性データセットでトレーニングされたBCポリシーが、デプロイ中にバックドアトリガー攻撃に対して非常に脆弱であるにもかかわらず、明らかに高い、ほぼベースラインのタスクパフォーマンスを示すことを実証的に実証した。 我々の結果は、特に大規模なデータセットが現実世界のサイバー物理システムのポリシーのトレーニングに使われているため、BCポリシーの堅牢性に関するさらなる研究の必要性を浮き彫りにしている。 ビデオとコードはhttps://sites.google.com/view/dataset-poisoning-in-bc.comで公開されている。

関連論文リスト

• Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations [50.1394620328318]
  既存のバックドア攻撃は主にバランスの取れたデータセットに焦点を当てている。 動的データ拡張操作(D$2$AO)という効果的なバックドア攻撃を提案する。 本手法は,クリーンな精度を維持しつつ,最先端の攻撃性能を実現することができる。
  論文  参考訳（メタデータ） (2024-10-16T18:44:22Z)
• AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
  本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。 従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。 エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
  論文  参考訳（メタデータ） (2024-07-17T17:59:47Z)
• Mellivora Capensis: A Backdoor-Free Training Framework on the Poisoned Dataset without Auxiliary Data [39.07360350023601]
  本稿では,現実シナリオにおけるバックドア攻撃対策の課題について述べる。 本稿では,モデルトレーナーが有毒なデータセット上でクリーンなモデルをトレーニングできるようにする,堅牢でクリーンなデータのないバックドア防御フレームワークであるMellivora Capensis(textttMeCa)を提案する。
  論文  参考訳（メタデータ） (2024-05-21T12:20:19Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Demystifying Poisoning Backdoor Attacks from a Statistical Perspective [35.30533879618651]
  バックドア攻撃は、そのステルス性や潜在的に深刻な影響により、重大なセキュリティリスクを引き起こす。 本稿では,一定のトリガを組み込んだバックドア攻撃の有効性を評価する。 我々の導出した理解は、識別モデルと生成モデルの両方に適用できる。
  論文  参考訳（メタデータ） (2023-10-16T19:35:01Z)
• Backdoor Attacks Against Incremental Learners: An Empirical Evaluation Study [79.33449311057088]
  本稿では,11人の典型的なインクリメンタル学習者の3つの学習シナリオに対する中毒ベースのバックドア攻撃に対する高い脆弱性を実証的に明らかにする。 アクティベーションクラスタリングに基づく防御機構は,潜在的なセキュリティリスクを軽減するためのトリガーパターンの検出に有効であることがわかった。
  論文  参考訳（メタデータ） (2023-05-28T09:17:48Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Amplifying Membership Exposure via Data Poisoning [18.799570863203858]
  本稿では,データ中毒の第3タイプについて検討し,良心的トレーニングサンプルのプライバシー漏洩リスクを高めることを目的とした。 そこで本研究では,対象クラスの加入者への露出を増幅するために,データ中毒攻撃のセットを提案する。 この結果から,提案手法は,テスト時間モデルの性能劣化を最小限に抑えることで,メンバーシップ推定精度を大幅に向上させることができることがわかった。
  論文  参考訳（メタデータ） (2022-11-01T13:52:25Z)
• DeepSweep: An Evaluation Framework for Mitigating DNN Backdoor Attacks using Data Augmentation [16.455154794893055]
  サードパーティプロバイダは、有毒なサンプルをデータセットに注入したり、Deep Learningモデルにバックドアを埋め込むことができる。 異なるバックドア攻撃に対する防御の最適方針を見いだすための体系的アプローチを提案する。 特定政策は,8種類のバックドア攻撃を効果的に軽減し,既存の5つの防御方法より優れる。
  論文  参考訳（メタデータ） (2020-12-13T08:51:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。