論文の概要: Trojan horse hunt in deep forecasting models: Insights from the European Space Agency competition

• arxiv url: http://arxiv.org/abs/2603.20108v1
• Date: Fri, 20 Mar 2026 16:32:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:39.237045
• Title: Trojan horse hunt in deep forecasting models: Insights from the European Space Agency competition
• Title（参考訳）: 深部予測モデルにおけるトロイの木馬狩り:欧州宇宙機関(ESA)の大会からの洞察
• Authors: Krzysztof Kotowski, Ramez Shendy, Jakub Nalepa, Agata Kaczmarek, Dawid Płudowski, Piotr Wilczyński, Artur Janicki, Przemysław Biecek, Ambros Marzetta, Atul Pande, Lalit Chandra Routhu, Swapnil Srivastava, Evridiki Ntagiou,
• Abstract要約: トロイの木馬の攻撃は 訓練データに 裏口を隠したり モデルの重みに直接隠して行われる この問題は、Trojan Horse Huntデータサイエンスコンペティションで取り上げています。 200以上のチームが、宇宙船テレメトリーの深部予測モデルに隠されたトリガーを特定するタスクに直面した。
• 参考スコア（独自算出の注目度）: 4.542216021798091
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Forecasting plays a crucial role in modern safety-critical applications, such as space operations. However, the increasing use of deep forecasting models introduces a new security risk of trojan horse attacks, carried out by hiding a backdoor in the training data or directly in the model weights. Once implanted, the backdoor is activated by a specific trigger pattern at test time, causing the model to produce manipulated predictions. We focus on this issue in our \textit{Trojan Horse Hunt} data science competition, where more than 200 teams faced the task of identifying triggers hidden in deep forecasting models for spacecraft telemetry. We describe the novel task formulation, benchmark set, evaluation protocol, and best solutions from the competition. We further summarize key insights and research directions for effective identification of triggers in time series forecasting models. All materials are publicly available on the official competition webpage https://www.kaggle.com/competitions/trojan-horse-hunt-in-space.
• Abstract（参考訳）: 宇宙操作のような近代的な安全クリティカルな応用において、予測は重要な役割を担っている。 しかし、深層予測モデルの利用の増加は、トレーニングデータにバックドアを隠したり、モデルの重みを直接隠したりすることで、トロイの木馬攻撃の新たなセキュリティリスクをもたらす。 一度移植すると、バックドアはテスト時に特定のトリガーパターンによってアクティベートされ、モデルが操作された予測を生成する。 ここでは200以上のチームが、宇宙船テレメトリの深部予測モデルに隠されたトリガーを特定するタスクに直面した。 本稿では,新しいタスクの定式化,ベンチマークセット,評価プロトコル,コンペティションのベストソリューションについて述べる。 さらに、時系列予測モデルにおけるトリガーの効果的な同定のための重要な洞察と研究の方向性を要約する。 すべての資料は公式のコンペティションWebページ https://www.kaggle.com/competitions/trojan-horse-hunt-in-spaceで公開されている。

関連論文リスト

• Trojan Horse Hunt in Time Series Forecasting for Space Operations [1.9729460379568868]
  競技の主な課題は、45個の毒入りモデルのトレーニングデータに注入された45個のトリガーのセットを再構築することである。 競争の影響は宇宙領域に限らず、高度時系列解析の他の多くの安全クリティカルな応用にも及んでいる。
  論文  参考訳（メタデータ） (2025-06-02T16:38:16Z)
• Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations [50.1394620328318]
  既存のバックドア攻撃は主にバランスの取れたデータセットに焦点を当てている。 動的データ拡張操作(D$2$AO)という効果的なバックドア攻撃を提案する。 本手法は,クリーンな精度を維持しつつ,最先端の攻撃性能を実現することができる。
  論文  参考訳（メタデータ） (2024-10-16T18:44:22Z)
• Future Events as Backdoor Triggers: Investigating Temporal Vulnerabilities in LLMs [1.8907257686468144]
  バックドアを成功させようとする悪いアクターは、トレーニングや評価の際のアクティベーションを避けるために、それらを設計する必要があります。 現在の大規模言語モデル(LLM)は、過去の出来事と将来の出来事を区別することができ、モデルのアクティベーションに関する調査で90%の精度を実現している。 私たちは、時間的分布シフトによって引き起こされるバックドアでモデルをトレーニングします。
  論文  参考訳（メタデータ） (2024-07-04T18:24:09Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
  本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。 本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Backdoor Attacks on Crowd Counting [63.90533357815404]
  クラウドカウント(Crowd counting)は、シーンイメージ内の人数を推定する回帰タスクである。 本稿では,深層学習に基づくクラウドカウントモデルのバックドア攻撃に対する脆弱性について検討する。
  論文  参考訳（メタデータ） (2022-07-12T16:17:01Z)
• WaNet -- Imperceptible Warping-based Backdoor Attack [20.289889150949836]
  サードパーティーのモデルは、通常の状況でうまく機能するようにトレーニング中に毒を盛るが、トリガーパターンが現れると悪質に振る舞う。 本稿では,サードパーティモデルに対してワーピングベースのトリガーを用いた攻撃手法を提案する。 提案したバックドアは、人間の検査試験における従来の方法よりも広いマージンで優れており、そのステルス性を証明している。
  論文  参考訳（メタデータ） (2021-02-20T15:25:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。