論文の概要: R.I.P.: A Simple Black-box Attack on Continual Test-time Adaptation

• arxiv url: http://arxiv.org/abs/2412.01154v1
• Date: Mon, 02 Dec 2024 05:55:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-04 15:49:24.873360
• Title: R.I.P.: A Simple Black-box Attack on Continual Test-time Adaptation
• Title（参考訳）: R.I.P.: テスト時間順応の簡単なブラックボックス攻撃
• Authors: Trung-Hieu Hoang, Duc Minh Vo, Minh N. Do,
• Abstract要約: テスト時間適応(TTA)は、マシンラーニングの継続的なドメインシフトに取り組むための、有望なソリューションとして登場した。 連続的なTTAモデルの性能を低下させることのできるデータサンプリングプロセスにおけるリスクの特定に成功した。
• 参考スコア（独自算出の注目度）: 12.024233973321756
• License:
• Abstract: Test-time adaptation (TTA) has emerged as a promising solution to tackle the continual domain shift in machine learning by allowing model parameters to change at test time, via self-supervised learning on unlabeled testing data. At the same time, it unfortunately opens the door to unforeseen vulnerabilities for degradation over time. Through a simple theoretical continual TTA model, we successfully identify a risk in the sampling process of testing data that could easily degrade the performance of a continual TTA model. We name this risk as Reusing of Incorrect Prediction (RIP) that TTA attackers can employ or as a result of the unintended query from general TTA users. The risk posed by RIP is also highly realistic, as it does not require prior knowledge of model parameters or modification of testing samples. This simple requirement makes RIP as the first black-box TTA attack algorithm that stands out from existing white-box attempts. We extensively benchmark the performance of the most recent continual TTA approaches when facing the RIP attack, providing insights on its success, and laying out potential roadmaps that could enhance the resilience of future continual TTA systems.
• Abstract（参考訳）: テスト時間適応(TTA)は、ラベルのないテストデータに対する自己教師型学習を通じて、モデルパラメータをテスト時に変更可能にすることによって、マシンラーニングの継続的なドメインシフトに取り組むための、有望なソリューションとして登場した。 同時に、残念なことに、時間の経過とともに劣化する可能性のある、予期せぬ脆弱性への扉を開く。 単純な理論的連続性TTAモデルを用いて、連続性TTAモデルの性能を低下させることのできるデータのサンプリングプロセスにおけるリスクの同定に成功した。 我々は、このリスクを、TTA攻撃者が一般のTTAユーザから意図しないクエリを使用または結果として使用できる不正予測の再利用(Reusing of Uncorrect Prediction, RIP)と呼んでいる。 RIPによって引き起こされるリスクは、モデルパラメータの事前の知識やテストサンプルの変更を必要としないため、非常に現実的である。 この単純な要件により、RIPは、既存のホワイトボックスの試みから際立った最初のブラックボックスTTA攻撃アルゴリズムとなる。 我々は、RIP攻撃に直面した最新の連続TTAアプローチのパフォーマンスを広範囲にベンチマークし、その成功についての洞察を提供し、将来の連続TTAシステムのレジリエンスを高める可能性のあるロードマップを策定する。

関連論文リスト

• On the Adversarial Risk of Test Time Adaptation: An Investigation into Realistic Test-Time Data Poisoning [49.17494657762375]
  テスト時間適応(TTA)は、テストデータを使用して推論段階でモデルの重みを更新し、一般化を強化する。 既存の研究では、TTAが逆方向検体で更新されると、良性検体の性能が低下することが示されている。 そこで本研究では, 良性試料にアクセスすることなく, 有毒試料を効果的かつ現実的に生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-07T01:29:19Z)
• Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
  テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。 完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
  論文  参考訳（メタデータ） (2024-04-07T22:31:34Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Persistent Test-time Adaptation in Recurring Testing Scenarios [12.024233973321756]
  現在のテスト時間適応(TTA)アプローチは、継続的に変化する環境に機械学習モデルを適用することを目的としている。 しかし,TTA法が長期にわたって適応性を維持することができるかどうかは不明である。 本稿では,モデルが崩壊に向かって変動していることを検知し,適応戦略を調整する永続的TTA(PeTTA)を提案する。
  論文  参考訳（メタデータ） (2023-11-30T02:24:44Z)
• Towards Real-World Test-Time Adaptation: Tri-Net Self-Training with Balanced Normalization [52.03927261909813]
  既存の研究は、非I.d.データストリームと連続的なドメインシフトの下での実際のテスト時間適応を主に検討している。 我々は、最先端手法の失敗は、まず不均衡なテストデータに正規化層を無差別に適応させることによって生じると論じる。 TRIBEと呼ばれる最後のTTAモデルは、バランスの取れたバッチノーム層を持つトリネットアーキテクチャ上に構築されている。
  論文  参考訳（メタデータ） (2023-09-26T14:06:26Z)
• Towards Stable Test-Time Adaptation in Dynamic Wild World [60.98073673220025]
  テスト時間適応(TTA)は、与えられたモデルをテストサンプルに適応させることで、トレーニングとテストデータの分散シフトに取り組むのに有効であることが示されている。 TTAのオンラインモデル更新は不安定であり、これはしばしば既存のTTAメソッドが現実世界にデプロイされるのを防ぐ重要な障害である。
  論文  参考訳（メタデータ） (2023-02-24T02:03:41Z)
• Uncovering Adversarial Risks of Test-Time Adaptation [41.19226800089764]
  テスト時間適応(TTA)は、分散シフトに対処するための有望な解決策として提案されている。 我々は、良性サンプルの予測が同一バッチ内の悪意のあるサンプルに影響される可能性があるという知見に基づいて、TTAの新たなセキュリティ脆弱性を明らかにする。 テストバッチに少数の悪意のあるデータを注入する分散侵入攻撃(DIA)を提案する。
  論文  参考訳（メタデータ） (2023-01-29T22:58:05Z)
• A Probabilistic Framework for Lifelong Test-Time Adaptation [34.07074915005366]
  テスト時間適応(TTA)は、異なるターゲットドメインから与えられたテスト入力(s)の推測時間で事前訓練されたソースモデルを更新する問題である。 PETAL(Probabilistic lifElong Test-time Adaptation with seLf-training prior)は,確率的アプローチを用いて生涯TTAを解決する。 本手法は, 様々なベンチマークにおいて, オンライン・ライフタイム・テスト・タイム・アダプティブの最先端技術よりも優れた結果が得られる。
  論文  参考訳（メタデータ） (2022-12-19T18:42:19Z)
• Robust Continual Test-time Adaptation: Instance-aware BN and Prediction-balanced Memory [58.72445309519892]
  テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。 a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
  論文  参考訳（メタデータ） (2022-08-10T03:05:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。