論文の概要: CheckOne: Lightweight Fault Detection and Mitigation for Vision Transformers
- arxiv url: http://arxiv.org/abs/2608.04035v1
- Date: Mon, 03 Aug 2026 07:56:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.380856
- Title: CheckOne: Lightweight Fault Detection and Mitigation for Vision Transformers
- Title(参考訳): CheckOne: 視覚変換器の軽量故障検出と緩和
- Abstract要約: この研究は、安全クリティカルなアプリケーションにおけるビジョントランスフォーマー(ViT)の信頼性を包括的に評価する。
We present CheckOne, a novel, cost- effective method for fault detection and mitigation in ViTs。
- 参考スコア(独自算出の注目度): 0.254890465057467
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The wide adoption of Vision Transformers (ViTs) in safety-critical applications raises reliability concerns related to hardware faults. Algorithm-Based Fault Tolerance (ABFT) methods have emerged as lightweight and symmetric protection mechanisms for DNNs. However, they are particularly challenging for ViTs due to their significant computational requirements. This work comprehensively evaluates the reliability of ViTs, emphasizing the need for symmetric protection in their layers. Furthermore, we present CheckOne, a novel, cost-effective method for fault detection and mitigation in ViTs that significantly reduces the computational cost compared to conventional ABFT. Through extensive experiments with multiple ViTs, CheckOne mitigates critical faults by up to $26\times$ and achieves an average 3.8x higher performance than ABFT in ViTs.
- Abstract(参考訳): 安全クリティカルなアプリケーションにおけるビジョントランスフォーマー(ViT)の広範な採用は、ハードウェアの欠陥に関する信頼性上の懸念を提起する。
アルゴリズムに基づくフォールトトレランス(ABFT)法はDNNの軽量かつ対称な保護機構として登場した。
しかし、重要な計算要求のため、ViTでは特に困難である。
この研究はViTの信頼性を包括的に評価し、層内の対称保護の必要性を強調した。
さらに,従来のABFTと比較して計算コストを大幅に削減する,新しいコスト効率の高いViTの故障検出・緩和手法であるCheckOneを提案する。
複数のViTによる広範な実験を通じて、CheckOneは臨界欠陥を最大26\times$で軽減し、ViTのABFTよりも平均3.8倍高いパフォーマンスを達成する。
関連論文リスト
- MOAT: Model-Agnostic Randomized Transformations for preventing Efficiency Degradation Attacks on ViTs [5.317090645596605]
トークンプルーニングは、精度に影響を与えることなく計算コストを削減するために広く使われている。
敵は、ViTsを効率的にするためのこのような試みを弱めるために、上記のトークンプルーニング技術に対する標的攻撃を開発した。
効率的なViT実装を保護するために,入力変換の組み合わせを適用したモデルに依存しない事前処理防衛パイプラインMOATを提案する。
論文 参考訳(メタデータ) (2026-08-05T10:47:58Z) - Efficient Adversarial Training via Criticality-Aware Fine-Tuning [59.84340722595335]
criticality-Aware Adversarial Training (CAAT) は、リソースを最も堅牢でクリティカルなパラメータに適応的に割り当てる新しい手法である。
CAATは、そのパラメータの約6%を調整しながら、敵の堅牢性をわずか4.3%減少させる。
広く使われている3つの逆学習データセットの実験では、CAATはトレーニング可能なパラメータが少なくて最先端の軽量ATメソッドより優れていることが示されている。
論文 参考訳(メタデータ) (2026-04-14T14:17:38Z) - Zero Memory Overhead Approach for Protecting Vision Transformer Parameters [0.0]
ViTパラメータをメモリオーバーヘッドゼロのビットフリップフォールトから保護するために、フォールトトレランス技術が導入された。
故障が検出された場合、影響を受けるパラメータは、ViTモデルのほとんどのパラメータがゼロに近いため、ゼロアウトによってマスクされる。
このアプローチは、ViTモデル全体の信頼性を高め、最大3桁のビットフリップに対するパラメータの堅牢性を向上させる。
論文 参考訳(メタデータ) (2025-07-04T21:32:24Z) - R-TPT: Improving Adversarial Robustness of Vision-Language Models through Test-Time Prompt Tuning [69.72249695674665]
視覚言語モデル(VLM)のためのロバストテスト時プロンプトチューニング(R-TPT)を提案する。
R-TPTは、推論段階における敵攻撃の影響を緩和する。
プラグアンドプレイの信頼性に基づく重み付きアンサンブル戦略を導入し,防御強化を図る。
論文 参考訳(メタデータ) (2025-04-15T13:49:31Z) - Exploring Self-Supervised Vision Transformers for Deepfake Detection: A Comparative Analysis [38.074487843137064]
本稿では,教師付き事前学習型視覚変換器(ViTs)と従来のニューラルネットワーク(ConvNets)とを比較し,顔深度画像やビデオの検出に有効であることを示す。
これは、特に限られたトレーニングデータを用いて、一般化と説明可能性を改善する可能性について検討する。
SSL ViTsを利用して、平易なデータによるディープフェイク検出と部分的な微調整を行い、注意機構を介してディープフェイク検出と説明可能性に匹敵する適応性を見出す。
論文 参考訳(メタデータ) (2024-05-01T07:16:49Z) - MoE-FFD: Mixture of Experts for Generalized and Parameter-Efficient Face Forgery Detection [54.545054873239295]
ディープフェイクは、最近、国民の間で重大な信頼問題とセキュリティ上の懸念を提起した。
ViT法はトランスの表現性を生かし,優れた検出性能を実現する。
この研究は、汎用的でパラメータ効率のよいViTベースのアプローチであるFace Forgery Detection (MoE-FFD)のためのMixture-of-Expertsモジュールを導入する。
論文 参考訳(メタデータ) (2024-04-12T13:02:08Z) - I&S-ViT: An Inclusive & Stable Method for Pushing the Limit of Post-Training ViTs Quantization [70.5455407146695]
我々は,ViTのPTQを包括的かつ安定した方法で制御する新しい手法であるI&S-ViTを紹介する。
I&S-ViTは3ビットのViT-Bの性能を50.68%向上させた。
論文 参考訳(メタデータ) (2023-11-16T13:07:47Z) - Soft Error Reliability Analysis of Vision Transformers [14.132398744731635]
自己注意機構を利用する視覚変換器(ViT)は、多くの古典的な視覚タスクにおいて優れた性能を示している。
既存のViTは、主に性能と精度を最適化するが、ソフトエラーによって引き起こされるViTの信頼性問題は概して見過ごされている。
本研究では,ViTの信頼性について検討し,異なるアーキテクチャの粒度の脆弱性について検討する。
論文 参考訳(メタデータ) (2023-02-21T06:17:40Z) - HeatViT: Hardware-Efficient Adaptive Token Pruning for Vision
Transformers [35.92244135055901]
HeatViTは、組み込みFPGA上の視覚変換器(ViT)のための画像適応型トークンプルーニングフレームワークである。
HeatViTは既存のViTプルーニング研究と比較して0.7%$sim$8.9%高い精度を達成できる。
HeatViTは28.4%以上のコスト削減を実現している。
論文 参考訳(メタデータ) (2022-11-15T13:00:43Z) - Q-ViT: Accurate and Fully Quantized Low-bit Vision Transformer [56.87383229709899]
我々は、完全量子化視覚変換器(Q-ViT)のための情報修正モジュール(IRM)と分配誘導蒸留法を開発した。
我々の手法は、先行技術よりもはるかに優れたパフォーマンスを実現している。
論文 参考訳(メタデータ) (2022-10-13T04:00:29Z) - Global Vision Transformer Pruning with Hessian-Aware Saliency [93.33895899995224]
この研究はヴィジュアルトランスフォーマー(ViT)モデルの共通設計哲学に挑戦する。
遅延を意識した規則化による直接遅延低減を実現し,すべての層や構造に匹敵する新しいヘッセン型構造解析基準を導出する。
DeiT-Baseモデルで反復的なプルーニングを実行すると、NViT(Novel ViT)と呼ばれる新しいアーキテクチャファミリが生まれ、パラメータをより効率的に利用する新しいパラメータが現れる。
論文 参考訳(メタデータ) (2021-10-10T18:04:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。