論文の概要: SENTRY: Statistical Reliability Analysis of Vision Transformers Under Soft Errors

• arxiv url: http://arxiv.org/abs/2606.07620v1
• Date: Sat, 30 May 2026 11:14:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:05.084128
• Title: SENTRY: Statistical Reliability Analysis of Vision Transformers Under Soft Errors
• Title（参考訳）: SENTRY:ソフトエラー下での視覚変換器の統計的信頼性解析
• Authors: Pramit Kumar Bhaduri, Mahdi Taheri, Samira Nazari, Maksim Jenihhin, Christian Herglotz, Michael Hubner,
• Abstract要約: ViTは最先端の精度を提供するが、その膨大なパラメータは、徹底的なフォールトインジェクションキャンペーンを不可能にしている。 失敗率は、わずか数千のサンプルを使用して、99%の信頼性で1%のマージンの範囲内でバウンドされていることが示されている。 この手法は、徹底的なアプローチと比較して、実験コストの最大10,700倍の削減を実現する。
• 参考スコア（独自算出の注目度）: 2.2914260353572513
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: With the growth of Vision Transformers in safety-critical domains like autonomous systems and medical imaging, ensuring their reliability against soft errors is paramount. While ViTs offer state-of-the-art accuracy, their massive parameter counts render exhaustive fault injection campaigns infeasible. To bridge this gap, a statistical fault injection framework is presented, leveraging finite-population sampling theory to provide formal reliability guarantees. It is demonstrated that failure rates are bounded within a 1% margin at 99\% confidence using only a few thousand samples, regardless of model scale. This methodology achieves up to a 10,700 times reduction in experimental cost compared to exhaustive approaches, while preserving the ability to localize vulnerabilities across architectural components. Through extensive evaluation of different architectures like ViT-Tiny and ViT-Small, a highly non-uniform reliability landscape is uncovered. It is shown that while only 3% of FP32 bit-flips result in failure, the vast majority of these events lead to catastrophic accuracy collapse. Specific vulnerabilities are localized to normalization layers and critical exponent bits within the IEEE-754 format, providing a mathematical foundation and actionable insights for the design of hardened, edge-deployed ViT architectures.
• Abstract（参考訳）: 自律システムや医療画像などの安全クリティカルな領域におけるビジョントランスフォーマーの成長により、ソフトエラーに対する信頼性が最優先される。 ViTは最先端の精度を提供するが、その膨大なパラメーター数によって、徹底的なフォールトインジェクションキャンペーンは実現不可能である。 このギャップを埋めるために、有限人口サンプリング理論を利用して統計的故障注入フレームワークを提示し、正式な信頼性を保証する。 モデルスケールに関係なく, 失敗率はわずか数千サンプルを用いて, 信頼度99\%で1%の範囲内でバウンドされることが実証された。 この手法は、アーキテクチャコンポーネント間で脆弱性をローカライズする能力を保ちながら、徹底的なアプローチと比較して、実験コストを最大10,700倍削減する。 ViT-Tiny や ViT-Small のような異なるアーキテクチャの広範な評価により、一様でない信頼性の高いランドスケープが明らかになった。 FP32ビットフリップの3%しか失敗に至らなかったが、これらの事象の大部分は破滅的な精度の崩壊を招いた。 特定の脆弱性はIEEE-754フォーマット内の正規化レイヤと重要な指数ビットに局所化され、強化されたエッジデプロイされたViTアーキテクチャの設計のための数学的基礎と実行可能な洞察を提供する。

関連論文リスト

• TAME: Test-Time Adversarial Prompt Tuning via Mixture-of-Experts for Vision-Language Models [76.92890872338235]
  大規模事前学習型ビジョンランゲージモデル(VLM)は、強いゼロショット一般化を示すが、知覚不能な逆方向の摂動に対して非常に脆弱である。 ダウンストリームタスク固有のリトレーニングを必要とせずに堅牢性を高めるため,新しいテストタイムディフェンスであるTAMEを提案する。
  論文  参考訳（メタデータ） (2026-05-17T18:07:08Z)
• MinerU2.5-Pro: Pushing the Limits of Data-Centric Document Parsing at Scale [92.09717763663873]
  我々は、データエンジニアリングとトレーニング戦略設計を通じて、純粋に最先端の技術を進化させるMinerU2.5-Proを提案する。 コアとなるのは、カバレッジ、情報性、アノテーションの正確性を中心に設計されたData Engineだ。 我々は,MinerU2.5-Pro が OmniDocBench v1.6 上で 95.69 を達成することを示す。
  論文  参考訳（メタデータ） (2026-04-06T15:44:18Z)
• Dropout Robustness and Cognitive Profiling of Transformer Models via Stochastic Inference [0.0]
  トランスフォーマーベースの言語モデルは推論のために広くデプロイされているが、推論時間の下でのそれらの振る舞いは未探索のままである。 本研究は,サンプルあたり100フォワードパスのMC Dropoutを用いて,19の変圧器モデル間でのドロップアウト誘起変動を解析する。
  論文  参考訳（メタデータ） (2026-03-18T15:04:26Z)
• Severe Domain Shift in Skeleton-Based Action Recognition:A Study of Uncertainty Failure in Real-World Gym Environments [0.0]
  本稿では,新しいGym2DデータセットとUCF101データセットを用いて,厳しい領域シフトの体系的研究を行う。 我々の研究は、標準的なデプロイメント仮定に挑戦し、セマンティックスケルトン認識と幾何学的スケルトン認識の両方のデプロイの安全性を原則として分析する。
  論文  参考訳（メタデータ） (2026-03-16T17:37:17Z)
• Modest-Align: Data-Efficient Alignment for Vision-Language Models [67.48633659305592]
  クロスモーダルアライメントモデルは、リソース制約のある環境での運用において、過信と劣化したパフォーマンスに悩まされることが多い。 我々は,ロバスト性と効率性に配慮した軽量アライメントフレームワークであるModest-Alignを提案する。 本手法は,実世界の低リソースシナリオにおけるクロスモーダルアライメントを実現するための,実用的でスケーラブルなソリューションを提供する。
  論文  参考訳（メタデータ） (2025-10-24T16:11:10Z)
• Resilience of Vision Transformers for Domain Generalisation in the Presence of Out-of-Distribution Noisy Images [2.2124795371148616]
  マスク付き画像モデリング(MIM)で事前訓練した視覚トラスフォーマーを,OODベンチマークと比較した。 実験では、BEITの既知の堅牢性を実証し、PACSでは94%、Office-Homeでは87%の精度を維持した。 これらの洞察は、実験室で訓練されたモデルと、不確実性の下で確実に一般化するAIシステムを構築するための青写真を提供する現実世界のデプロイメントのギャップを埋めるものだ。
  論文  参考訳（メタデータ） (2025-04-05T16:25:34Z)
• Feature Statistics with Uncertainty Help Adversarial Robustness [19.01087281157066]
  敵の攻撃は 特徴統計の分布を 変える傾向がある 頑健性向上のための不確実性駆動型特徴統計調整モジュールを提案する。 提案されたFSUモジュールは、トレーニング、アタック、予測、微調整に普遍的に適用可能である。
  論文  参考訳（メタデータ） (2025-03-26T14:30:33Z)
• Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
  機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。 本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:05:36Z)
• Uncertainty-inspired Open Set Learning for Retinal Anomaly Identification [71.06194656633447]
  9つの網膜条件の基底像をトレーニングし,不確実性に着想を得たオープンセット(UIOS)モデルを構築した。 しきい値戦略を持つUIOSモデルはF1スコア99.55%、97.01%、91.91%を達成した。 UIOSは、高い不確実性スコアを正しく予測し、非ターゲットの網膜疾患、低品質の眼底画像、および非基本画像のデータセットを手動でチェックする必要があることを示唆した。
  論文  参考訳（メタデータ） (2023-04-08T10:47:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。