論文の概要: A Controlled Diagnostic Study of Hardware-Induced Distortions in Hardware-Aware Training

• arxiv url: http://arxiv.org/abs/2605.09416v1
• Date: Sun, 10 May 2026 08:34:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.236919
• Title: A Controlled Diagnostic Study of Hardware-Induced Distortions in Hardware-Aware Training
• Title（参考訳）: ハードウェア・アウェア・トレーニングにおけるハードウェア誘起歪みの制御診断に関する研究
• Authors: Yunxuan Fang, Xinhe Wang,
• Abstract要約: ハードウェアアウェアトレーニング(HAT)は、非理想的AIアクセラレータ上でのニューラルネットワークの堅牢性向上に広く使用されている。 本稿では,ハードウェアの非理想性をフォワード演算子の構造化摂動としてモデル化するフレームワークを提案する。 この結果から,HATで補償できる摂動と,一貫した最適化を破る摂動の分離が明らかとなった。
• 参考スコア（独自算出の注目度）: 2.0411082897313984
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hardware-aware training (HAT) is widely used to improve the robustness of neural networks on non-ideal AI accelerators, such as analog in-memory computing (IMC) systems. However, not all hardware-induced distortions are equally compensable by training. This paper presents a diagnostic framework that models hardware non-idealities as structured perturbations of the forward operator and evaluates their compatibility with gradient-based optimization. We analyze six representative perturbation classes--read noise, variability, drift, stuck-at faults, IR-drop, and ADC discretization--and identify three key diagnostics: gradient expectation consistency, bounded gradient variance, and non-degenerate sensitivity. Our results show a clear separation between perturbations that can be compensated by HAT and those that consistently break optimization. This provides practical guidance for hardware-software co-design, clarifying which non-idealities can be addressed at the training level and which require circuit-, architecture-, or calibration-level mitigation. This study should be interpreted as a controlled empirical analysis under vanilla forward-perturbation HAT, rather than as a universal theory of hardware-aware training.
• Abstract（参考訳）: ハードウェアアウェアトレーニング(HAT)は、アナログインメモリコンピューティング(IMC)システムなど、非理想的AIアクセラレータ上でのニューラルネットワークの堅牢性向上に広く使用されている。 しかし、ハードウェアによる歪みはすべて、トレーニングによって等しく補償できるわけではない。 本稿では,ハードウェアの非理想性をフォワード演算子の構造的摂動としてモデル化し,勾配に基づく最適化との整合性を評価する。 我々は,6つの代表的な摂動クラス,可読ノイズ,変動性,ドリフト,立ち往生断層,IR-drop,ADC離散化を解析し,勾配予測整合性,有界勾配分散,非退化感度の3つの重要な診断指標を同定した。 この結果から,HATで補償できる摂動と,一貫した最適化を破る摂動の分離が明らかとなった。 これはハードウェア・ソフトウェア共同設計のための実践的なガイダンスであり、トレーニングレベルでどの非理想に対処できるかを明確にし、回路、アーキテクチャ、キャリブレーションレベルの緩和を必要とする。 本研究は,ハードウェア・アウェア・トレーニングの普遍的理論としてではなく,バニラ前方摂動HATに基づく制御的経験分析として解釈すべきである。

関連論文リスト

• Mitigating Error Amplification in Fast Adversarial Training [58.74042726356826]
  FAT(Fast Adversarial Training)は、ネットワークに摂動不変表現の学習を促すことによって、モデルロバスト性の向上に有効であることが証明されている。 FATは、しばしば破滅的なオーバーフィッティング(CO)に悩まされ、モデルがトレーニングアタックに過度に適合し、目に見えないものへの一般化に失敗する。 本稿では、摂動予算と監視信号の両方を動的に調整する分散対応動的ガイダンス(DDG)戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-27T11:23:18Z)
• Robust Reasoning and Learning with Brain-Inspired Representations under Hardware-Induced Nonlinearities [7.417780861658929]
  従来の機械学習は、高精度な算術とほぼ理想的ハードウェアの仮定に依存している。 超次元コンピューティング(HDC)に基づくハードウェア対応最適化フレームワークを提案する。 我々のソリューションは、新しいCIMハードウェアの分類と推論が可能なスケーラブルでエネルギー効率の良いインテリジェントシステムを実現する。
  論文  参考訳（メタデータ） (2026-04-13T21:35:53Z)
• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• In-memory Training on Analog Devices with Limited Conductance States via Multi-tile Residual Learning [59.091567092071564]
  インメモリトレーニングは通常、デジタルベースラインに合わせて少なくとも8ビットのコンダクタンス状態を必要とする。 ReRAMのような多くの有望な中間デバイスは、製造制約のため、約4ビットの解像度しか提供しない。 本稿では,残差を補うために複数のクロスバータイルを逐次学習する語彙学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-02T19:44:25Z)
• Extending Straight-Through Estimation for Robust Neural Networks on Analog CIM Hardware [5.100973962435092]
  本稿では,アナログ・コンピュート・イン・メモリ(CIM)システムのためのノイズアウェア・トレーニング手法を提案する。 我々は、後方勾配計算から前方雑音シミュレーションを分離し、より正確だが計算上は難解なノイズモデリングによる雑音認識訓練を可能にする。 本フレームワークは,画像分類の精度を最大5.3%向上し,テキスト生成における0.72パープレキシティ低減を実現し,トレーニング時間の2.2$times$ Speedupを実現し,ピークメモリ使用率を37.9%削減した。
  論文  参考訳（メタデータ） (2025-08-16T06:53:44Z)
• A Comparative Analysis of Reinforcement Learning and Conventional Deep Learning Approaches for Bearing Fault Diagnosis [0.0]
  回転機械の軸受欠陥は、運用上の重大な破壊とメンテナンスコストにつながる可能性がある。 断層診断の近代的手法は、振動解析と機械学習技術に大きく依存している。 本研究では, 機械条件モニタリングにおける故障分類タスクに対する強化学習(RL)の実現可能性について検討した。
  論文  参考訳（メタデータ） (2025-06-24T18:06:57Z)
• Learning A Robust RGB-Thermal Detector for Extreme Modality Imbalance [10.189143024910598]
  RGBサーマル(RGB-T)オブジェクト検出は、熱赤外(TIR)画像を用いてRGBデータを補完し、困難な条件下での堅牢性を改善する。 従来のRGB-T検出器は、両モードが等しく寄与するバランスの取れたトレーニングデータを仮定する。 本稿では,新しいベース・アンド・オシリリア検出器アーキテクチャを提案することで,これらの課題に対処する。
  論文  参考訳（メタデータ） (2025-05-28T09:18:55Z)
• GAQAT: gradient-adaptive quantization-aware training for domain generalization [54.31450550793485]
  そこで本研究では,DGのためのGAQAT(Gradient-Adaptive Quantization-Aware Training)フレームワークを提案する。 我々のアプローチは、低精度量子化におけるスケール・グラディエント・コンフリクト問題を特定することから始まる。 GAQATフレームワークの有効性を実験により検証した。
  論文  参考訳（メタデータ） (2024-12-07T06:07:21Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。