論文の概要: When Guidance Goes Off-Scale: Recalibrating Diffusion Transformers under Analog Compute-in-Memory Nonidealities

• arxiv url: http://arxiv.org/abs/2608.19644v1
• Date: Thu, 20 Aug 2026 05:21:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-21 20:28:51.453839
• Title: When Guidance Goes Off-Scale: Recalibrating Diffusion Transformers under Analog Compute-in-Memory Nonidealities
• Title（参考訳）: ガイダンスがオフスケールに進むとき: アナログ計算非理想性の下で拡散変換器をリカバリする
• Abstract要約: ディフュージョントランスフォーマー(DiT)は、サンプリングによって大きなデノイザが繰り返し評価されるため、高いメモリトラフィックとエネルギーコストを発生させる。 アナログCIMの非理想性がDiTサンプリングに与える影響を特徴付ける。 そこで本研究では,CIM条件のCFGスケールのみを調整したリトレーニングフリーのサンプル側再校正を提案する。
• 参考スコア（独自算出の注目度）: 2.005299372367689
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion Transformers (DiTs) incur high memory traffic and energy costs because sampling repeatedly evaluates large denoisers dominated by linear operations. Analog compute-in-memory (CIM) can alleviate these costs by executing linear operations within weight-storing memory arrays. However, CIM nonidealities perturb effective weights, with errors accumulating along the state-dependent denoising trajectory; their interaction with classifier-free guidance (CFG) remains underexplored. In this paper, we characterize the impact of analog CIM nonidealities on DiT sampling. Although conditional and unconditional predictions can each remain close to their clean counterparts, their difference (the CFG residual) is disproportionately attenuated and rotated. Identifying this residual as a controllable failure channel, we propose a retraining-free, sampler-side recalibration that adjusts only the CFG scale for a given CIM condition. Trajectory-level analysis shows that moderate recalibration strengthens the target-oriented component preserved in the distorted residual, enabling earlier commitment to a prompt-consistent semantic region. In contrast, excessive guidance amplifies the full noisy residual and degrades quality, resulting in a finite, noise-dependent optimum. Extensive experiments on PixArt-Sigma, PixArt-alpha, and DiT-XL/2 show that the optimal guidance scale increases with CIM noise. Using 30,000 samples per condition, guidance recalibration consistently restores generation quality across simulated CIM mappings, closing at least 87% of the CIM-induced FID gap at a CIM noise level of 0.20. It reduces FID from 59.22 to 20.49 on PixArt-Sigma, 72.37 to 21.12 on PixArt-alpha, and 20.89 to 6.62 on DiT-XL/2.
• Abstract（参考訳）: DiT(Diffusion Transformer)は,線形演算が支配する大規模デノイザのサンプリングを繰り返し評価するため,高メモリトラフィックとエネルギーコストを発生させる。 アナログ・コンピュート・イン・メモリ(CIM)は、重み付けメモリアレイ内で線形操作を実行することで、これらのコストを軽減することができる。 しかし、CIMの非理想性は有効な重みを乱し、状態依存の分極軌道に沿って誤差が蓄積され、分類器フリーガイダンス(CFG)との相互作用は未解明のままである。 本稿では,アナログCIMの非理想性がDiTサンプリングに与える影響を特徴付ける。 条件付きおよび非条件付き予測は、それぞれクリーンな予測に近づき続けることができるが、その差(CFG残差)は不均等に減衰し回転する。 この残差を制御可能な障害チャネルとして同定し、所定のCIM条件に対してCFGスケールのみを調整するリトレーニングフリーのサンプル側再校正を提案する。 軌道レベルの分析は、適度な再校正により歪んだ残留物に保存されたターゲット指向の成分が強化され、即時一貫性のあるセマンティック領域への早期のコミットメントが可能となることを示している。 対照的に、過度のガイダンスは完全ノイズ残差を増幅し、品質を低下させ、有限のノイズ依存最適化をもたらす。 PixArt-Sigma、PixArt-alpha、DiT-XL/2の大規模な実験は、CIMノイズによって最適な誘導スケールが増加することを示した。 CIMのノイズレベル0.20で、CIMが引き起こしたFIDギャップの少なくとも87%を閉じ、シミュレートされたCIMマッピング全体の生成品質を継続的に回復する。 PixArt-Sigmaでは59.22から20.49、PixArt-alphaでは72.37から21.12、DiT-XL/2では20.89から6.62に減少する。

関連論文リスト

• The Role of Gradient Modification in Heavy-Tailed Nonconvex Stochastic Min-Max Optimization [50.59470683896735]
  min-max最適化は、現代の機械学習に応用されているため、注目を集めている。 我々は、勾配降下(SGDA)の包括的理論を提供する。 我々は,Stoc-GDAMとStoc-TRmaxという新たなクリッピングフリーアルゴリズムを開発し,グラディエントクリッピングを使わずに,目標精度への最適依存を実現する。
  論文  参考訳（メタデータ） (2026-09-05T12:49:28Z)
• ASSERT: Adaptive Stochastic Sampling for Robust Diffusion Models on Analog Compute-in-Memory Hardware [13.123394042691642]
  拡散モデルは、強い画像生成品質を実現するが、高い反復的 denoising コストをもたらす。 初期高雑音化段階は最終改良段階よりもかなり脆弱であることを示す。 本稿では,早期かつスムーズな復調性を利用したトレーニングサンプルであるASSERTを提案する。
  論文  参考訳（メタデータ） (2026-09-01T09:13:10Z)
• Measured-Subspace Consistency: A Plug-and-Play Operator for Diffusion Posterior Sampling in Accelerated MRI Reconstruction [2.4827516038838064]
  加速MRI用拡散後サンプリング装置は, 精度よく再構成できるが, 得られたk-空間は試料間では不一致である。 我々は、この測定されたサブスペースリークを物理許容障害とみなす。 我々は、標準のマルチコイル整合ロックで、任意の互換画像空間後部サンプルをラップするトレーニング不要端末補正である、測定サブスペース整合性(MSC)を提案する。
  論文  参考訳（メタデータ） (2026-06-26T08:49:39Z)
• ALCL: An Adaptive Log-Correntropy Loss for Robust Learning under Non-Gaussian Noise [0.4078247440919472]
  本稿では,適応型対数コレントロピー損失(ALCL)を提案し,最適化中のロバストネスの幾何を適応的に学習する。 ALCLはMSEを一貫して上回り、再構成忠実度と下流分類精度の両方において最適にコレントロピー損失を一般化する。 これらの結果は,非ガウス環境下での学習における静的コレントロピーに基づく損失に対して,損失パラメータの連成学習による適応的ロバスト性は,計算的に効率的であることを示す。
  論文  参考訳（メタデータ） (2026-06-14T22:49:57Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Tumor-aware augmentation with task-guided attention analysis improves rectal cancer segmentation from magnetic resonance images [1.3958880590777554]
  CT-MRI転送における2つの動作障害モードを示す。 ゼロパディングによる非効率なトークンの使用は、事前訓練された入力次元と非効率な特徴適応とを一致させる。 同一の直腸MRIデータセットの微調整により、SMITでは224/247 (90.7%)、Swin UNETRでは219/247 (88.7%)に検出速度が向上した。
  論文  参考訳（メタデータ） (2026-05-06T23:46:46Z)
• Sharp Capacity Scaling of Spectral Optimizers in Learning Associative Memory [77.27772368491698]
  Muonのようなスペクトルは、最近、大規模な言語モデルトレーニングにおいて、強い経験的パフォーマンスを示している。 我々はこの問題を線形連想記憶問題を通して研究する。 また,Muonの貯蔵能力はSGDよりも有意に高いことがわかった。
  論文  参考訳（メタデータ） (2026-03-27T16:13:18Z)
• Variational Rectification Inference for Learning with Noisy Labels [74.85528327499662]
  損失関数の適応的補正を定式化するために, 変分補正推論(VRI)を提案する。 VRIは、補正ベクトルを潜在変数として扱うことによって階層ベイズとして構成される。 VRIで変分項を導入することにより、条件付き後部を正確に推定し、ディラックデルタ関数への崩壊を避ける。
  論文  参考訳（メタデータ） (2026-03-18T01:25:08Z)
• ECO: Quantized Training without Full-Precision Master Weights [58.97082407934466]
  Error-Compensating (ECO)は、量子化されたパラメータに直接更新を適用することで、マスターウェイトを除去する。 ECO は最適値の定数半径近傍に収束するが、素早いマスターウェイト除去は学習率に逆比例する誤差を生じさせる。
  論文  参考訳（メタデータ） (2026-01-29T18:35:01Z)
• Introducing Fractional Classification Loss for Robust Learning with Noisy Labels [2.312414367096445]
  適応的ロバスト損失であるフラクタル分類損失 (FCL) を導入し, トレーニング中, ラベルノイズに対するロバストさを自動的に校正する。 FCLは手動のハイパーパラメータチューニングを必要とせずに最先端の結果を達成する。
  論文  参考訳（メタデータ） (2025-08-08T14:20:52Z)
• Triply Laplacian Scale Mixture Modeling for Seismic Data Noise Suppression [51.87076090814921]
  ポーラシティに基づくテンソルリカバリ法は, 地震データノイズを抑制する大きな可能性を示している。 本研究では, 3次元ラプラシアンスケール混合(TLSM)による地震波の抑制手法を提案する。
  論文  参考訳（メタデータ） (2025-02-20T08:28:01Z)
• Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
  重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。 我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。 我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
  論文  参考訳（メタデータ） (2024-10-21T22:40:42Z)
• Consistency Trajectory Models: Learning Probability Flow ODE Trajectory of Diffusion [56.38386580040991]
  Consistency Trajectory Model (CTM) は Consistency Models (CM) の一般化である CTMは、対戦訓練とスコアマッチング損失を効果的に組み合わせることで、パフォーマンスを向上させる。 CMとは異なり、CTMのスコア関数へのアクセスは、確立された制御可能/条件生成メソッドの採用を合理化することができる。
  論文  参考訳（メタデータ） (2023-10-01T05:07:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。