論文の概要: Balancing Fidelity and Diversity in Diffusion Models via Symmetric Attention Decomposition: Hopfield Perspective

• arxiv url: http://arxiv.org/abs/2605.27476v1
• Date: Tue, 26 May 2026 11:56:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.359672
• Title: Balancing Fidelity and Diversity in Diffusion Models via Symmetric Attention Decomposition: Hopfield Perspective
• Title（参考訳）: 対称的注意分解による拡散モデルの忠実度と多様性のバランス:ホップフィールド・パースペクティブ
• Authors: Hyunmin Cho, Woo Kyoung Han, Kyong Hwan Jin,
• Abstract要約: 注意行列 $mathbfQKtop$ in transformer を対称および歪対称の部分に分解する。 ホップフィールド方式の安定性対策と世代間の多様性・多様性のトレードオフとの間に有意義な相関関係を観察する。 本稿では,このトレードオフを調節するための制御可能なノブを提案する。
• 参考スコア（独自算出の注目度）: 15.050628396348408
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We characterize the pre-softmax attention matrix $\mathbf{QK^\top}$ in transformers as an associative memory matrix encoding pairwise associations between input features. By decomposing this matrix into its symmetric and skew-symmetric parts, we interpret the symmetric component as governing the structure of the energy landscape, and the skew-symmetric component as driving circulation on that landscape. Leveraging the energy formulation induced by the symmetric component, we derive Hopfield-style stability measures that quantify the stability of retrieved features. We observe meaningful correlations between Hopfield-style stability measures and the fidelity-diversity trade-offs in generation. Finally, we propose a controllable knob to modulate this trade-off by modifying the circulation of the underlying dynamics. Code is available at our GitHub (https://github.com/hyeon-cho/Attention-Symmetric-Decomposition).
• Abstract（参考訳）: 我々は,入力特徴間の相互関連を符号化した連想記憶行列として,トランスフォーマにおけるpre-softmax attention matrix $\mathbf{QK^\top}$を特徴付ける。 この行列を対称的および歪対称な部分に分解することにより、対称成分をエネルギーランドスケープの構造と解釈し、スキュー対称成分をそのランドスケープ上の駆動循環と解釈する。 対称成分によって誘導されるエネルギーの定式化を利用して、得られた特徴の安定性を定量化するホップフィールド型安定性尺度を導出する。 ホップフィールド方式の安定性対策と世代間の多様性・多様性のトレードオフとの間に有意義な相関関係を観察する。 最後に、このトレードオフを制御可能なノブを提案し、基礎となるダイナミクスの循環を変化させることにより、そのトレードオフを調節する。 コードはGitHubで入手できる(https://github.com/hyeon-cho/Attention-Symmetric-Decomposition)。

関連論文リスト

• Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration [71.51826063983434]
  画像復元は本質的に逆問題である。 非厳密対称性を制約として、復元逆問題を定式化する。 最適復元演算子の等値誤差はデータ対称性誤差と離散化メッシュサイズによって厳密に制限されていることを示す。
  論文  参考訳（メタデータ） (2026-05-13T16:22:19Z)
• Asymmetry and dynamical criticality [0.0]
  我々は多体モデルの対称性特性と量子非対称性の測度の間に直接接続を確立する。 興味深いことに、平均的な非対称性は力学臨界点の明確な符号を示す。 非対称性の生成と熱力学的不可逆性の間に定量的な関係が発見され、非対称性のピークは最大エントロピーの生成と一致することを示した。
  論文  参考訳（メタデータ） (2026-01-31T21:06:24Z)
• Parametric resonant enhancement of motional entanglement under optimal control: an analytical study [45.88028371034407]
  我々は、クーロン相互作用を介して結合された光学的に閉じ込められた大粒子の運動自由度の間の理論的に連続的に変化する絡み合いについて検討した。 本研究では,結合強度の時間変調によるパラメトリック共鳴の詳細な解析を行う。 パラメトリックゲインとデコヒーレンスとの競合の結果、定常非平衡絡み状態が実現されることを実証する。
  論文  参考訳（メタデータ） (2025-10-21T09:01:19Z)
• Beyond the Permutation Symmetry of Transformers: The Role of Rotation for Model Fusion [43.299430093251736]
  変圧器のパラメータ空間対称性の新たな形式である回転対称性を導入する。 置換対称性とは異なり、回転対称性は連続領域で作用し、変圧器の同値集合を著しく拡大する。 モデル融合を強化するためのプラグアンドプレイモジュールとして理論的に最適なマッチングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-02-01T01:44:55Z)
• Dephasing induced long-ranged entangled pairs [0.0]
  本研究では, 近傍ホッピングが近接する一次元フェルミオン格子を, 中心地点で局所的なデファス化を受けるとみなす。 デファッシンによって引き起こされる力学は、強い対称性の下で強く緩和され、異なる対称性セクターにおける特異な定常状態を引き起こす。
  論文  参考訳（メタデータ） (2024-12-10T19:22:15Z)
• Symmetry breaking slows convergence of the ADAPT Variational Quantum Eigensolver [0.0]
  2つの強い相関系を用いたADAPT-VQEの性能に及ぼす対称性の破れの影響について検討した。 我々は、フェルミオンハミルトニアンの基準状態における対称性の破れと軌道マッピングがADAPT-VQEのコンパクト性と性能に与える影響を分析する。
  論文  参考訳（メタデータ） (2022-07-07T03:09:54Z)
• Symmetry Breaking in Symmetric Tensor Decomposition [44.181747424363245]
  我々は、対称テンソルの点階分解を計算する非対称問題を考える。 損失関数の臨界点が標準手法によって検出されることを示す。
  論文  参考訳（メタデータ） (2021-03-10T18:11:22Z)
• String order parameters for symmetry fractionalization in an enriched toric code [0.0]
  トリック符号モデルを低次元の対称性で保護された位相状態にデコレーションすることで得られる、対称性に富んだ位相秩序の単純なモデルについて検討する。 このモデルにおける対称性の分数化は弦の順序パラメータによって特徴づけられ、これらのシグネチャは外部の場や相互作用の影響下で頑健であることを示す。
  論文  参考訳（メタデータ） (2020-11-05T17:15:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。