論文の概要: Quantifying the failure of symmetry learning in linear diffusion models due to initialization and finite-sample effects

• arxiv url: http://arxiv.org/abs/2610.35720v1
• Date: Mon, 26 Oct 2026 16:39:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:14.112869
• Title: Quantifying the failure of symmetry learning in linear diffusion models due to initialization and finite-sample effects
• Title（参考訳）: 線形拡散モデルにおける初期化と有限サンプル効果による対称性学習の失敗の定量化
• Abstract要約: 非対称初期重み行列,雑音学習目標,有限サンプル雑音は,最も頑健な対称性の破れを生じることを示す。 我々は、部分空間内の対称性を含む比較的一般的な場合における平均対称性誤差の式を導出し、より小さな対称性が学習しにくいことを示す。
• 参考スコア（独自算出の注目度）: 6.230751621285321
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data distributions often possess one or more symmetries: for example, all orientations of any specific dog are included in the distribution of all possible dog pictures. Despite the omnipresence of such symmetries, modern generative modeling approaches may fail to incorporate or learn them, which can lead to lower sample efficiency and poorer generalization. To what extent do diffusion models fail to learn data distribution symmetries, and what sources of symmetry breaking are most responsible? Here, we answer this question in the theoretically tractable setting of linear diffusion models. We show that of three potential sources of symmetry breaking---a non-symmetric initial weight matrix, a noisy learning target, and finite-sample noise---target noise produces the most robust symmetry breaking, since it persists even in the sample-rich regime. Using local laws from random matrix theory, we derive formulas for average symmetry error in fairly general cases involving symmetry within a subspace and show that smaller symmetries are harder to learn.
• Abstract（参考訳）: データ分布は1つ以上の対称性を持つことが多く、例えば、特定の犬のすべての向きが、可能なすべての犬の画像の分布に含まれる。 このような対称性の完全性にもかかわらず、現代の生成的モデリングアプローチはそれらを組み込んだり学習したりすることができず、サンプル効率の低下と一般化の低さにつながる可能性がある。 拡散モデルは、どの程度データ分布対称性を学習できず、どの対称性破壊源が最も責任を負うのか? ここでは、線形拡散モデルの理論的にトラクタブルな設定でこの疑問に答える。 本研究では,非対称な初期重み行列,雑音的学習ターゲット,有限サンプル雑音の3つの潜在的な対称性破壊源が,サンプルリッチな状態でも持続するため,最も頑健な対称性破壊を生み出すことを示す。 ランダム行列理論の局所法則を用いて、部分空間内の対称性を含む比較的一般的な場合における平均対称性誤差の式を導出し、より小さな対称性が学習しにくいことを示す。

関連論文リスト

• Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration [71.51826063983434]
  画像復元は本質的に逆問題である。 非厳密対称性を制約として、復元逆問題を定式化する。 最適復元演算子の等値誤差はデータ対称性誤差と離散化メッシュサイズによって厳密に制限されていることを示す。
  論文  参考訳（メタデータ） (2026-05-13T16:22:19Z)
• Harnessing Data Asymmetry: Manifold Learning in the Finsler World [53.951528511476994]
  非対称な相似性を構築し、フィンスラー空間に埋め込むフィンスラー多様体学習パイプラインを提案する。 これにより、従来のデータよりも既存の非対称な埋め込み装置の適用性が大幅に拡大される。 制御された合成および大規模実データに対して、我々の非対称パイプラインは、従来のパイプラインで失われた貴重な情報を明らかにする。
  論文  参考訳（メタデータ） (2026-03-12T00:16:24Z)
• Learning Equivariant Models by Discovering Symmetries with Learnable Augmentations [42.879643875154194]
  SEMoLAは、学習可能なデータ拡張を通じて、データの事前未知の対称性を共同で発見するエンドツーエンドのアプローチである。 各種データセットにまたがって高い予測性能を達成しつつ,SEMoLAが関連する対称性を堅牢に発見できることを実証する。
  論文  参考訳（メタデータ） (2025-06-04T13:06:05Z)
• Learning Infinitesimal Generators of Continuous Symmetries from Data [15.42275880523356]
  1-パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案する。 この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。
  論文  参考訳（メタデータ） (2024-10-29T08:28:23Z)
• SymmetryLens: Unsupervised Symmetry Learning via Locality and Density Preservation [0.0]
  我々は、生データから始まる新しい教師なし対称性学習法を開発し、基礎となるLie群を最小限に生成する。 この方法は、近似翻訳対称性のみを用いてデータセットから画素変換演算子を学習することができる。 この対称性と局所性との結合が,エントロピー推定のために開発された最適化手法と相まって,安定したシステムを実現することを実証する。
  論文  参考訳（メタデータ） (2024-10-07T17:40:51Z)
• A Generative Model of Symmetry Transformations [44.87295754993983]
  我々はデータの近似対称性を明示的に捉えることを目的とした生成モデルを構築した。 我々は、アフィンおよび色変換の下で対称性を捕捉する能力を実証的に実証した。
  論文  参考訳（メタデータ） (2024-03-04T11:32:18Z)
• Symmetry Induces Structure and Constraint of Learning [0.0]
  機械学習モデルの学習行動に影響を及ぼすか、決定しないかにかかわらず、損失関数対称性の重要性を明らかにする。 ディープラーニングにおけるミラー対称性の一般的な例としては、再スケーリング、回転、置換対称性がある。 ニューラルネットワークにおける可塑性の喪失や様々な崩壊現象などの興味深い現象を理論的枠組みで説明できることを示す。
  論文  参考訳（メタデータ） (2023-09-29T02:21:31Z)
• On discrete symmetries of robotics systems: A group-theoretic and data-driven analysis [38.92081817503126]
  力学系の離散的形態対称性について検討する。 これらの対称性は、系の形態学における1つ以上の平面/対称性の軸の存在から生じる。 我々はこれらの対称性をデータ拡張と$G$-equivariant Neural Networkを用いて活用する。
  論文  参考訳（メタデータ） (2023-02-21T04:10:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。