論文の概要: When and How to Canonize: A Generalization Perspective
- arxiv url: http://arxiv.org/abs/2605.11008v1
- Date: Sun, 10 May 2026 08:51:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.296337
- Title: When and How to Canonize: A Generalization Perspective
- Title(参考訳): キャノン化の時期と方法:一般化の展望
- Authors: Yonatan Sverdlov, Benjamin Friedman, Snir Hordan, Nadav Dym,
- Abstract要約: 群平均化法と正準化法の一般化誤差を解析するための理論的枠組みを提案する。
最適誤差境界を達成できる最適カノン化と、非不変誤差境界を達成できる貧弱なカノン化が存在することを示す。
これは、最先端のクラウドアーキテクチャにおけるヒルベルト曲線シリアライゼーションの実証的成功に対する最初の公式な理論的正当化を提供する。
- 参考スコア(独自算出の注目度): 16.912151490094192
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: While invariant architectures are standard for processing symmetric data, there is growing interest in achieving invariance by applying group averaging or canonization to non-invariant backbones. However, the theoretical generalization properties of these alternative strategies remain poorly understood. We introduce a theoretical framework to analyze the generalization error of these methods by bounding their covering numbers. We establish a rigorous generalization hierarchy: the error bounds of canonized models are at best equal to the error bounds of structurally invariant and group-averaged models, and at worst equal to the bounds of non-invariant baselines. Furthermore, we show that there exist optimal canonizations which attain the optimal error bounds, and poor canonizations which attain the non-invariant error bounds, and that this depends on the regularity of the canonization. Finally, applying this framework to permutation groups in point cloud processing, we rigorously prove that the covering number of lexicographical sorting grows exponentially with point cloud dimension, whereas Hilbert curve canonization guarantees polynomial growth. This provides the first formal theoretical justification for the empirical success of Hilbert curve serialization in state-of-the-art point cloud architectures. We conclude with experiments that support our theoretical claims. Code is available at https://github.com/yonatansverdlov/Canonization
- Abstract(参考訳): 不変アーキテクチャは対称データ処理の標準であるが、非不変バックボーンにグループ平均化やカノン化を適用することで不変性を達成することへの関心が高まっている。
しかし、これらの代替戦略の理論的一般化特性はいまだに理解されていない。
本稿では,これらの手法の一般化誤差を,その被覆数によって解析する理論的枠組みを提案する。
我々は厳密な一般化階層を確立する: 正準化モデルの誤差境界は、構造的不変および群平均化モデルの誤差境界と最適に等しく、最悪のものは非不変基底線の誤差境界と等しい。
さらに、最適誤差境界に達する最適カノン化や、非不変誤差境界に達する貧弱カノン化があり、このカノン化の正則性に依存することを示す。
最後に、このフレームワークを点クラウド処理における置換群に適用することにより、被覆する語彙的ソート数が点クラウド次元と指数関数的に増加することを厳密に証明する一方、ヒルベルト曲線のカノン化は多項式成長を保証する。
これは、最先端のクラウドアーキテクチャにおけるヒルベルト曲線シリアライゼーションの実証的成功に対する最初の公式な理論的正当化を提供する。
理論的な主張を支持する実験で締めくくります。
コードはhttps://github.com/yonatansverdlov/Canonizationで入手できる。
関連論文リスト
- Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-16T18:58:55Z) - Tree-Preconditioned Differentiable Optimization and Axioms as Layers [0.0]
Axioms-as-Layers"パラダイムは、ランダムユーティリティモデルの公理構造を直接ディープニューラルネットワークに埋め込む。
公理としてのレイヤー」パラダイムは、ペナルティに基づく手法に固有の構造的過適合を排除している。
論文 参考訳(メタデータ) (2025-12-03T04:47:37Z) - A Canonicalization Perspective on Invariant and Equivariant Learning [54.44572887716977]
フレームの設計について,本質的で完全な視点を提供する正準化の視点を導入する。
フレームと標準形式の間には固有の関係があることが示される。
既存の手法よりも厳密な固有ベクトルのための新しいフレームを設計する。
論文 参考訳(メタデータ) (2024-05-28T17:22:15Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。