論文の概要: Generalization Bounds for Equivariant Networks on Markov Data

• arxiv url: http://arxiv.org/abs/2503.00292v1
• Date: Sat, 01 Mar 2025 01:53:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 19:24:52.800383
• Title: Generalization Bounds for Equivariant Networks on Markov Data
• Title（参考訳）: マルコフデータに基づく同変ネットワークの一般化境界
• Authors: Hui Li, Zhiguo Wang, Bohui Chen, Li Sheng,
• Abstract要約: 我々は、マルコフデータセットでトレーニングされたニューラルネットワークの一般化を導出するために、新しいマクダイアルミドの不等式を導入する。 このバウンダリは、低次元既約表現の選択に関する実用的な洞察を提供し、固定幅同変ニューラルネットワークの一般化性能を向上させる。
• 参考スコア（独自算出の注目度）: 18.548000339222234
• License:
• Abstract: Equivariant neural networks play a pivotal role in analyzing datasets with symmetry properties, particularly in complex data structures. However, integrating equivariance with Markov properties presents notable challenges due to the inherent dependencies within such data. Previous research has primarily concentrated on establishing generalization bounds under the assumption of independently and identically distributed data, frequently neglecting the influence of Markov dependencies. In this study, we investigate the impact of Markov properties on generalization performance alongside the role of equivariance within this context. We begin by applying a new McDiarmid's inequality to derive a generalization bound for neural networks trained on Markov datasets, using Rademacher complexity as a central measure of model capacity. Subsequently, we utilize group theory to compute the covering number under equivariant constraints, enabling us to obtain an upper bound on the Rademacher complexity based on this covering number. This bound provides practical insights into selecting low-dimensional irreducible representations, enhancing generalization performance for fixed-width equivariant neural networks.
• Abstract（参考訳）: 等変ニューラルネットワークは、特に複雑なデータ構造において、対称性特性を持つデータセットの分析において重要な役割を果たす。 しかし、マルコフの性質と等価性を統合することは、そのようなデータに固有の依存関係があるため、顕著な課題を生じさせる。 従来の研究は、マルコフ依存の影響をしばしば無視して、独立かつ同一に分散されたデータの仮定の下で一般化境界を確立することに集中してきた。 本研究では,マルコフ特性が一般化性能に及ぼす影響と,この文脈における等分散の役割について検討する。 まず、モデルキャパシティの中央値としてRademacher複雑性を用いてマルコフデータセットでトレーニングされたニューラルネットワークの一般化を導出するために、新しいMcDiarmidの不等式を適用する。 その後、群論を利用して同変制約の下で被覆数を計算することにより、この被覆数に基づいてラデマッハ複雑性の上限を求めることができる。 このバウンダリは、低次元既約表現の選択に関する実用的な洞察を提供し、固定幅同変ニューラルネットワークの一般化性能を向上させる。

関連論文リスト

• Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
  介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。 これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
  論文  参考訳（メタデータ） (2023-06-04T02:32:12Z)
• Generalized Precision Matrix for Scalable Estimation of Nonparametric Markov Networks [11.77890309304632]
  マルコフネットワークは、確率変数の集合の中で条件独立構造またはマルコフ特性を特徴づける。 本研究では,すべてのデータ型に対する一般分布における条件独立構造を特徴付ける。 また,変数間の一般関数関係を許容し,マルコフネットワーク構造学習アルゴリズムを考案する。
  論文  参考訳（メタデータ） (2023-05-19T01:53:10Z)
• A PAC-Bayesian Generalization Bound for Equivariant Networks [15.27608414735815]
  我々は、同変ネットワークに対するノルムベースのPAC-ベイジアン一般化境界を導出する。 境界は、群のサイズ、および一般化誤差に対する可約表現の多重度と次数の影響を特徴づける。 一般に、モデルにおけるより大きなグループサイズを用いることで、広範な数値実験によって証明された一般化誤差が向上することを示す。
  論文  参考訳（メタデータ） (2022-10-24T12:07:03Z)
• Generalization capabilities of neural networks in lattice applications [0.0]
  翻訳等変ニューラルネットワークを用いた非同変ニューラルネットワークの利点について検討する。 我々の最良の同変アーキテクチャは、その非同変アーキテクチャよりも大幅に性能を向上し、一般化できることが示される。
  論文  参考訳（メタデータ） (2021-12-23T11:48:06Z)
• Decentralized Local Stochastic Extra-Gradient for Variational Inequalities [125.62877849447729]
  我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。 我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。 理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
  論文  参考訳（メタデータ） (2021-06-15T17:45:51Z)
• LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
  群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。 我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。 任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
  論文  参考訳（メタデータ） (2020-12-20T11:02:49Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)
• Generalization Error for Linear Regression under Distributed Learning [0.0]
  未知のノードがノードネットワーク上に分散されている設定について検討する。 本稿では,ノード上の未知のノードの分割に対する一般化誤差の依存性の解析的特徴について述べる。
  論文  参考訳（メタデータ） (2020-04-30T08:49:46Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)
• Generalizing Convolutional Neural Networks for Equivariance to Lie Groups on Arbitrary Continuous Data [52.78581260260455]
  任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。 同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
  論文  参考訳（メタデータ） (2020-02-25T17:40:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。