論文の概要: Radial-VCReg: More Informative Representation Learning Through Radial Gaussianization
- arxiv url: http://arxiv.org/abs/2602.14272v1
- Date: Sun, 15 Feb 2026 18:50:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-17 16:22:49.854202
- Title: Radial-VCReg: More Informative Representation Learning Through Radial Gaussianization
- Title（参考訳）: Radial-VCReg: ラジアルガウス化によるよりインフォーマティブな表現学習
- Authors: Yilun Kuang, Yash Dagade, Deep Chakraborty, Erik Learned-Miller, Randall Balestriero, Tim G. J. Rudner, Yann LeCun,
- Abstract要約: 本稿では,Ci分布と特徴ノルムを整合させるラジアルガウス化損失でVCRegを増大させるラジアルVCRegを提案する。
我々は、Radar-VCRegがVCRegと比較してより広範な正規性に変換できることを証明し、連続的にパフォーマンスを向上させるための合成および実世界のデータセットを示す。
- 参考スコア（独自算出の注目度）: 49.236368760189464
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised learning aims to learn maximally informative representations, but explicit information maximization is hindered by the curse of dimensionality. Existing methods like VCReg address this by regularizing first and second-order feature statistics, which cannot fully achieve maximum entropy. We propose Radial-VCReg, which augments VCReg with a radial Gaussianization loss that aligns feature norms with the Chi distribution-a defining property of high-dimensional Gaussians. We prove that Radial-VCReg transforms a broader class of distributions towards normality compared to VCReg and show on synthetic and real-world datasets that it consistently improves performance by reducing higher-order dependencies and promoting more diverse and informative representations.
- Abstract（参考訳）: 自己教師付き学習は、最大情報表現を学習することを目的としているが、明示的な情報の最大化は、次元性の呪いによって妨げられている。
VCRegのような既存の手法は、最大エントロピーを完全に達成できない1階と2階の特徴統計を規則化することで、この問題に対処する。
本稿では,高次元ガウス分布の定義特性であるChi分布と特徴ノルムを整合させるラジアルガウス化損失でVCRegを増大させるラジアルVCRegを提案する。
我々は、Radar-VCRegがVCRegと比較してより広範な分布のクラスを正規性に変換し、高次の依存関係を減らし、より多様な情報表現を促進することによって、連続的にパフォーマンスを向上させることを示す。
関連論文リスト
- Data-Adaptive Transformed Bilateral Tensor Low-Rank Representation for Clustering [17.14664384622625]
本稿では,TBTLRRと呼ばれる二元的低ランク表現モデルを提案する。
核ノルムを任意のユニタリユニタリで統合し、グローバルデータのより効果的なキャプチャを可能にする。
画像と潜時相関の局所的相関を利用することができる。
論文 参考訳（メタデータ） (2025-10-22T23:25:44Z) - Kernel VICReg for Self-Supervised Learning in Reproducing Kernel Hilbert Space [0.15293427903448018]
Kernel VICRegは、VICRegの目的を再現するKernel Hilbert Spaceに持ち上げる自己教師型学習フレームワークである。
我々は,Kernel VICRegが表現の崩壊を避けるだけでなく,複雑なデータや小規模なデータを扱うタスクの性能を向上させることを実証した。
論文 参考訳（メタデータ） (2025-09-08T23:49:21Z) - Fast State-Augmented Learning for Wireless Resource Allocation with Dual Variable Regression [83.27791109672927]
本稿では,資源割当ポリシに対する状態拡張グラフニューラルネットワーク(GNN)のパラメトリゼーションが,ユビキタスな二段階的手法の欠点を回避する方法を示す。
ラグランジアンによる国家拡張政策の最大化は、オフライントレーニングフェーズ中に学習される。
収束結果と指数確率は、双対函数(有限値)最適性ギャップの剰余に縛られることを証明する。
論文 参考訳（メタデータ） (2025-06-23T15:20:58Z) - Highly Adaptive Ridge [84.38107748875144]
直交可積分な部分微分を持つ右連続函数のクラスにおいて,$n-2/3$自由次元L2収束率を達成する回帰法を提案する。
Harは、飽和ゼロオーダーテンソル積スプライン基底展開に基づいて、特定のデータ適応型カーネルで正確にカーネルリッジレグレッションを行う。
我々は、特に小さなデータセットに対する最先端アルゴリズムよりも経験的性能が優れていることを示す。
論文 参考訳（メタデータ） (2024-10-03T17:06:06Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳（メタデータ） (2023-06-01T15:18:55Z) - VNE: An Effective Method for Improving Deep Representation by
Manipulating Eigenvalue Distribution [2.5461557112299773]
我々は、フォン・ノイマンエントロピー(VNE)を正規化することを提案する。
まず、VNEの数学的定式化が表現自己相関行列の固有値を効果的に操作する上で優れていることを示す。
さらに、我々は、ランク、不整合、および表現の等方性との理論的関係を正式に確立する。
論文 参考訳（メタデータ） (2023-04-04T01:03:32Z) - Graph Polynomial Convolution Models for Node Classification of
Non-Homophilous Graphs [52.52570805621925]
本研究では,高階グラフ畳み込みからの効率的な学習と,ノード分類のための隣接行列から直接学習する。
得られたモデルが新しいグラフと残留スケーリングパラメータをもたらすことを示す。
提案手法は,非親和性パラメータのノード分類における精度の向上を実証する。
論文 参考訳（メタデータ） (2022-09-12T04:46:55Z) - Computer Vision Self-supervised Learning Methods on Time Series [1.30536490219656]
自己教師型学習(SSL)は両コンピュータビジョンにおいて大きな成功を収めている。
現在の主流のコンピュータビジョンのSSLフレームワークのほとんどは、Siameseネットワークアーキテクチャに基づいている。
コンピュータビジョンのSSLフレームワークは時系列でも有効であることを示す。
論文 参考訳（メタデータ） (2021-09-02T08:45:53Z) - SreaMRAK a Streaming Multi-Resolution Adaptive Kernel Algorithm [60.61943386819384]
既存のKRRの実装では、すべてのデータがメインメモリに格納される必要がある。
KRRのストリーミング版であるStreaMRAKを提案する。
本稿では,2つの合成問題と2重振り子の軌道予測について紹介する。
論文 参考訳（メタデータ） (2021-08-23T21:03:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。