論文の概要: Self-Supervised Representation Learning via Hyperspherical Density Shaping
- arxiv url: http://arxiv.org/abs/2604.24498v1
- Date: Mon, 27 Apr 2026 14:03:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:08.066488
- Title: Self-Supervised Representation Learning via Hyperspherical Density Shaping
- Title(参考訳): 超球面密度整形による自己教師付き表現学習
- Authors: Esteban Rodríguez-Betancourt, Edgar Casasola-Murillo,
- Abstract要約: HyDeS は超球面空間内の多視点相互情報密度に基づく理論的基礎的手法である。
我々は,HyDeSが画像の前景特徴に焦点をあてる訓練されたモデルに偏りを呈し,きめ細かな分類が遅れていることを示す。
本稿では,他の理論的基盤を持つ自己教師付き学習手法の設計に使用できる潜在空間幾何学と学習力学の詳細な解析を行う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Modern self-supervised representation learning methods often relies on empirical heuristics that are not theoretically grounded. In this study we propose HyDeS, a theoretically grounded method based on multi-view mutual information maximization within an hyperspherical space using Shannon differential entropy with a non-parametric von Mises-Fisher density estimator. We show that HyDeS bias the trained model towards focusing on foreground features of the images and perform well on segmentation tasks such as VOC PASCAL, while it lags in fine-grained classification. We provide a detailed analysis of the induced latent space geometry and learning dynamics, that can be used for designing other theoretically grounded self-supervised learning methods.
- Abstract(参考訳): 現代の自己教師型表現学習法は、理論上根拠のない経験的ヒューリスティックに頼っていることが多い。
本研究では,非パラメトリックフォン・ミセス・フィッシャー密度推定器を用いたシャノン微分エントロピーを用いた超球面空間における多視点相互情報最大化に基づく理論基底法HyDeSを提案する。
我々は,HyDeSが画像の前景特徴に着目し,VOC PASCALのようなセグメンテーションタスクをうまくこなすよう訓練されたモデルに偏りを呈し,きめ細かな分類が遅れていることを示す。
本稿では,他の理論的基盤を持つ自己教師付き学習手法の設計に使用できる潜在空間幾何学と学習力学の詳細な解析を行う。
関連論文リスト
- Exploring the Precise Dynamics of Single-Layer GAN Models: Leveraging Multi-Feature Discriminators for High-Dimensional Subspace Learning [0.0]
サブスペース学習の観点から,単層GANモデルのトレーニングダイナミクスについて検討する。
解析をサブスペース学習の領域にブリッジすることで,従来の手法と比較してGAN法の有効性を体系的に比較する。
論文 参考訳(メタデータ) (2024-11-01T10:21:12Z) - Relational Learning in Pre-Trained Models: A Theory from Hypergraph Recovery Perspective [60.64922606733441]
我々は,関係学習をハイパーグラフリカバリとして形式化する数学的モデルを導入し,基礎モデル(FM)の事前学習について検討する。
我々のフレームワークでは、世界はハイパーグラフとして表現され、データはハイパーエッジからランダムなサンプルとして抽象化される。我々は、このハイパーグラフを復元するための事前学習モデル(PTM)の有効性を理論的に検証し、ミニマックスに近い最適スタイルでデータ効率を解析する。
論文 参考訳(メタデータ) (2024-06-17T06:20:39Z) - A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。
自己教師型学習のための生成潜在変数モデルを提案する。
対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
論文 参考訳(メタデータ) (2024-02-02T13:31:17Z) - A Heat Diffusion Perspective on Geodesic Preserving Dimensionality
Reduction [66.21060114843202]
熱測地線埋め込みと呼ばれるより一般的な熱カーネルベースの多様体埋め込み法を提案する。
その結果,本手法は,地中真理多様体距離の保存において,既存の技術よりも優れていることがわかった。
また,連続体とクラスタ構造を併用した単一セルRNAシークエンシングデータセットに本手法を適用した。
論文 参考訳(メタデータ) (2023-05-30T13:58:50Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - Learning Lattice Quantum Field Theories with Equivariant Continuous
Flows [10.124564216461858]
格子場理論の高次元確率分布から抽出する機械学習手法を提案する。
提案手法を$phi4$理論で検証し,提案したフローベース手法のサンプリング効率を体系的に上回っていることを示す。
論文 参考訳(メタデータ) (2022-07-01T09:20:05Z) - Deep Efficient Continuous Manifold Learning for Time Series Modeling [11.876985348588477]
対称正定値行列はコンピュータビジョン、信号処理、医療画像解析において研究されている。
本稿では,リーマン多様体とコレスキー空間の間の微分同相写像を利用する枠組みを提案する。
時系列データの動的モデリングのために,多様体常微分方程式とゲートリカレントニューラルネットワークを体系的に統合した連続多様体学習法を提案する。
論文 参考訳(メタデータ) (2021-12-03T01:38:38Z) - Graph Embedding via High Dimensional Model Representation for
Hyperspectral Images [9.228929858529678]
リモートセンシング画像の多様体構造を学習することは、モデリングおよび理解プロセスにおける最重要事項である。
ハイパスペクトル画像解析(HSI)に対処するためのマナーラーニング手法は優れた性能を示した。
この問題に対処する一般的な仮定は、高次元の入力空間と(典型的には低い)潜在空間の間の変換が線型であるということである。
提案手法は,その線形学習法とともに多様体学習法と比較し,代表的ハイパースペクトル画像の分類精度の観点から有望な性能を実現する。
論文 参考訳(メタデータ) (2021-11-29T16:42:15Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z) - A Deep Learning Approach for Predicting Spatiotemporal Dynamics From
Sparsely Observed Data [10.217447098102165]
未知偏微分方程式(PDE)によって駆動される物理過程の学習予測モデルの問題を考える。
本稿では,基礎となるダイナミクスを学習し,分散データサイトを用いてその進化を予測するディープラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2020-11-30T16:38:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。