論文の概要: The Geometric Mechanics of Contrastive Representation Learning: Alignment Potentials, Entropic Dispersion, and Cross-Modal Divergence
- arxiv url: http://arxiv.org/abs/2601.19597v1
- Date: Tue, 27 Jan 2026 13:33:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-28 15:26:51.331642
- Title: The Geometric Mechanics of Contrastive Representation Learning: Alignment Potentials, Entropic Dispersion, and Cross-Modal Divergence
- Title(参考訳): コントラスト表現学習の幾何学的力学:アライメントポテンシャル、エントロピー分散、およびクロスモーダルディバージェンス
- Authors: Yichao Cai, Zhen Zhang, Yuhang Liu, Javen Qinfeng Shi,
- Abstract要約: 固定埋め込み多様体上の表現測度の進化として学習をモデル化する測度理論フレームワークを提案する。
大規模バッチ限界における値と整合性を確立することにより、不整合目標を明示的なエネルギー景観に橋渡しする。
この用語は,構造的幾何学的必要条件として,人口レベルのモダリティギャップを強制するバリア駆動型共適応を誘導することを示す。
- 参考スコア(独自算出の注目度): 17.501700376593174
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: While InfoNCE powers modern contrastive learning, its geometric mechanisms remain under-characterized beyond the canonical alignment--uniformity decomposition. We present a measure-theoretic framework that models learning as the evolution of representation measures on a fixed embedding manifold. By establishing value and gradient consistency in the large-batch limit, we bridge the stochastic objective to explicit deterministic energy landscapes, uncovering a fundamental geometric bifurcation between the unimodal and multimodal regimes. In the unimodal setting, the intrinsic landscape is strictly convex with a unique Gibbs equilibrium; here, entropy acts merely as a tie-breaker, clarifying "uniformity" as a constrained expansion within the alignment basin. In contrast, the symmetric multimodal objective contains a persistent negative symmetric divergence term that remains even after kernel sharpening. We show that this term induces barrier-driven co-adaptation, enforcing a population-level modality gap as a structural geometric necessity rather than an initialization artifact. Our results shift the analytical lens from pointwise discrimination to population geometry, offering a principled basis for diagnosing and controlling distributional misalignment.
- Abstract(参考訳): InfoNCEは現代のコントラスト学習を支えているが、その幾何学的メカニズムは、正準アライメント-一様分解の域を超えていない。
固定埋め込み多様体上の表現測度の進化として学習をモデル化する測度理論フレームワークを提案する。
大バッチ限界における値と勾配の整合性を確立することにより、確率的目的を明示的な決定論的エネルギー景観にブリッジし、不動状態と多モード状態の間の基本的な幾何学的分岐を明らかにする。
単調な設定では、内在的な風景は、固有のギブス平衡と厳密に凸しており、ここではエントロピーは単にタイブレーカーとして作用し、アライメント盆地内の制約された拡張として「一様」を明確にする。
対照的に、対称的マルチモーダル目的は、カーネルのシャープニング後も残る永続的な負の対称的発散項を含む。
この用語は、初期化アーティファクトではなく、構造的幾何学的必要条件として、人口レベルのモダリティギャップを強制するバリア駆動のコ適応を誘導することを示す。
本研究は, 分析レンズを個体群幾何学に転換し, 分布的不整合の診断・制御の原理的基礎を提供する。
関連論文リスト
- Random-Matrix-Induced Simplicity Bias in Over-parameterized Variational Quantum Circuits [72.0643009153473]
本稿では,観測可能な期待値とパラメータ勾配の両方がシステムサイズに指数関数的に集中するHaar型普遍性クラスに,表現的変分アンサーゼが入ることを示す。
その結果、そのような回路によって誘導される仮説クラスは、近点関数の狭い族に高い確率で崩壊する。
テンソル-ネットワークベースおよびテンソル-ハイパーネットワークパラメータ化を含むテンソル構造VQCは、ハール型普遍性クラスの外にある。
論文 参考訳(メタデータ) (2026-01-05T08:04:33Z) - Structured Basis Function Networks: Loss-Centric Multi-Hypothesis Ensembles with Controllable Diversity [46.60221265861393]
既存の予測の不確実性に対するアプローチは、多様性を促進するが原則化された集約を欠くマルチハイプセシス予測に依存している。
Structured Basis Function Networkはこのギャップに対処し、Bregmanの発散によって引き起こされる中心的な凝集を通して多仮説予測とエンハンブルをリンクする。
調整可能な多様性メカニズムは、バイアス-分散-多様性トレードオフのパラメトリック制御を提供し、多仮説一般化と損失認識アンサンブルアグリゲーションを接続する。
論文 参考訳(メタデータ) (2025-09-02T19:53:43Z) - Ultracoarse Equilibria and Ordinal-Folding Dynamics in Operator-Algebraic Models of Infinite Multi-Agent Games [0.0]
エージェントの連続体を持つ無限ゲームのための演算子代数的フレームワークを開発する。
非可換連続性方程式によって支配される後悔に基づく学習力学が、一意の量子応答平衡に収束することを証明する。
本稿では,力学の自己参照深度を測定する計算可能な順序値指標である順序折り畳み指数を導入する。
論文 参考訳(メタデータ) (2025-07-25T22:20:42Z) - Intrinsic Regularization via Curved Momentum Space: A Geometric Solution to Divergences in Quantum Field Theory [0.0]
量子場理論(QFT)における紫外線の発散は、長い間、根本的な課題であった。
運動量空間の曲面幾何学からUV正則化が自然に現れる新しい自己整合的アプローチを提案する。
我々はミンコフスキー空間へのシームレスな拡張を示し、相対論的QFTにおける正規化特性を維持する。
論文 参考訳(メタデータ) (2025-02-20T10:49:26Z) - Self-congruent point in critical matrix product states: An effective field theory for finite-entanglement scaling [6.496379207200742]
有限MPS結合次元$chi$は、固定点ハミルトニアンに対して関連する作用素による摂動を導入することと等価であることを示す。
この現象は再正規化群自己共役点を定義し、関連する結合定数は2つの効果のバランスによってフローに停止する。
論文 参考訳(メタデータ) (2024-11-06T14:35:09Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳(メタデータ) (2024-01-10T02:38:21Z) - Simultaneous Transport Evolution for Minimax Equilibria on Measures [48.82838283786807]
最小限の最適化問題は、敵対的学習や生成的モデリングなど、いくつかの重要な機械学習設定で発生する。
この研究では、代わりに混合平衡を見つけることに集中し、関連する持ち上げ問題を確率測度の空間で考察する。
エントロピー正則化を加えることで、我々の主な成果はグローバル均衡へのグローバル収束を確立する。
論文 参考訳(メタデータ) (2022-02-14T02:23:16Z) - Geometric phase in a dissipative Jaynes-Cummings model: theoretical
explanation for resonance robustness [68.8204255655161]
我々は、ユニタリモデルと散逸型Jaynes-Cummingsモデルの両方で得られた幾何位相を計算する。
散逸モデルでは、非単体効果は、空洞壁を通る光子の流出から生じる。
幾何学的位相が堅牢であることを示し、非単体進化の下で消滅する補正を示す。
論文 参考訳(メタデータ) (2021-10-27T15:27:54Z) - Localisation in quasiperiodic chains: a theory based on convergence of
local propagators [68.8204255655161]
局所プロパゲータの収束に基づく準周期鎖に最も近いホッピングを持つ局所化の理論を提示する。
これらの連続分数の収束、局所化、あるいはその欠如を分析することは可能であり、それによって臨界点とモビリティエッジが帰結する。
結果は、振る舞いの範囲をカバーする3つの準周期モデルの理論を分析することで実証される。
論文 参考訳(メタデータ) (2021-02-18T16:19:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。