論文の概要: The Hyperspherical Geometry of CLIP Latent Space: A Semantic Mixture Model
- arxiv url: http://arxiv.org/abs/2607.13660v1
- Date: Wed, 15 Jul 2026 10:05:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.739808
- Title: The Hyperspherical Geometry of CLIP Latent Space: A Semantic Mixture Model
- Title（参考訳）: CLIP潜在空間の超球面形状:意味混合モデル
- Abstract要約: Contrastive Language-Image Pretraining (CLIP) 表現は、コサイン類似性によって支配されるセマンティック埋め込み空間を形成する。
本稿では,MovMF(MovMF)分布の混合に基づくCLIP潜伏空間の原理密度モデルを提案する。
- 参考スコア（独自算出の注目度）: 73.29820477295043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive Language-Image Pretraining (CLIP) representations form a semantic embedding space governed by cosine similarity, reflecting an intrinsic hyperspherical geometry. However, existing probabilistic interpretations typically rely on Gaussian assumptions, which fail to capture this directional and multimodal structure. We propose a principled density model for the CLIP latent space based on Mixtures of von Mises-Fisher (MovMF) distributions defined on the unit hypersphere. Using the Expectation-Maximization (EM) algorithm, we efficiently learn a probabilistic model in which each mixture component corresponds to a coherent semantic concept. This formulation yields a closed-form likelihood naturally aligned with hyperspherical geometry, enabling accurate and interpretable density estimation. Empirically, our model significantly improves long-tailed and out-of-distribution detection and provides a natural semantic decomposition, representing each embedding as a sparse probabilistic combination of interpretable concepts. These results suggest that CLIP latent space is more faithfully characterized as a hyperspherical semantic mixture rather than an isotropic Gaussian, establishing a simple and geometrically consistent probabilistic framework for modeling and understanding multimodal representations. Project page is available at https://xiaoyuzhizi.github.io/movmf-clip/.
- Abstract（参考訳）: Contrastive Language-Image Pretraining (CLIP) 表現は、コサインの類似性によって支配されるセマンティックな埋め込み空間を形成し、本質的な超球面幾何学を反映している。
しかし、既存の確率論的解釈は一般的にガウスの仮定に依存しており、これはこの方向と多様構造を捉えるのに失敗する。
単位超球面上で定義されるMovMF分布の混合に基づくCLIP潜在空間の原理密度モデルを提案する。
予測最大化(EM)アルゴリズムを用いて,各混合成分がコヒーレントな意味概念に対応する確率モデルを効率的に学習する。
この定式化は、超球面幾何学と自然に一致した閉形式となり、正確かつ解釈可能な密度推定を可能にする。
実験により,本モデルでは,長期分布検出と分布外分布検出を大幅に改善し,各埋め込みを,解釈可能な概念の疎確率的組み合わせとして表現し,自然な意味分解を提供する。
これらの結果は、CLIP潜伏空間が等方的ガウスではなく超球面意味混合としてより忠実に特徴づけられ、多モード表現をモデル化し理解するための単純で幾何的に一貫した確率的フレームワークを確立することを示唆している。
プロジェクトページはhttps://xiaoyuzhizi.github.io/movmf-clip/.com/で公開されている。
関連論文リスト
- Geometry-Aware Dataset Condensation for Diffusion Model Training [103.45641113998839]
幾何学的分布アライメント問題として,実部分集合選択を再構成することを提案する。
本手法は,一方的な部分的最適輸送を組み込むことで,コンパクトな部分集合を全データ分布に選択的に整列させる。
拡散変形, 部分集合サイズ, 画像解像度, 訓練ラウンドにおける実験により, 本手法が優れた忠実度と分布範囲を実現することを示す。
論文 参考訳（メタデータ） (2026-06-04T08:53:58Z) - Representational Capacity: Geometric Limits on Feature Representation in Transformer Language Models [51.56484100374058]
モデルがサポートできるほぼ直交方向数を推定するためのフレームワークを開発する。
このメトリックを数十のオープンソースモデルに適用すると、高い$varepsilon$を持つモデルと、それを維持する$varepsilon$の低いモデルという2つのクラスが明らかになる。
論文 参考訳（メタデータ） (2026-06-01T18:28:56Z) - The Normalized Maximum Likelihood for Regular Non-Smooth Models: Measure-Theoretic Foundations and Geometric Sampling [0.0]
非平滑モデルに対する正規化最大公約(NML)符号長を計算するための厳密なフレームワークを提供する。
古典的幾何測度理論を適用して、保守的ヤコビアンとコアレの公式をブリッジすることによって、非滑らかなモデルの複雑さがよく表されることを示す。
本研究は,非平滑モデルに対するNML符号長の理論解析の道を開くものである。
論文 参考訳（メタデータ） (2026-05-23T08:57:48Z) - A Geometric Unification of Generative AI with Manifold-Probabilistic Projection Models [3.870354915766566]
いくつかの生成モデルでは、データの低次元の性質は、低次元の潜在空間の導入によって表される。
本研究では,幾何学的枠組みとカーネルに基づく確率的手法を同時に提供することにより,幾何学的・確率的視点を統一する。
我々は,LMPPM (Latent MPPM) が様々なデータセットにおいてLDM (Latent Diffusion Model) より優れていることを示す。
論文 参考訳（メタデータ） (2025-10-01T08:50:30Z) - Learning Overspecified Gaussian Mixtures Exponentially Fast with the EM Algorithm [5.625796693054093]
過特定ガウス混合モデルに適用した場合のEMアルゴリズムの収束特性について検討する。
集団EMアルゴリズムはクルバック・リーブラー距離(KL)において指数関数的に高速に収束することを示した。
論文 参考訳（メタデータ） (2025-06-13T14:57:57Z) - QuadricFormer: Scene as Superquadrics for 3D Semantic Occupancy Prediction [49.75084732129701]
3D占有予測は、堅牢な自動運転システムにとって不可欠である。
既存の手法のほとんどは、密度の高いボクセルベースのシーン表現を使用している。
効率的な3次元占有予測のためのスーパークワッドリックモデルであるQuadricFormerを提案する。
論文 参考訳（メタデータ） (2025-06-12T17:59:45Z) - Learning over von Mises-Fisher Distributions via a Wasserstein-like Geometry [0.0]
我々は、フォン・ミセス・フィッシャー(vMF)分布の族に対する幾何対応距離計量を導入する。
最適輸送の理論により、2つの vMF 分布間の相違を2つの解釈可能な成分に分解するワッサーシュタインのような距離を提案する。
論文 参考訳（メタデータ） (2025-04-19T03:38:15Z) - Injective flows for star-like manifolds [1.4623202528810306]
我々は、星状多様体密度に対して、NFsと同じコストで、ジャコビアン行列式を正確かつ効率的に計算できることを示します。
これは特に、サンプルが入手できず、正規化されていないターゲットのみが知られているような変動推論設定に関係している。
論文 参考訳（メタデータ） (2024-06-13T13:43:59Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳（メタデータ） (2023-07-11T16:51:38Z) - Kernel Density Matrices for Probabilistic Deep Learning [8.486487001779416]
量子力学において、密度行列は量子系の状態を記述する最も一般的な方法である。
本稿では,確率的深層学習,カーネル密度行列に対する新しいアプローチを提案する。
これは連続確率変数と離散確率変数の両方の結合確率分布を表現するためのより単純で効果的なメカニズムを提供する。
論文 参考訳（メタデータ） (2023-05-26T12:59:58Z) - Optimal Scaling for Locally Balanced Proposals in Discrete Spaces [65.14092237705476]
離散空間におけるMetropolis-Hastings (M-H) アルゴリズムの効率は、対象分布に依存しない受容率によって特徴づけられることを示す。
最適受容率の知識は、連続空間におけるステップサイズ制御と直接的に類似して、離散空間における提案分布の近傍サイズを自動的に調整することを可能にする。
論文 参考訳（メタデータ） (2022-09-16T22:09:53Z) - Moser Flow: Divergence-based Generative Modeling on Manifolds [49.04974733536027]
Moser Flow (MF) は連続正規化フロー(CNF)ファミリーにおける新しい生成モデルのクラスである
MFは、訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。
一般曲面からのサンプリングにおけるフローモデルの利用を初めて実演する。
論文 参考訳（メタデータ） (2021-08-18T09:00:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。