論文の概要: Separating Angular Alignment from Radial Ordering in Hyperbolic Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.32146v1
- Date: Fri, 23 Oct 2026 04:25:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.385771
- Title: Separating Angular Alignment from Radial Ordering in Hyperbolic Vision-Language Models
- Title(参考訳): 双曲型視覚言語モデルにおけるラジアル秩序からの角配向の分離
- Abstract要約: 我々は,角アライメントによって目的を分離する双曲型視覚言語フレームワークであるAURORAと,包含モデルのための新しいラジアル・Angularオーダーコーン(RAOC)を紹介する。
我々のモデルは、強いユークリッドおよび双曲的視覚言語ベースラインより一貫して優れている。
- 参考スコア(独自算出の注目度): 28.628296983854963
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hyperbolic vision-language models are well suited to modeling the hierarchical structure of multimodal data, because hyperbolic volume grows exponentially with radius, enabling low-distortion representations of tree-like taxonomies from general to specific concepts. However, existing pretraining objectives for hyperbolic vision-language models entangle semantic alignment with entailment modeling, forcing radial coordinates to simultaneously encode semantic matching and hierarchical structure, leading to conflicting geometric constraints. In this paper, we introduce AURORA, a hyperbolic vision-language framework that decouples the objectives through angular alignment and a novel Radial-Angular Order Cone (RAOC) for entailment modeling. Angular alignment captures semantic similarity while preserving the radial structure for representing hierarchies. Unlike conventional entailment cones, RAOC determines angular allowance from relative parent-child radial gaps. It is incorporated into hierarchical entailment contrastive training to capture partial-order relations. We further introduce a norm regularization term that prevents undesirable radial degeneration for stable training. We train models on millions of image-text pairs and evaluate them across zero-shot classification, image-text retrieval, hierarchical reasoning, and compositional understanding. Our model consistently outperforms strong Euclidean and hyperbolic vision-language baselines, demonstrating the effectiveness of decoupling semantic alignment from hierarchical entailment modeling.
- Abstract(参考訳): 双曲的視覚言語モデルは、多モードデータの階層構造をモデル化するのによく適している。
しかし、双曲型視覚言語モデルのための既存の事前学習目的は、エンテーメントモデリングと絡み合うセマンティックアライメントであり、ラジアル座標は、セマンティックマッチングと階層構造を同時にエンコードし、矛盾する幾何的制約をもたらす。
本稿では,角アライメントによって目的を疎結合する双曲型視覚言語フレームワークであるAURORAと,包含モデルのための新しいラジアル・Angularオーダーコーン(RAOC)を紹介する。
Angularアライメントは、階層を表現するためのラジアル構造を保持しながら、セマンティックな類似性をキャプチャする。
従来のエンテーメントコーンとは異なり、RAOCは相対的な親子半径ギャップから角の許容度を決定する。
これは、部分順序関係を捉えるために、階層的エンターテイメントコントラスト訓練に組み込まれている。
さらに、安定トレーニングのための望ましくないラジアル変性を防ぐノルム正規化項を導入する。
我々は、何百万もの画像テキストペアのモデルを訓練し、ゼロショット分類、画像テキスト検索、階層的推論、構成的理解にまたがってそれらを評価する。
我々のモデルは、階層的包含モデルから意味的アライメントを分離するの有効性を実証し、強ユークリッドおよび双曲的視覚言語ベースラインを一貫して上回ります。
関連論文リスト
- Learning Taxonomic Trees with Hierarchical Representation Regularization for Large Multimodal Models [47.868429337792314]
大規模なマルチモーダルモデル(LMM)は、しばしば分類学的な知識が欠如しており、階層的視覚認識(HVR)の一貫性が低い。
LMMにおける階層整合性を改善するシンプルなプラグアンドプレイ正規化器である階層表現正規化(HiR2$)を提案する。
HiR2$は、様々なLMMと微調整方法の分類構造を効果的にキャプチャする。
論文 参考訳(メタデータ) (2026-07-03T03:16:41Z) - Rank-Aware Hyperbolic Alignment for Vision-Language Dataset Distillation [54.74045834035952]
視覚言語データセット蒸留(VLDD)は、大きな画像テキストのペア化されたデータセットを小さな合成ペアに圧縮する。
階層幾何学と明示的なアライメント・キャパシティ制御を組み合わせたランク認識型双曲アライメント(RAHA)を提案する。
RAHAは、競争力のあるクロスモーダル検索と、固定予算下での転送インジケータの改善を示す。
論文 参考訳(メタデータ) (2026-06-28T15:41:31Z) - Semantic Alignment in Hyperbolic Space for Open-Vocabulary Semantic Segmentation [1.3154786509494614]
HyRoは、ポアンカレ球モデルにおける階層的および意味的なアライメントを分離する双曲的微調整フレームワークである。
標準的なオープン語彙セマンティックセグメンテーションベンチマークの実験は、HyRoが従来の手法よりも最先端のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2026-05-09T10:54:19Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-04-18T10:50:46Z) - ARGENT: Adaptive Hierarchical Image-Text Representations [12.724220731465392]
本稿では,より強力な双曲型VLMベースラインARGENT,Adaptive hieRarchical imaGe-tExt rereseNTationを導入する。
本稿では,より強力な双曲型VLMベースラインARGENT,Adaptive hieRarchical imaGe-tExt rereseNTationを提案する。
論文 参考訳(メタデータ) (2026-03-24T15:14:12Z) - Modality Gap-Driven Subspace Alignment Training Paradigm For Multimodal Large Language Models [84.78794648147608]
永続的な幾何学的異常であるモダリティギャップが残っている。
このギャップを埋める以前のアプローチは、過度に単純化された等方的仮定によってほとんど制限されている。
固定フレームモダリティギャップ理論(英語版)を提案し、モダリティギャップを安定バイアスと異方性残差に分解する。
次に、トレーニング不要なモダリティアライメント戦略であるReAlignを紹介します。
論文 参考訳(メタデータ) (2026-02-02T13:59:39Z) - Modality Alignment across Trees on Heterogeneous Hyperbolic Manifolds [49.95082206008502]
ツリーを横断するアライメントは、画像とテキストのモダリティの両方に対してツリーのような階層的な特徴を構築し、調整する手法である。
本稿では,中間トランスフォーマー層からの視覚的クラストークンにクロスアテンション機構を適用した意味認識型視覚特徴抽出フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-31T11:32:15Z) - Machine Unlearning in Hyperbolic vs. Euclidean Multimodal Contrastive Learning: Adapting Alignment Calibration to MERU [50.9588132578029]
本稿では,双曲型コントラスト学習における機械学習について検討する。
我々は、画像とテキストを双曲空間に埋め込んだモデルであるMERUにアライメントを適用し、セマンティック階層をよりよくキャプチャする。
提案手法では,双曲空間の特異性を利用したエンテーメントキャリブレーションやノルム正規化など,双曲特異成分を導入している。
論文 参考訳(メタデータ) (2025-03-19T12:47:37Z) - Group-Wise Semantic Mining for Weakly Supervised Semantic Segmentation [49.90178055521207]
この研究は、画像レベルのアノテーションとピクセルレベルのセグメンテーションのギャップを埋めることを目標に、弱い監督されたセマンティックセグメンテーション(WSSS)に対処する。
画像群における意味的依存関係を明示的にモデル化し,より信頼性の高い擬似的基盤構造を推定する,新たなグループ学習タスクとしてWSSSを定式化する。
特に、入力画像がグラフノードとして表現されるグループ単位のセマンティックマイニングのためのグラフニューラルネットワーク(GNN)を考案する。
論文 参考訳(メタデータ) (2020-12-09T12:40:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。