論文の概要: Hyperbolic Multimodal Continual Learning: A Closest-Admissible Solution
- arxiv url: http://arxiv.org/abs/2609.29329v1
- Date: Thu, 24 Sep 2026 10:04:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.830055
- Title: Hyperbolic Multimodal Continual Learning: A Closest-Admissible Solution
- Title(参考訳): 双曲型マルチモーダル連続学習 : 最接近対応型解法
- Abstract要約: 従来のマルチモーダル幾何を保存することは、すべてのモダリティを1つの共有双曲等長に制限することを意味する。
提案手法では, 共用回転を最適に維持する結合最接近許容補正法(CA)を定式化する。
- 参考スコア(独自算出の注目度): 90.3699346061366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing continual-learning methods protect parameters, replayed examples, or Euclidean feature subspaces. When applied to hyperbolic multimodal models, they do not explicitly preserve the Lorentz geometry that jointly encodes within-modality similarity, cross-modal correspondence, and semantic hierarchy; sequential updates can therefore retain task scores while still distorting previously learned relations. We address this gap with Hyperbolic Multimodal Continual Learning (HMCL). We show that preserving the old multimodal geometry amounts to restricting all modalities to one shared hyperbolic isometry, which induces a family of admissible first-order parameter changes. We formulate a joint closest-admissible (CA) correction that retains the shared rotation best matching the candidate modal updates; its minimal-rotation (MR) special case fixes this rotation to zero. Both variants correct the displacement realized by AdamW, and task anchoring bounds within-task accumulation while preserving learning freedom. Across a unified 16-task classification-retrieval stream with three hyperbolic backbones, HMCL improves final performance and backward transfer over sequential fine-tuning and four continual-learning baselines; HMCL-CA gives the highest Overall score on every backbone. A modality-extended stream confirms the retrieval gains. Representation analyses find 81.2 to 95.5 percent less radial, angular, cross-modal, and paired-distance drift; ImageNet-WordNet results show better semantic ancestry and radial hierarchy.
- Abstract(参考訳): 既存の継続学習手法はパラメータ、再生例、ユークリッド特徴部分空間を保護している。
双曲的マルチモーダルモデルに適用した場合、それらは、モダリティ内類似性、クロスモーダル対応、セマンティック階層を共同で符号化するローレンツ幾何学を明示的に保持しない。
本稿では,ハイパーボリック・マルチモーダル連続学習(HMCL)を用いて,このギャップに対処する。
従来のマルチモーダル幾何を保存することは、すべてのモダリティを1つの共有双曲等方性に制限し、許容される1次パラメータの変化の族を誘導することを示す。
我々は, 最小回転 (MR) の特別な場合において, この回転を0に補正する, 共用回転を最適に維持する関節最接近許容 (CA) 補正を定式化する。
どちらの変種もAdamWによって実現された変位を補正し、タスクアンカーは学習の自由を維持しながらタスク内蓄積を制限している。
HMCLは3つの双曲バックボーンを持つ16タスクの分類検索ストリーム全体にわたって、シーケンシャルな微調整と4つの連続的な学習ベースラインによる最終的なパフォーマンスと後方転送を改善し、HMCL-CAは各バックボーンで最高スコアを与える。
モダリティ拡張ストリームは、検索ゲインを確認する。
表現解析では、ラジアル、角、クロスモーダル、ペア距離のドリフトが81.2から95.5%減少し、ImageNet-WordNetの結果はよりセマンティックな祖先とラジアル階層を示す。
関連論文リスト
- AlphaWiSE: Adaptive Weight Interpolation for Continual Multimodal Representation Learning [10.564283891708273]
2つの凍結したソースチェックポイントを構成するポストホックな重み空間法であるAlphaWiSEを提案する。
音声画像テキスト検索実験は、強い連続学習例よりも一貫した改善を示す。
論文 参考訳(メタデータ) (2026-07-16T15:07:23Z) - MSNN-LINet: Cross-Modal Learning via Continuous Linear Integration [0.0]
RGB-Dシーン分類のためのマルチストリームニューラルネットワーク(MSNN)LINetを提案する。
liconv2dオペレータは、各レイヤで連続的なクロスモーダル学習を可能にする。
LINetは、ResNet18スケールで45.2%の平均クラス精度に達し、非スクラッチ結果よりも優れ、ドメイン内RGB-D(ScanNet)事前トレーニングで49.6%向上した。
論文 参考訳(メタデータ) (2026-06-30T05:06:02Z) - Cross-Modal Retrieval with Cauchy-Schwarz Divergence [26.94915416778522]
クロスモーダル検索では、不均一なデータ型を堅牢にアライメントする必要がある。
既存の手法の多くは、Kullback-Leiblerの発散のような分布アライメント技術に依存している。
本稿では、トレーニング安定性と検索性能の両方を改善するハイパーパラメータフリー尺度であるCauchy-Schwarz(CS)の発散について紹介する。
論文 参考訳(メタデータ) (2025-09-15T08:55:15Z) - Principled Multimodal Representation Learning [99.53621521696051]
マルチモーダル表現学習は、多様なデータモダリティを統合することにより、統一された表現空間を作ろうとする。
最近の進歩は、複数のモードの同時アライメントを調査しているが、いくつかの課題が残っている。
複数モーダルの同時アライメントを実現する新しいフレームワークであるPMRL(Principled Multimodal Representation Learning)を提案する。
論文 参考訳(メタデータ) (2025-07-23T09:12:25Z) - Gramian Multimodal Representation Learning and Alignment [5.793118803623239]
グラミアン表現アライメント尺度(GRAM)について紹介する。
GRAMは、モダリティ埋め込みが横たわる高次元空間において、$n$モダリティを学習し、アライメントする。
GRAMに基づく新しいコントラスト損失関数は、高次元埋め込み空間におけるマルチモーダルモデルのアライメントを高める。
論文 参考訳(メタデータ) (2024-12-16T16:41:51Z) - Meta-Learning Adversarial Bandit Algorithms [55.72892209124227]
我々は,バンディットフィードバックを用いたオンラインメタラーニングについて研究する。
我々は自己協和障壁正規化器を用いてオンラインミラー降下一般化(OMD)をチューニングすることを学ぶ。
論文 参考訳(メタデータ) (2023-07-05T13:52:10Z) - Boosting Continuous Sign Language Recognition via Cross Modality
Augmentation [135.30357113518127]
連続手話認識は不整合のビデオテキストペアを扱う。
クロスモーダル拡張を用いた新しいアーキテクチャを提案する。
提案するフレームワークは、既存のCTCベースの連続SLRアーキテクチャに容易に拡張できる。
論文 参考訳(メタデータ) (2020-10-11T15:07:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。