論文の概要: Learning Along the Arrow of Time: Hyperbolic Geometry for Backward-Compatible Representation Learning

• arxiv url: http://arxiv.org/abs/2506.05826v1
• Date: Fri, 06 Jun 2025 07:53:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-09 17:28:43.366393
• Title: Learning Along the Arrow of Time: Hyperbolic Geometry for Backward-Compatible Representation Learning
• Title（参考訳）: 時間軸に沿った学習:後方対応型表現学習のための双曲幾何学
• Authors: Ngoc Bui, Menglin Yang, Runjin Chen, Leonardo Neves, Mingxuan Ju, Rex Ying, Neil Shah, Tong Zhao,
• Abstract要約: 後方互換性のある表現学習により、更新されたモデルが既存のモデルとシームレスに統合され、ストアドデータの再処理が回避される。 そこで我々は、時間をモデルの信頼と進化を捉えるための自然な軸として扱う、双曲幾何学への視点転換を提案する。 実験は、よりレジリエントで適応可能な機械学習システムを実現するために、互換性を達成するための提案手法の優越性を検証した。
• 参考スコア（独自算出の注目度）: 46.45124762458626
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backward compatible representation learning enables updated models to integrate seamlessly with existing ones, avoiding to reprocess stored data. Despite recent advances, existing compatibility approaches in Euclidean space neglect the uncertainty in the old embedding model and force the new model to reconstruct outdated representations regardless of their quality, thereby hindering the learning process of the new model. In this paper, we propose to switch perspectives to hyperbolic geometry, where we treat time as a natural axis for capturing a model's confidence and evolution. By lifting embeddings into hyperbolic space and constraining updated embeddings to lie within the entailment cone of the old ones, we maintain generational consistency across models while accounting for uncertainties in the representations. To further enhance compatibility, we introduce a robust contrastive alignment loss that dynamically adjusts alignment weights based on the uncertainty of the old embeddings. Experiments validate the superiority of the proposed method in achieving compatibility, paving the way for more resilient and adaptable machine learning systems.
• Abstract（参考訳）: 後方互換性のある表現学習により、更新されたモデルが既存のモデルとシームレスに統合され、ストアドデータの再処理が回避される。 近年の進歩にもかかわらず、ユークリッド空間における既存の互換性アプローチは、古い埋め込みモデルの不確実性を無視し、新しいモデルは、その品質に関わらず時代遅れの表現を再構築させ、新しいモデルの学習プロセスを妨げている。 本稿では,時間をモデルの信頼と進化を捉えるための自然な軸として扱う,双曲幾何学への視点転換を提案する。 双曲空間への埋め込みを持ち上げ、古い空間の包含円錐内にあるように更新された埋め込みを制限することにより、表現の不確かさを考慮しつつモデル間の世代的整合性を維持する。 適合性を高めるために,従来の埋め込みの不確実性に基づいて動的にアライメント重みを調整する頑健なコントラストアライメント損失を導入する。 実験は、よりレジリエントで適応可能な機械学習システムを実現するために、互換性を達成するための提案手法の優越性を検証した。

関連論文リスト

• Continual Learning in Vision-Language Models via Aligned Model Merging [84.47520899851557]
  塑性を保ちながら安定性を維持するために,モデルマージに基づく新しい視点を提案する。 マージプロセスの有効性を最大化するために,従来のものと一致した重みの学習を促進するシンプルなメカニズムを提案する。
  論文  参考訳（メタデータ） (2025-05-30T20:52:21Z)
• Prototype Perturbation for Relaxing Alignment Constraints in Backward-Compatible Learning [43.8412077229831]
  近接型原型摂動(NDPP)と最適化型原型摂動(ODPP)の2つの手法を開発した。 我々の手法は最先端のBCLアルゴリズムに対して好適に機能する。
  論文  参考訳（メタデータ） (2025-03-19T01:45:48Z)
• Boosting Alignment for Post-Unlearning Text-to-Image Generative Models [55.82190434534429]
  大規模な生成モデルは、大量のデータによって推進される印象的な画像生成能力を示している。 これはしばしば必然的に有害なコンテンツや不適切なコンテンツを生み出し、著作権の懸念を引き起こす。 学習しない反復ごとに最適なモデル更新を求めるフレームワークを提案し、両方の目的に対して単調な改善を確実にする。
  論文  参考訳（メタデータ） (2024-12-09T21:36:10Z)
• Backward-Compatible Aligned Representations via an Orthogonal Transformation Layer [20.96380700548786]
  画像検索システムは、古い表現と新しい表現のミスアライメントにより、表現が改善されたモデルを更新する際の課題に直面している。 以前の研究では、バックフィルなしで新しい表現と古い表現を直接比較できる後方互換性のあるトレーニング方法が検討されてきた。 本稿では、後方互換性と独立に訓練されたモデルの性能のバランスをとることに取り組む。
  論文  参考訳（メタデータ） (2024-08-16T15:05:28Z)
• MixBCT: Towards Self-Adapting Backward-Compatible Training [66.52766344751635]
  そこで本研究では,単純かつ高効率な後方互換性学習法であるMixBCTを提案する。 大規模顔認識データセットMS1Mv3とIJB-Cについて実験を行った。
  論文  参考訳（メタデータ） (2023-08-14T05:55:38Z)
• Neighborhood Consensus Contrastive Learning for Backward-Compatible Representation [46.86784621137665]
  古い"機能と互換性のある"新しい"機能を可能にするために、後方互換性のある表現が提案されている。 本稿では,近隣のコンセンサス・コントラスト・ラーニング(NCCL)手法を提案する。 提案手法は,新しいモデルの精度を損なうことなく後方互換性を確保する。
  論文  参考訳（メタデータ） (2021-08-07T05:50:47Z)
• Towards Backward-Compatible Representation Learning [86.39292571306395]
  異なる次元であっても,従来の計算機能と互換性のある視覚的特徴を学習する方法を提案する。 これにより、埋め込みモデルを更新する際に、以前見たすべての画像の新機能の計算を回避できる。 本稿では、後方互換表現学習の第一歩として、後方互換学習(BCT)と呼ばれる埋め込みモデルを訓練するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-26T14:34:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。