論文の概要: Orthogonal Low Rank Embedding Stabilization

• arxiv url: http://arxiv.org/abs/2508.07574v1
• Date: Mon, 11 Aug 2025 03:15:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-12 21:23:28.918678
• Title: Orthogonal Low Rank Embedding Stabilization
• Title（参考訳）: 直交低位埋め込み安定化
• Authors: Kevin Zielnicki, Ko-Jen Hsiao,
• Abstract要約: モデル再学習サイクルにまたがる埋め込み空間の不安定さは、下流アプリケーションに重大な課題をもたらす。 本稿では,ユーザ/イテム埋め込み空間の安定化を目的とした,新しい低ランク変換手法を提案する。
• 参考スコア（独自算出の注目度）: 0.9208007322096532
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The instability of embedding spaces across model retraining cycles presents significant challenges to downstream applications using user or item embeddings derived from recommendation systems as input features. This paper introduces a novel orthogonal low-rank transformation methodology designed to stabilize the user/item embedding space, ensuring consistent embedding dimensions across retraining sessions. Our approach leverages a combination of efficient low-rank singular value decomposition and orthogonal Procrustes transformation to map embeddings into a standardized space. This transformation is computationally efficient, lossless, and lightweight, preserving the dot product and inference quality while reducing operational burdens. Unlike existing methods that modify training objectives or embedding structures, our approach maintains the integrity of the primary model application and can be seamlessly integrated with other stabilization techniques.
• Abstract（参考訳）: モデル再学習サイクルにまたがる埋め込み空間の不安定さは、ユーザやアイテムの埋め込みを入力として、下流アプリケーションに重要な課題をもたらす。 本稿では,ユーザ/イテムの埋め込み空間を安定させ,再学習セッション間の一貫した埋め込み次元を確保するために,新しい直交低ランク変換手法を提案する。 提案手法は, 効率的な低ランク特異値分解と直交プロクリスト変換を組み合わせることで, 埋め込みを標準化された空間にマッピングする。 この変換は計算的に効率的であり、損失がなく、軽量であり、ドット積と推論品質を維持しながら、運用上の負担を軽減する。 トレーニング対象や埋め込み構造を変更する既存の方法とは異なり、本手法はプライマリモデルアプリケーションの整合性を維持し、他の安定化手法とシームレスに統合することができる。

関連論文リスト

• A Cycle-Consistency Constrained Framework for Dynamic Solution Space Reduction in Noninjective Regression [2.775364659317507]
  本稿では,サイクル一貫性に基づくデータ駆動トレーニングフレームワークを提案する。 正規化合成およびシミュレーションデータセットの実験により,提案手法が0.003未満のサイクル再構成誤差を達成することを示した。 このフレームワークは手動による介入への依存を著しく減らし、非インジェクティブ回帰タスクの潜在的な利点を示す。
  論文  参考訳（メタデータ） (2025-07-07T04:28:01Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• Efficient Text-driven Motion Generation via Latent Consistency Training [21.348658259929053]
  非線形逆拡散軌道を解くための動き潜時整合トレーニングフレームワーク(MLCT)を提案する。 これらの拡張を組み合わせることで、非画素モダリティおよび潜在表現空間における安定かつ一貫性のあるトレーニングを実現する。
  論文  参考訳（メタデータ） (2024-05-05T02:11:57Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)
• Log Barriers for Safe Black-box Optimization with Application to Safe Reinforcement Learning [72.97229770329214]
  本稿では,学習時の安全性維持が不可欠である高次元非線形最適化問題に対する一般的なアプローチを提案する。 LBSGDと呼ばれるアプローチは、慎重に選択されたステップサイズで対数障壁近似を適用することに基づいている。 安全強化学習における政策課題の違反を最小限に抑えるためのアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2022-07-21T11:14:47Z)
• An Adaptive Incremental Gradient Method With Support for Non-Euclidean Norms [19.41328109094503]
  そこで本研究では,SAGAアルゴリズムの適応型を新たにいくつか提案し,解析する。 一般的な設定の下で収束保証を確立する。 我々は、非ユークリッドノルムをサポートするためにSAGAの分析を改善した。
  論文  参考訳（メタデータ） (2022-04-28T09:43:07Z)
• Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
  視覚SLAMシステムのための新しい最適化バックボーンを提案する。 従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。 我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
  論文  参考訳（メタデータ） (2020-11-02T18:02:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。