論文の概要: OCP: Orthogonal Constrained Projection for Sparse Scaling in Industrial Commodity Recommendation
- arxiv url: http://arxiv.org/abs/2603.18697v1
- Date: Thu, 19 Mar 2026 09:57:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.074763
- Title: OCP: Orthogonal Constrained Projection for Sparse Scaling in Industrial Commodity Recommendation
- Title(参考訳): OCP:産業商品レコメンデーションにおけるスパーススケーリングのための直交制約投影
- Authors: Chen Sun, Beilin Xu, Boheng Tan, Jiacheng Wang, Yuefeng Sun, Rite Bo, Ying He, Yaqiang Zang, Pinghua Gong,
- Abstract要約: キーとなる課題は、アイテムId語彙がスパーススケーリングを受けると低周波情報干渉に悩まされることである。
埋め込み表現を最適化する直交制約投影法を提案する。
- 参考スコア(独自算出の注目度): 9.265389086960656
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In industrial commodity recommendation systems, the representation quality of Item-Id vocabularies directly impacts the scalability and generalization ability of recommendation models. A key challenge is that traditional Item-Id vocabularies, when subjected to sparse scaling, suffer from low-frequency information interference, which restricts their expressive power for massive item sets and leads to representation collapse. To address this issue, we propose an Orthogonal Constrained Projection method to optimize embedding representation. By enforcing orthogonality, the projection constrains the backpropagation manifold, aligning the singular value spectrum of the learned embeddings with the orthogonal basis. This alignment ensures high singular entropy, thereby preserving isotropic generalized features while suppressing spurious correlations and overfitting to rare items. Empirical results demonstrate that OCP accelerates loss convergence and enhances the model's scalability; notably, it enables consistent performance gains when scaling up dense layers. Large-scale industrial deployment on JD.com further confirms its efficacy, yielding a 12.97% increase in UCXR and an 8.9% uplift in GMV, highlighting its robust utility for scaling up both sparse vocabularies and dense architectures.
- Abstract(参考訳): 産業商品レコメンデーションシステムにおいて、アイテムId語彙の表現品質は、レコメンデーションモデルのスケーラビリティと一般化能力に直接影響を及ぼす。
キーとなる課題は、伝統的な Item-Id 語彙がスパーススケーリングを受けると、低周波情報干渉に悩まされ、巨大なアイテムセットに対する表現力が制限され、表現の崩壊につながることである。
この問題に対処するために,埋め込み表現を最適化する直交制約投影法を提案する。
直交性を強制することにより、射影はバックプロパゲーション多様体を制約し、学習された埋め込みの特異値スペクトルを直交基底に整列させる。
このアライメントは、高い特異エントロピーを保証し、したがって、急激な相関を抑え、希少なアイテムに過度に適合する等方的な一般化特徴を保存する。
実証的な結果は、OPPが損失収束を加速し、モデルのスケーラビリティを高めることを示しています。
JD.comの大規模産業展開はその効果をさらに確認し、UCXRは12.97%増加し、GMVは8.9%上昇した。
関連論文リスト
- Sparsity Induction for Accurate Post-Training Pruning of Large Language Models [23.002927923453118]
PTS(Post-training Sparsity)は、高密度ネットワークから重みを取り除き、モデルコストを削減する。
しかし、原生の密度の強い行列は疎度を欠いているため、重量を直接除去する既存のアプローチはモデル状態を破壊している。
刈り込み前の分布レベルと特徴レベルの両方において,より高い疎度に向けてモデルを促進するスペーサ性誘導法を提案する。
論文 参考訳(メタデータ) (2026-02-25T07:25:01Z) - Efficient Learning of Sparse Representations from Interactions [9.381985901356922]
従来の密集層の代わりに高次元スパース埋め込み層を学習するためのトレーニング戦略を提案する。
製品グレードの協調フィルタリングオートエンコーダELSAを改良し,推奨精度を損なうことなく,最大10倍の埋め込みサイズを実現した。
論文 参考訳(メタデータ) (2026-02-10T16:09:58Z) - SAGE: Sequence-level Adaptive Gradient Evolution for Generative Recommendation [8.54123828673921]
本稿では,リストワイド生成レコメンデーションに適した統一最適化フレームワークを提案する。
シーケンスレベルの信号デカップリング: 幾何平均的重要性比と分離された多目的の利点を組み合わせることにより、トークンレベルの分散を排除します。
非対称適応ダイナミクス: 超線形更新を実現するために、高強度冷間開始項目に「ブーストファクタ」を適用した動的勾配多様体を構築する。
論文 参考訳(メタデータ) (2026-01-29T09:30:13Z) - Milestones over Outcome: Unlocking Geometric Reasoning with Sub-Goal Verifiable Reward [67.00373428443879]
サブゴールレベルの評価と学習へのパラダイムシフトを導入する。
まず,厳密な形式検証データエンジンを用いたベンチマークであるGeoGoalを構築した。
本研究では,スケルトンレートに基づいて,スパース信号を高密度な報酬に置き換えるサブゴール検証リワード(SGVR)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-08T16:17:56Z) - Reinforcing Video Reasoning Segmentation to Think Before It Segments [67.5703457389657]
本稿では,ビデオ推論セグメンテーションのためのLVLMであるVeason-R1を紹介する。
Veason-R1 は、Chain-of-Thought trajectories を付加した Group Relative Policy Optimization (O) を通じて訓練される。
空間的アライメントと時間的整合性を高める包括的報酬機構を組み込んだ。
Veason-R1は、複数のベンチマークで最先端のパフォーマンスを達成し、先行技術を上回っている。
論文 参考訳(メタデータ) (2025-08-15T15:34:56Z) - Optimizing Singular Spectrum for Large Language Model Compression [95.7621116637755]
SVDの分解したコンポーネントをデータ駆動で再スケールする新しい圧縮フレームワークであるSoCoを紹介する。
学習可能な特異スペクトルのおかげで、SoCoは重要度スコアに応じて成分を適応的にプーンする。
複数のLLMおよびベンチマークでの実験的な評価は、SoCoがモデル圧縮における最先端の手法を超越していることを示している。
論文 参考訳(メタデータ) (2025-02-20T23:18:39Z) - LOBG:Less Overfitting for Better Generalization in Vision-Language Model [19.890629892640206]
視覚言語モデルのためのLOBGというフレームワークを提案する。
私たちはCLIPを使用して、オーバーフィッティングを引き起こす可能性のあるきめ細かいフォアグラウンド情報をフィルタリングし、基本的な視覚概念でプロンプトを導く。
提案手法は,最先端手法と比較して,一般化能力を大幅に向上し,過度な適合を緩和する。
論文 参考訳(メタデータ) (2024-10-14T08:06:21Z) - Source-Free Domain Adaptive Object Detection with Semantics Compensation [54.00183496587841]
Weak-to-strong Semantics Compensation (WSCo)を導入する。
WSCoは、クラス関連セマンティクスを補う。
WSCoは一般的なプラグインとして実装することができ、既存のSFODパイプラインと容易に統合できます。
論文 参考訳(メタデータ) (2024-10-07T23:32:06Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳(メタデータ) (2021-03-22T20:36:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。