論文の概要: Understanding and Mitigating Training Instability in Large-Scale Recommender Systems: A Cascade Perspective

• arxiv url: http://arxiv.org/abs/2610.14394v1
• Date: Fri, 09 Oct 2026 23:37:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 21:48:37.901689
• Title: Understanding and Mitigating Training Instability in Large-Scale Recommender Systems: A Cascade Perspective
• Title（参考訳）: 大規模レコメンダシステムにおけるトレーニング不安定性の理解と緩和:カスケードの視点から
• Abstract要約: 動的産業プラットフォーム上での大規模レコメンデータシステムのトレーニングは、重要な安定性の課題に直面している。 ユーザデータの迅速な分散シフトとモデル複雑性の増大は、しばしば分岐カスケードを引き起こす。 このG−W−Lカスケードはモデル収束と性能を著しく損なう。 本稿では,産業用SFVレコメンデータコンテキストにおけるG-W-Lカスケードの系統的解析について述べる。
• 参考スコア（独自算出の注目度）: 24.151981603275317
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training large-scale recommender systems on dynamic industrial platforms, such as Short-Form Video (SFV) services with billions of daily interactions, faces critical stability challenges. Rapid distribution shifts in user data and increasing model complexity frequently trigger a divergence cascade, typically initiating with gradient explosion, propagating to weight explosion, and culminating in loss explosion. This G-W-L cascade severely impedes model convergence and performance. This paper provides a systematic analysis of this G-W-L cascade within an industrial SFV recommender context. We then propose and evaluate a structured mitigation framework where interventions are explicitly mapped to counteract specific stages of the cascade: gradient (G) control, weight/activation (W) stabilization, and loss (L) shaping. Our contribution provides a structured framework for understanding and tackling training divergence, offering practical insights for deploying robust, continuously updated recommenders in large-scale, non-stationary settings. We empirically validate the effectiveness of these strategies on a major industrial SFV recommendation system.
• Abstract（参考訳）: 何十億もの日々のインタラクションを持つショートフォームビデオ(SFV)サービスなど、動的産業プラットフォーム上の大規模レコメンデータシステムのトレーニングは、重要な安定性上の課題に直面している。 ユーザデータの急激な分散シフトとモデル複雑性の増加は、しばしば分岐カスケードを誘発し、通常、勾配の爆発を起こし、重量の爆発に伝播し、損失の爆発を頂点とする。 このG−W−Lカスケードはモデル収束と性能を著しく損なう。 本稿では,産業用SFVレコメンデータコンテキストにおけるG-W-Lカスケードの系統的解析について述べる。 次に, 干渉を明示的にマッピングしてカスケードの特定の段階(勾配(G)制御, ウェイト/アクティベーション(W)安定化, ロス(L)整形)に対処する構造緩和フレームワークを提案し, 評価する。 当社のコントリビューションは,トレーニングの多様性を理解し,対処するための構造化されたフレームワークを提供しています。 主要産業用SFVレコメンデーションシステムにおけるこれらの戦略の有効性を実証的に検証する。

関連論文リスト

• When Efficiency Backfires: Cascading LLMs Trigger Cascade Failure under Adversarial Attack [22.372592967659244]
  大規模言語モデル (LLM) のカスケードシステムは、クエリを軽量モデルで処理することで効率と性能のバランスをとるように設計されている。 しかし、カスケード設計では、拡張された攻撃面を通じて新たな脆弱性が導入されている。 本研究は,LSMカスケード系が標的対向操作に感受性があることを実証する最初の研究である。
  論文  参考訳（メタデータ） (2026-05-17T06:59:43Z)
• Power Reinforcement Post-Training of Text-to-Image Models with Super-Linear Advantage Shaping [66.25536973294726]
  テキスト・トゥ・イメージ(T2I)モデルのポストトレーニング手法はハッキングに報いる傾向がある。 SLAS(Super-Linear Advantage Shaping)は、地方政策の分野を再考する。 SLASは、DanceGRPOベースラインを複数のバックボーンとベンチマークで一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-11T17:59:25Z)
• A Systematic Post-Train Framework for Video Generation [76.26555417456773]
  大規模ビデオ拡散モデルでは、高解像度でセマンティックにリッチなコンテンツを生成できることが顕著に示されている。 迅速な感度、時間的不整合、禁止的推論コストといった重要な問題のために、事前訓練されたパフォーマンスと実際のデプロイメント要件の間には、大きなギャップが残っている。 本研究では,事前学習されたモデルとユーザの意図を4つの相乗的段階を通して体系的に整合させる総合的なポストトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-28T09:34:51Z)
• Mitigating Error Amplification in Fast Adversarial Training [58.74042726356826]
  FAT(Fast Adversarial Training)は、ネットワークに摂動不変表現の学習を促すことによって、モデルロバスト性の向上に有効であることが証明されている。 FATは、しばしば破滅的なオーバーフィッティング(CO)に悩まされ、モデルがトレーニングアタックに過度に適合し、目に見えないものへの一般化に失敗する。 本稿では、摂動予算と監視信号の両方を動的に調整する分散対応動的ガイダンス(DDG)戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-27T11:23:18Z)
• Model Hemorrhage and the Robustness Limits of Large Language Models [119.46442117681147]
  大規模言語モデル(LLM)は、自然言語処理タスク全体で強力なパフォーマンスを示すが、デプロイメント用に修正された場合、大幅なパフォーマンス低下を経験する。 この現象をモデル出血(パラメータ変更とアーキテクチャ変更によるパフォーマンス低下)と定義する。
  論文  参考訳（メタデータ） (2025-03-31T10:16:03Z)
• Beyond the Kolmogorov Barrier: A Learnable Weighted Hybrid Autoencoder for Model Order Reduction [0.8021197489470758]
  我々は,コルモゴロフ障壁を克服するために,学習可能な重み付きハイブリッドオートエンコーダを提案する。 トレーニングされたモデルは、他のモデルに比べて何千倍もシャープさが小さいことを実証的に見出した。
  論文  参考訳（メタデータ） (2024-10-23T00:04:26Z)
• RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content [62.685566387625975]
  現在の緩和戦略は効果はあるものの、敵の攻撃下では弾力性がない。 本稿では,大規模言語モデルのための弾力性ガードレール(RigorLLM)について紹介する。
  論文  参考訳（メタデータ） (2024-03-19T07:25:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。