論文の概要: Sequence Generation Modeling for Continuous Value Prediction
- arxiv url: http://arxiv.org/abs/2412.20211v2
- Date: Fri, 24 Jan 2025 11:18:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-27 14:54:54.513613
- Title: Sequence Generation Modeling for Continuous Value Prediction
- Title（参考訳）: 連続値予測のためのシーケンス生成モデル
- Authors: Hongxu Ma, Kai Tian, Tao Zhang, Xuefeng Zhang, Chunjie Chen, Han Li, Jihong Guan, Shuigeng Zhou,
- Abstract要約: 連続価値予測(CVP)は、正確な数値推定を通じてユーザの好みを捉え、短いビデオレコメンデーションにおいて重要な役割を果たす。
本稿では,言語モデリングにおけるシーケンス生成技術に触発されたCVPのための新しい生成回帰フレームワークを提案する。
本手法は,予測精度を向上しつつ,元のデータの忠実さを保ちながら,構造的離散化によって数値をトークン列に変換する。
- 参考スコア（独自算出の注目度）: 35.33333441236041
- License:
- Abstract: Continuous value prediction (CVP) plays a crucial role in short video recommendation, capturing user preferences through precise numerical estimations. However, traditional regression-based methods often struggle with challenges like wide value ranges and imbalanced data, leading to prediction bias. While ordinal classification approaches have been introduced to address these issues, their reliance on discretization reduces accuracy and overlooks inherent relationships between intervals. To overcome these limitations, we introduce a novel Generative Regression (GR) framework for CVP, inspired by sequence generation techniques in language modeling. Our method transforms numerical values into token sequences through structural discretization, preserving original data fidelity while improving prediction precision. Leveraging a carefully crafted vocabulary and label encoding, GR employs curriculum learning with an embedding mixup strategy to bridge training-inference gaps. Experimental evaluations on four public datasets and one large-scale industrial dataset validate the superiority of GR over existing methods. Real-world A/B tests on Kuaishou, a leading video platform, further demonstrate its practical effectiveness. Additionally, GR proves adaptable to other regression tasks, such as Lifetime Value (LTV) prediction, showcasing its potential as a robust solution for diverse CVP challenges.
- Abstract（参考訳）: 連続価値予測(CVP)は、正確な数値推定を通じてユーザの好みを捉え、短いビデオレコメンデーションにおいて重要な役割を果たす。
しかし、従来の回帰ベースの手法は、広値範囲や不均衡なデータといった課題に苦しむことが多く、予測バイアスにつながる。
これらの問題に対処するために順序分類アプローチが導入されたが、その離散化への依存は正確さを減らし、間隔間の固有の関係を見落としている。
これらの制約を克服するために,言語モデリングにおけるシーケンス生成技術にインスパイアされた,CVPのための新しい生成回帰(GR)フレームワークを導入する。
本手法は,予測精度を向上しつつ,元のデータの忠実さを保ちながら,構造的離散化によって数値をトークン列に変換する。
GRは、慎重に構築された語彙とラベルのエンコーディングを活用し、トレーニングと推論のギャップを埋めるために、組込みミックスアップ戦略によるカリキュラム学習を採用している。
4つの公開データセットと1つの大規模産業データセットの実験的評価は、既存の手法よりもGRの優位性を検証する。
主要なビデオプラットフォームであるKuaishouにおける実世界のA/Bテストは、その実用性をさらに実証している。
さらにGRは、ライフタイムバリュー(LTV)予測などの他の回帰タスクにも適応可能であることを証明し、多様なCVP課題に対する堅牢なソリューションとしての可能性を示している。
関連論文リスト
- AdaPRL: Adaptive Pairwise Regression Learning with Uncertainty Estimation for Universal Regression Tasks [0.0]
回帰タスクのための適応型ペアワイズ学習フレームワーク(AdaPRL)を提案する。
AdaPRLは、データポイントと深い確率モデルの間の相対的な差異を利用して、予測に関連する不確実性を定量化する。
実験により、AdaPRLが最近提案された回帰フレームワークにシームレスに統合され、パフォーマンスが向上することが示された。
論文 参考訳（メタデータ） (2025-01-10T09:19:10Z) - Conformal Generative Modeling with Improved Sample Efficiency through Sequential Greedy Filtering [55.15192437680943]
生成モデルは出力に対する厳密な統計的保証を欠いている。
厳密な統計的保証を満たす予測セットを生成する逐次共形予測法を提案する。
このことは、高い確率で予測セットが少なくとも1つの許容可能な(または有効な)例を含むことを保証している。
論文 参考訳（メタデータ） (2024-10-02T15:26:52Z) - A Conditioned Unsupervised Regression Framework Attuned to the Dynamic Nature of Data Streams [0.0]
本稿では,制限付きラベル付きデータを用いたストリーミング環境の最適戦略を提案し,教師なし回帰のための適応手法を提案する。
提案手法は,初期ラベルのスパースセットを活用し,革新的なドリフト検出機構を導入する。
適応性を高めるために,Adaptive WINdowingアルゴリズムとRoot Mean Square Error (RMSE)に基づく誤り一般化アルゴリズムを統合する。
論文 参考訳（メタデータ） (2023-12-12T19:23:54Z) - Explainable Parallel RCNN with Novel Feature Representation for Time
Series Forecasting [0.0]
時系列予測はデータサイエンスにおける根本的な課題である。
RNNとCNNを組み合わせた並列ディープラーニングフレームワークを開発した。
3つのデータセットに対する大規模な実験により,本手法の有効性が明らかとなった。
論文 参考訳（メタデータ） (2023-05-08T17:20:13Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳（メタデータ） (2023-03-20T14:12:55Z) - Towards Out-of-Distribution Sequential Event Prediction: A Causal
Treatment [72.50906475214457]
シーケンシャルなイベント予測の目標は、一連の歴史的なイベントに基づいて次のイベントを見積もることである。
実際には、次のイベント予測モデルは、一度に収集されたシーケンシャルなデータで訓練される。
文脈固有の表現を学習するための階層的な分岐構造を持つフレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-24T07:54:13Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳（メタデータ） (2021-10-24T07:58:13Z) - Cluster Regularization via a Hierarchical Feature Regression [0.0]
本稿では,階層的特徴回帰(HFR)という新しいクラスタベース正規化を提案する。
機械学習とグラフ理論の領域からの洞察を動員し、予測セットの教師付き階層表現に沿ってパラメータを推定する。
経済成長予測への応用は、実証的な環境でのHFRの有効性を示すために用いられる。
論文 参考訳（メタデータ） (2021-07-10T13:03:01Z) - Robust Validation: Confident Predictions Even When Distributions Shift [19.327409270934474]
本稿では,モデルが点予測ではなく,その予測に対して不確実な推定を行うような,頑健な予測推論の手順について述べる。
本稿では, トレーニング集団の周囲に$f$-divergence のボールを用いて, 任意のテスト分布に対して適切なカバレッジレベルを与える予測セットを生成する手法を提案する。
私たちの方法論の重要な構成要素は、将来のデータシフトの量を見積り、それに対する堅牢性を構築することです。
論文 参考訳（メタデータ） (2020-08-10T17:09:16Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳（メタデータ） (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。