論文の概要: Training with Missed Targets in Generative Recommendation: Separating Supervision from Probability Competition
- arxiv url: http://arxiv.org/abs/2610.10124v1
- Date: Wed, 07 Oct 2026 14:07:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.952649
- Title: Training with Missed Targets in Generative Recommendation: Separating Supervision from Probability Competition
- Title(参考訳): ジェネレーティブ・レコメンデーションにおける失敗目標のトレーニング--確率競争からのスーパービジョンの分離
- Abstract要約: ジェネレーティブレコメンデータは、限られた候補セットを返却し、再ランクする前に観測対象を省略する。
トレーニング戦略では、これらの欠落したターゲットをリランカーのトレーニングリストに追加するが、推論は元の候補のみをランク付けする。
この操作は、検索対象重量を同時に変更し、追加対象に対する監督を追加し、2つのグループに確率を競わせる。
- 参考スコア(独自算出の注目度): 17.35447194004094
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative recommenders return a limited candidate set and may omit observed targets before reranking. A training strategy appends these missed targets to reranker training lists, although inference still ranks only original candidates. This operation simultaneously changes retrieved-target weight, adds supervision over appended targets, and makes the two groups compete for probability. An append/no-append comparison therefore cannot explain changes in returned-item rankings. We construct three matched losses that hold retrieved-target weight fixed while introducing appended-target supervision and group competition separately. The intermediate loss trains within both groups but normalizes them separately, preventing training-only targets from competing with inference candidates. Experiments with a released OneRec model and locally trained Amazon generators show that this competition can harm returned-item ranking. In four prespecified Amazon Video Games comparisons, removing it improved full-target normalized discounted cumulative gain (FT-NDCG) by 7.8--22.2\%; 95\% intervals over users and three of four intervals over training runs excluded zero. A conservative development-set rule selected appended-target training for two of three generators in one held-out category and rejected it for all three in another, avoiding a 1.7\% loss. Candidate completion should therefore be evaluated for each generator rather than applied automatically.
- Abstract(参考訳): ジェネレーティブレコメンデータは、限られた候補セットを返却し、再ランクする前に観測対象を省略する。
トレーニング戦略では、これらの欠落したターゲットをリランカーのトレーニングリストに追加するが、推論は元の候補のみをランク付けする。
この操作は、検索対象重量を同時に変更し、追加対象に対する監督を追加し、2つのグループに確率を競わせる。
従って、append/no-appendの比較では、返却イテムランキングの変更は説明できない。
我々は,付加目標監督とグループ競争を別々に導入しながら,回収目標重量を固定した3つの一致損失を構築した。
中間損失列車は両グループ内の列車は別々に正規化され、トレーニング専用ターゲットが推論候補と競合するのを防ぐ。
リリースされたOneRecモデルとローカルにトレーニングされたAmazonジェネレータによる実験は、この競合がリターンイテムランキングを損なう可能性があることを示している。
4つのAmazon Video Games比較において、フルターゲット正規化割引累積ゲイン(FT-NDCG)を7.8-22.2\%、ユーザー95\%、トレーニング4インターバルのうち3つはゼロとなった。
保守的な開発セットルールでは、3つのジェネレータのうち1つのホールトアウトカテゴリーで2つの追加ターゲットトレーニングを選択し、他の3つすべてに対して1.7\%の損失を免れた。
したがって、自動的に適用するのではなく、各ジェネレータに対して候補完了を評価する必要がある。
関連論文リスト
- Learned Reporting Preferences in RLVR Can Conflict with the Current Request [19.531321651869565]
我々は2つの報告規約の下で政策を訓練し、それぞれの政策を現在の両方の要求の下で評価する。
ボックス式RLVRは要求されたハッシュフォーマットペイロードを含むQwen2.5-7B応答の割合を35.33~74.37ポイント削減する。
教師付きターゲットにおける最終回答マーカーだけを変更すると、モデルが3つのシードで好むレポートの規則が逆転する。
論文 参考訳(メタデータ) (2026-09-29T03:05:29Z) - $T^5$: Twin-Critic Training for Token-Level Thoughts in Reinforcement Mid-Training [38.44142588468548]
既存のグループ相対法では、コストがかかる。
単一生成軌道からトークンレベルの利点を校正するツインクリティカルな方法であるtfourを提案する。
実験の結果、最先端の批判のない手法と比較して、tfourは平均ベンチマーク性能を7.8%改善し、平均トレーニングステップ時間を63.4%削減した。
論文 参考訳(メタデータ) (2026-09-26T17:07:57Z) - Evaluating Model Retraining under Drift: Paired Comparisons of Cumulative Subgroup Disparity [0.0]
我々は、スケジュール、損失トリガー、サブグループギャップトリガーされたポリシーを、同じ観測と遅延ラベルに対する初期モデルを維持することで比較する。
これら3つの政策は平均累積差が低く、ウィンドウごとの平均ギャップにおける0.04から0.88ポイントの減少に相当する。
サブグループ特異的なドリフトでは, 両者の感度が低下し, より小さな真正レートギャップが認められた。
論文 参考訳(メタデータ) (2026-09-09T06:39:03Z) - Domain Adaptive Object Detection via Dual-Stream Bilevel-Cycle Optimization [64.83565413108789]
サイクル自己学習(CST)は、標準自己学習フレームワークの共有分類器の仮定を破る。
CSTは、ターゲットの擬似ラベルでトレーニングすることで、ラベルなしのターゲットデータを悪用する。
論文 参考訳(メタデータ) (2026-06-30T09:05:30Z) - VeriGate: Verifier-Gated Step-Level Supervision for GRPO [51.26100506256885]
グループ相対政策最適化は、検証者に基づく結果報酬を伴う推論モデルをトレーニングするための効果的なレシピである。
GRPO の検証子付き拡張である VeriGate を提案し,これらの制限を3つの設計選択で解決する。
We show that VeriGate improves average accuracy around 20% and 12% for 1.5B and 7B models respectively。
論文 参考訳(メタデータ) (2026-05-28T18:20:32Z) - AdaPaD: Adaptive Parallel Deflation for PEFT with Self-Correcting Rank Discovery [10.176501817419371]
本稿では,AdaPaD(Adaptive Parallel Deflation)について述べる。
我々は、各成分の誤差がウォームアップ期間後に指数関数的に崩壊することを証明する。
AdaPaDは、GLUE上の適応ランクのLoRAベースラインとDeBERTaV3ベースとの整合パラメータ予算で競合する。
論文 参考訳(メタデータ) (2026-05-11T15:44:13Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - Outlier Robust Adversarial Training [57.06824365801612]
本研究では,アウトリー・ロバスト・アドバイザリアル・トレーニング(ORAT)を紹介する。
ORATは、強靭なランクに基づく損失関数を持つ対向訓練の2レベル最適化の定式化に基づいている。
ORATの学習目的はバイナリ分類における$mathcalH$-consistencyを満たすことが示され、これは敵の0/1損失に対する適切なサロゲートとして確立されている。
論文 参考訳(メタデータ) (2023-09-10T21:36:38Z) - FedABC: Targeting Fair Competition in Personalized Federated Learning [76.9646903596757]
フェデレートラーニングは、クライアントのローカルプライベートデータにアクセスすることなく、モデルを協調的にトレーニングすることを目的としている。
我々はFedABCと呼ばれるバイナリ分類によるFederated Averagingと呼ばれる新規で汎用的なPFLフレームワークを提案する。
特に、各クライアントに1対1のトレーニング戦略を採用して、クラス間の不公平な競争を軽減する。
論文 参考訳(メタデータ) (2023-02-15T03:42:59Z) - A Tale of HodgeRank and Spectral Method: Target Attack Against Rank
Aggregation Is the Fixed Point of Adversarial Game [153.74942025516853]
ランクアグリゲーション手法の本質的な脆弱性は文献ではよく研究されていない。
本稿では,ペアデータの変更による集計結果の指定を希望する目的のある敵に焦点をあてる。
提案した標的攻撃戦略の有効性は,一連の玩具シミュレーションと実世界のデータ実験によって実証された。
論文 参考訳(メタデータ) (2022-09-13T05:59:02Z) - Similarity Based Label Smoothing For Dialogue Generation [1.1279808969568252]
生成的神経会話システムは一般に、訓練対象の「堅い」目標と予測ロジットの間のエントロピー損失を最小限に抑える目的で訓練される。
ラベルの平滑化は、不正なトレーニングターゲットにデータ独立の均一な分布を強制する。
本稿では,ラベル平滑化における不正確な対象確率の均一分布を,意味論に基づくより自然な分布に変換することを提案する。
論文 参考訳(メタデータ) (2021-07-23T23:25:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。