論文の概要: BAHSD: Bridging the Long-tail Gap via Adaptive Distillation in Black-box Sequential Recommendation
- arxiv url: http://arxiv.org/abs/2606.03091v1
- Date: Tue, 02 Jun 2026 03:26:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.7274
- Title: BAHSD: Bridging the Long-tail Gap via Adaptive Distillation in Black-box Sequential Recommendation
- Title(参考訳): BAHSD:ブラックボックスシークエンシャルレコメンデーションにおける適応蒸留によるロングテールギャップのブリッジ
- Authors: Xi Zhou, Famin Wu, Mingming Li, Hongyue Zhang, Jiao Dai, Jizhong Han, Tao Guo,
- Abstract要約: マルチスケール整合性探索機構を用いて信号の不均一性を処理するブラックボックス適応蒸留フレームワークであるBAHSDを提案する。
BAHSDは一貫してベースラインを上回り、教師よりも最大4.98%向上し、テールユーザーでは80%以上改善されている。
- 参考スコア(独自算出の注目度): 29.950847276550622
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sequential recommendation systems are widely adopted but often deployed as black-box APIs, which has driven recent interest in model extraction to replicate their capabilities locally. However, the long-tail distribution induces severe signal heterogeneity: dense head sequences trigger the solidification of teacher preference, biasing extraction toward local patterns, while sparse tail sequences yield flat, noisy predictions. Existing one-size-fits-all extraction overlooks this disparity, resulting in noise overfitting and suboptimal knowledge transfer. We propose BAHSD, a black-box adaptive distillation framework that handles signal heterogeneity via a multi-scale consistency probing mechanism to implicitly quantify signal reliability. Based on this, an adaptive hierarchical objective is designed: dynamic-temperature KL divergence mitigates preference solidification for high-confidence signals, while ranking consistency and InfoNCE contrastive learning provide noise-robust enhancement for low-confidence signals. BAHSD consistently outperforms baselines, achieving up to 4.98\% gain over the teacher and 80\%+ improvement on tail users, offering a plug-and-play solution for high-fidelity black-box recommendation extraction.
- Abstract(参考訳): シーケンシャルレコメンデーションシステムは広く採用されているが、ブラックボックスAPIとしてデプロイされることが多い。
しかし、長い尾の分布は信号の不均一性を強く引き起こし、高密度な頭部配列は教師の好みの固化を誘発し、局所的なパターンへの偏りを生じさせ、スパーステール列は平坦でノイズの多い予測をもたらす。
既存の1つの大きさの抽出は、この格差を見落とし、ノイズオーバーフィットと準最適知識伝達をもたらす。
我々は,信号の信頼性を暗黙的に定量化するために,マルチスケール整合性探索機構を通じて信号の不均一性を処理するブラックボックス適応蒸留フレームワークBAHSDを提案する。
動的温度KL分散は、高信頼信号に対する優先的な凝固を緩和し、ランキング一貫性とInfoNCEコントラスト学習は低信頼信号に対するノイズロバスト強化を提供する。
BAHSDは一貫してベースラインを上回り、教師よりも4.98 %向上し、テールユーザーでは80 %以上改善され、高忠実なブラックボックスレコメンデーション抽出のためのプラグアンドプレイソリューションを提供する。
関連論文リスト
- AnchorMoE: Interpretable Time Series Classification via Anchor-Routed MoE [51.994752158953084]
AnchorMoEは、解釈可能な構成別分類フレームワークである。
ローカルパッチのマルチビュー表現をエンコードし、専門の専門家にルーティングする。
実世界のベンチマークと合成ベンチマークの実験は、AnchorMoEが非常に競争力のある分類性能を達成することを示した。
論文 参考訳(メタデータ) (2026-06-02T13:30:54Z) - Dynamic Spectral Denoising with Global-Context Attention for Multi-Behavior Recommendation [58.33732779555114]
重要なボトルネックは、2つの結合した不均一性によって引き起こされる表現レベルの失敗である、と我々は主張する。
マルチビヘイビアレコメンデーション(SpectraMB)のためのグローバルコンテキストを考慮した動的スペクトルデノベーションを提案する。
SpectraMBは、ほとんどの評価設定で最高の結果を達成し、ノイズのある相互作用下での堅牢性の向上を示す。
論文 参考訳(メタデータ) (2026-06-01T15:58:13Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - CAdam: Context-Adaptive Moment Estimation for 3D Gaussian Densification in Generative Distillation [3.4998703934432682]
密度ジレンマを解くために、文脈適応モーメント推定(CAdam)を導入する。
Cadamは、標準密度と比較してガウスの数を85%から97%削減し、全体的な同等の品質を保っている。
これらの結果から, 信号認識密度制御は, 最適化に基づく生成蒸留におけるメモリ効率の向上に有効であることがわかった。
論文 参考訳(メタデータ) (2026-05-20T08:08:39Z) - Decoupled PFNs: Identifiable Epistemic-Aleatoric Decomposition via Structured Synthetic Priors [25.166488691037078]
Pre-Fitted Networks (PFNs) は、合成タスクに対するメタラーニングによるベイズ予測を補正するが、その標準出力はノイズの観測よりも後続の予測分布である。
以上の結果から, このてんかんの分離は, 一般的には後部予測分布だけでは識別できないことが明らかとなった。
我々はこれらのラベルを用いて、非結合のPFNを、別個の潜在信号頭とアレータリックヘッドで訓練する。
論文 参考訳(メタデータ) (2026-05-07T15:22:35Z) - The Malignant Tail: Spectral Segregation of Label Noise in Over-Parameterized Networks [0.0]
ネットワークが機能的に信号とノイズを分離する障害モードであるMorignant Tailを実験的に分離する。
トレーニングされていないネットワークは、ノイズを積極的に分離し、ノイズに支配されたサブスペースを外科的にプルークするポストホックスペクトルトラニケーションを実現する。
以上の結果から,ラベルノイズ下では,余剰スペクトル容量は無害な冗長性ではなく,構造的負債が潜んでいることが示唆された。
論文 参考訳(メタデータ) (2026-03-02T16:39:42Z) - An Adaptive Differentially Private Federated Learning Framework with Bi-level Optimization [10.218291445871435]
フェデレーション学習は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
実際の展開では、デバイスの不均一性、非独立性、および同一に分散された(Non-IID)データは、しばしば非常に不安定で偏りのある勾配更新をもたらす。
異種およびプライバシー制約のある環境下でモデル効率を明示的に目標とする適応型微分プライベートなフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:27:33Z) - Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。
我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。
我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
論文 参考訳(メタデータ) (2024-10-21T22:40:42Z) - DASA: Difficulty-Aware Semantic Augmentation for Speaker Verification [55.306583814017046]
本稿では,話者認証のための難易度認識型セマンティック拡張(DASA)手法を提案する。
DASAは、話者埋め込み空間における多様なトレーニングサンプルを、無視できる余分な計算コストで生成する。
最も良い結果は、CN-Celeb評価セット上でのEER測定値の14.6%の相対的な減少を達成する。
論文 参考訳(メタデータ) (2023-10-18T17:07:05Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。