論文の概要: A Rank-One Popularity Component in Dot-Product Recommender Scores:Population Theory and Prior-Separation Evidence
- arxiv url: http://arxiv.org/abs/2606.21275v1
- Date: Fri, 19 Jun 2026 09:49:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 06:51:56.867352
- Title: A Rank-One Popularity Component in Dot-Product Recommender Scores:Population Theory and Prior-Separation Evidence
- Title(参考訳): Dot-Product Recommender スコアにおけるランクワン人気成分:最適化理論と事前分離証拠
- Authors: Yang Cheng,
- Abstract要約: 本稿では,長い項目境界のデコーダレベルの結果として,明らかな表現退化のクラスを提案する。
これらの結果は、長い尾を持つ項目境界のデコーダレベルの結果として、明らかな表現退化のクラスを説明する。
- 参考スコア(独自算出の注目度): 6.180662552548161
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation anisotropy in recommender systems is often attributed to Transformer architectures. We identify a more general source in the conditional training distribution. For any encoder using a dot-product softmax decoder, the population-optimal score decomposes into pointwise mutual information, an item-marginal term log p(i), and a context-dependent offset. After centering, the item marginal produces a context-shared rank-one score component, while time-varying marginals induce a low-rank popularity subspace. This score-level result does not imply universal embedding collapse because its transfer to embeddings depends on factorization geometry. Experiments on synthetic data and public Alibaba and Tianchi interaction logs support the proposed mechanism. Separating log p(i) from the learned dot product reduces the measured popularity-aligned score energy by 98.6 percent in a matched intervention. Permutation tests confirm that this reduction is specific to the empirical popularity direction. These results explain a class of apparent representation degeneration as a decoder-level consequence of long-tailed item marginals rather than a property unique to Transformer encoders.
- Abstract(参考訳): レコメンデーションシステムにおける表現異方性はしばしばトランスフォーマーアーキテクチャによるものである。
条件付きトレーニング分布において,より一般的な情報源を同定する。
ドット積ソフトマックスデコーダを使用する任意のエンコーダに対して、集団最適スコアは、ポイントワイズ情報、アイテムマージ項ログp(i)、コンテキスト依存オフセットに分解される。
中心化後、アイテム境界は文脈共有されたランク1スコア成分を生成し、時間変化の限界は低ランクの人気サブスペースを誘導する。
このスコアレベルの結果は、埋め込みへの変換が分解幾何学に依存するため、普遍的な埋め込み崩壊を意味するものではない。
合成データと公開AlibabaとTianchiのインタラクションログの実験は、提案されたメカニズムをサポートする。
学習したドット製品からログ p(i) を分離すると、一致した介入において、測定された人気に沿ったスコアエネルギーが98.6%減少する。
置換試験は、この減少が経験的人気方向に特異的であることを確認した。
これらの結果は、トランスフォーマーエンコーダに特有の特性ではなく、長い尾を持つアイテム境界のデコーダレベルの結果として、明らかな表現退化のクラスを説明する。
関連論文リスト
- Overfitted high-dimensional matrix factorizations via adaptive spectral shrinkage [8.549941732144035]
textttEigenBayesは各結果と潜時次元の信号対雑音比に適応し、潜時成分を0に縮小することを示す。
数値実験における実験性能とゲノミクスの応用について述べる。
論文 参考訳(メタデータ) (2026-06-17T19:33:03Z) - Robust Principal Component Completion [13.241160036796186]
主成分分析の多くの応用において、スパースフォアグラウンドは低ランク背景からの要素を置き換える。
スパースコンポーネントをそのサポートを決定することによって間接的に識別する新しいフレームワークが提案されている。
提案手法は,合成データに対するほぼ最適推定と,実色ビデオおよびハイパースペクトルデータセットにおける頑健な前景抽出と異常検出性能を提供する。
論文 参考訳(メタデータ) (2026-03-26T07:54:44Z) - Efficient Detection of Bad Benchmark Items with Novel Scalability Coefficients [3.058685580689604]
異方性回帰に基づく非パラメトリックな拡張係数の新たなファミリを導入する。
中心的な寄与は符号付きイソトニック$R2$であり、これは説明可能な1つの項目における分散の最大比率を測定する。
符号付き等方性$R2$は単調予測器の中で極端であることを示す。
論文 参考訳(メタデータ) (2026-03-26T03:47:49Z) - SimGR: Escaping the Pitfalls of Generative Decoding in LLM-based Recommendation [68.00727783181289]
推薦システムの中核的な目的は、パーソナライズされたレコメンデーションを可能にするために、アイテムよりもユーザの好みの分布を正確にモデル化することである。
アイテムレベルの嗜好分布を推定する際に,既存の手法が必然的に系統的バイアスを生じさせることを観察する。
textbfSimply textbfGenerative textbfRecommendation (textbfSimGR)を提案する。
論文 参考訳(メタデータ) (2026-02-08T07:26:52Z) - Sequential Recommendation with Controllable Diversification: Representation Degeneration and Diversity [59.24517649169952]
我々は,表現退化問題は,既存のSR手法における推奨の多様性の欠如の根本原因であると主張している。
Singular sPectrum sMoothing regularization for Recommendation (SPMRec)を提案する。
論文 参考訳(メタデータ) (2023-06-21T02:42:37Z) - PENDANTSS: PEnalized Norm-ratios Disentangling Additive Noise, Trend and
Sparse Spikes [1.9766522384767222]
PENDANTSSは,スパースピーク様信号の連立トレンド除去とブラインドデコンボリューションのために提案される。
これは、スムーズな傾向とノイズがローパスフィルタリングによって幾らか分離されるという仮説と相似する。
論文 参考訳(メタデータ) (2023-01-04T10:11:21Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - Deep Hierarchy in Bandits [51.22833900944146]
行動の報酬は、しばしば相関する。
統計的効率を最大化するためには,これらの相関を学習に活用することが重要である。
平均作用報酬の相関が階層的ベイズモデルで表されるこの問題のバンディット変法を定式化する。
論文 参考訳(メタデータ) (2022-02-03T08:15:53Z) - Sequential Recommendation via Stochastic Self-Attention [68.52192964559829]
Transformerベースのアプローチでは、アイテムをベクトルとして埋め込んで、ドット積の自己アテンションを使用してアイテム間の関係を測定する。
本稿では,これらの問題を克服するための新しいtextbfStochastic textbfSelf-textbfAttention (STOSA) を提案する。
我々は、アイテムと項目の位置関係を列で特徴づける新しいワッサースタイン自己保持モジュールを考案した。
論文 参考訳(メタデータ) (2022-01-16T12:38:45Z) - Deconfounding Scores: Feature Representations for Causal Effect
Estimation with Weak Overlap [140.98628848491146]
推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。
分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。
特に,この手法が標準正規化の魅力的な代替となることを示す。
論文 参考訳(メタデータ) (2021-04-12T18:50:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。