論文の概要: Rethinking Positional Encoding and Interaction Granularity for CTR Prediction
- arxiv url: http://arxiv.org/abs/2610.37140v1
- Date: Tue, 27 Oct 2026 12:35:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-29 04:15:49.269885
- Title: Rethinking Positional Encoding and Interaction Granularity for CTR Prediction
- Title(参考訳): CTR予測のための位置エンコーディングと相互作用粒度の再考
- Abstract要約: 本稿では、目標時間位置エンコーディングと時間群相互作用モデリングを組み合わせたTRIPを提案する。
TRIPは最強のベースラインと比較してAUCを4.45%改善する。
- 参考スコア(独自算出の注目度): 40.70533276385381
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Click-through rate (CTR) prediction relies on historical behaviors and contextual features to estimate clicks on a target item. Existing Transformer-based CTR models often adopt index-based or temporal positional encodings and token-level causal interaction. However, we observe that most existing positional encodings do not outperform NoPE, while relaxing causal constraints within target-relative temporal groups also yields gains. These observations motivate a fundamental question: what positional encoding and interaction granularity does CTR prediction actually require? To address this question, we propose \textbf{TRIP}, which combines target-aware rank--time positional encoding with temporal-group interaction modeling. Specifically, Factorized Rank Encoding represents each behavior's ordinal position within the historical sequence through a low-rank factorization, while Target-Relative Time Encoding characterizes its temporal distance to the target on a coarse-to-fine scale. This joint design grounds each behavior's positional representation in its sequence context and temporal relation to the current target. Furthermore, Temporal Group-Causal Interaction enriches intra-group representations through bidirectional interaction and masked reconstruction while preserving inter-group causal order. Finally, behavior representations are condensed into compact group summaries for efficient group-level modeling in subsequent layers. Experiments on four public benchmarks show that TRIP improves AUC by up to 4.45\% relative to the strongest baseline.
- Abstract(参考訳): クリックスルー率(CTR)予測は、対象項目のクリックを推定するために、過去の行動やコンテキストの特徴に依存する。
既存のTransformerベースのCTRモデルは、インデックスベースまたは時間的位置エンコーディングとトークンレベルの因果相互作用を採用することが多い。
しかし,既存の位置符号化はNoPEより優れていないのに対し,ターゲット相対時間群内の因果制約を緩和すると利得が得られる。
これらの観察は、CTR予測が実際に必要とする位置エンコーディングと相互作用の粒度という、根本的な疑問を動機付けている。
この問題に対処するために、ターゲット・アウェアな位置対応エンコーディングと時間群相互作用モデリングを組み合わせた「textbf{TRIP}」を提案する。
具体的には、因子化ランクエンコーディングは、各行動の順序位置を低ランクの因子化によって表現し、ターゲット相対時間エンコーディングは、粗大なスケールでその時間的距離を目標に特徴付ける。
この共同設計は、それぞれの行動の位置表現を、そのシーケンスコンテキストと現在のターゲットとの時間的関係において基礎付ける。
さらに、時間的グループ・因果関係は、グループ間の因果関係を保ちながら、双方向の相互作用を通じてグループ内の表現を豊かにし、再構築を隠蔽する。
最後に、振る舞い表現をコンパクトなグループ要約に凝縮し、その後の層における効率的なグループレベルのモデリングを行う。
4つの公開ベンチマークの実験では、TRIPは最強のベースラインに対して最大4.45\%改善している。
関連論文リスト
- SwitchPFN: Shared Switching Dynamics for Frozen In-Context Time Series Classification [14.856331106278125]
SwitchPFNはトレーニングシーケンスから共有プロジェクションとレギュレーションのコードブックを学習し、ローカルな動的演算子とトランジション機能をサンプル間で直接比較する。
評価されたベンチマーク全体で、SwitchPFNは評価されたメソッドの中で最高平均精度を達成し、最強のベースラインを4.47%改善した。
論文 参考訳(メタデータ) (2026-09-24T13:49:20Z) - STAR: Structured Tokenization and Target-Aware Interest Representation for PCVR Prediction [7.574291100593417]
我々は,KDDカップ2026 Tencent UniRec Challengeの枠組みであるSTAR(Structured Tokenization and Target-Aware Interest Representation)を紹介する。
STARはHyFormerスタイルのマルチシーケンスバックボーン上に、構造化された特徴トークン化とターゲット認識された関心表現を組み合わせる。
課題データセットの実験では、ランキングAUCを最も確実に改善するコンポーネントを特定し、LogLossは校正診断として報告されている。
論文 参考訳(メタデータ) (2026-08-13T09:09:54Z) - TIE: Time Interval Encoding for Video Generation over Events [50.66585165263848]
ディレクタースタイルのプロンプト、ロボットアクション予測、インタラクティブなビデオエージェントは、同時イベントに対する時間的根拠を要求する。
現代のビデオジェネレータは、ポイントワイドな位置エンコーディングを通して、タイムを離散的なポイントとして表現する。
Time Interval TIEは、プラグイン・アンド・プレイ・インターバル・アウェアの一般化である。
論文 参考訳(メタデータ) (2026-05-11T13:23:14Z) - Untwisting RoPE: Frequency Control for Shared Attention in DiTs [84.14005261938284]
位置符号化はトランスフォーマーベースの生成モデルに不可欠である。
ロータリー・ポジショナル・エンベディング (RoPE) は, 異なる位置感性を有する周波数成分に自然に分解されることを示す。
本稿では,厳密な位置アライメントよりも意味的類似性を反映するように,RoPE周波数帯域を選択的に変調する手法を提案する。
論文 参考訳(メタデータ) (2026-02-04T20:01:59Z) - GenCI: Generative Modeling of User Interest Shift via Cohort-based Intent Learning for CTR Prediction [84.0125708499372]
本稿では,クリックスルー率(CTR)予測のためのユーザ嗜好をモデル化するための生成ユーザ意図フレームワークを提案する。
このフレームワークはまず、次の項目の予測目標で訓練された生成モデルを使用して、候補の関心コホートを積極的に生成する。
階層的候補認識ネットワークは、このリッチなコンテキスト信号をランキングステージに注入し、ユーザ履歴とターゲットアイテムの両方に適合するように、クロスアテンションで精製する。
論文 参考訳(メタデータ) (2026-01-26T08:15:04Z) - CTR-Sink: Attention Sink for Language Models in Click-Through Rate Prediction [42.92011330807996]
$textitCTR-Sink$は、レコメンデーションシナリオに適した振る舞いレベルの注意シンクを導入した、新しいフレームワークである。
注意シンク理論にヒントを得て、注意集中シンクを構築し、外部情報を介して注意集約を動的に制御する。
論文 参考訳(メタデータ) (2025-08-05T17:30:34Z) - Fine-grained Temporal Contrastive Learning for Weakly-supervised
Temporal Action Localization [87.47977407022492]
本稿では,シーケンス・ツー・シーケンスの区別を文脈的に比較することで学習が,弱い教師付き行動の局所化に不可欠な帰納的バイアスをもたらすことを論じる。
微分可能な動的プログラミングの定式化の下では、FSD(Fen-fine Sequence Distance)とLCS(Longest Common Subsequence)の2つの相補的コントラストが設計されている。
提案手法は,2つのベンチマークにおいて最先端の性能を実現する。
論文 参考訳(メタデータ) (2022-03-31T05:13:50Z) - Masked Transformer for Neighhourhood-aware Click-Through Rate Prediction [74.52904110197004]
本稿では,近隣相互作用に基づくCTR予測を提案し,そのタスクを異種情報ネットワーク(HIN)設定に組み込む。
周辺地域の表現を高めるために,ノード間のトポロジカルな相互作用を4種類検討する。
本研究では,2つの実世界のデータセットに関する総合的な実験を行い,提案手法が最先端のCTRモデルを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2022-01-25T12:44:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。