論文の概要: Bumblebee: Interleaved Mixed-Layer Building Blocks for Large-Scale Recommendation Systems
- arxiv url: http://arxiv.org/abs/2607.24804v1
- Date: Mon, 06 Jul 2026 20:31:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.075865
- Title: Bumblebee: Interleaved Mixed-Layer Building Blocks for Large-Scale Recommendation Systems
- Title(参考訳): Bumblebee:大規模レコメンデーションシステムのためのインターリーブ型混合層ビルディングブロック
- Abstract要約: Bumblebeeは2つの方向の相互作用の欠如に対処するレコメンデーションアーキテクチャである。
各ブロックは、シーケンスのパーソナライズ、アテンションベースのエンコーディング、そして自己完結したユニットへの機能交差を組み合わせた、レイヤのマイクロパイプラインを実装している。
いくつかの分類および回帰タスクにおいて、同等のベースラインモデルに対して一貫した改善を示す。
- 参考スコア(独自算出の注目度): 18.01934261007753
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Recommendation systems have undergone significant transformations in the past years. The transition from traditional feature interaction modules to generative next-action prediction has pushed the boundaries of personalized content. Developments have largely evolved along two separate tracks. Sequence modeling approaches on the one hand and feature interaction methods on the other. In this paper, we introduce Bumblebee, a recommendation architecture that addresses the lack of interaction between the two directions through an interleaved, stackable block design. Each block implements a micro-pipeline of layers combining sequence personalization, attention-based encoding, and feature crossing into a self-contained unit. Every block produces a joint representation of both feature modalities which is consumed by the next block in the sequence. This mechanism encourages early and repeated mixture of modalities and enriches downstream features with additional contextual information. Residual connections between blocks create cross-modal information pathways and yield additional predictive performance without adding additional parameters. Blocks can be specialized by selectively dropping components, enabling flexible trade-offs between quality and throughput. We evaluate our approach on large-scale industrial data and show consistent improvements over comparable baseline models across several classification and regression tasks. Furthermore, we conduct ablation studies to confirm that the interleaved composition itself is the primary driver of these improvements. Our results suggest that interleaving heterogeneous functional units, rather than composing deep stacks, is a promising paradigm for future-generation recommendation architectures.
- Abstract(参考訳): 勧告システムはここ数年で大きな変革を遂げてきた。
従来の機能相互作用モジュールから生成的次アクション予測への移行は、パーソナライズされたコンテンツのバウンダリを押し上げている。
開発は2つの異なる線路に沿って大きく進展した。
シーケンスモデリングは一方にアプローチし、他方に特徴的相互作用手法を提案する。
本稿では,Bumblebeeについて紹介する。Bumblebeeは,インターリーブでスタック可能なブロック設計により,2方向間の相互作用の欠如に対処するレコメンデーションアーキテクチャである。
各ブロックは、シーケンスのパーソナライズ、アテンションベースのエンコーディング、そして自己完結したユニットへの機能交差を組み合わせた、レイヤのマイクロパイプラインを実装している。
各ブロックは、シーケンス内の次のブロックによって消費される両方の特徴モダリティの合同表現を生成する。
このメカニズムは、モダリティの早期および反復的な混合を促進し、追加のコンテキスト情報で下流の特徴を豊かにする。
ブロック間の残留接続は、クロスモーダルな情報経路を作成し、追加のパラメータを追加することなく、さらなる予測性能を得る。
ブロックはコンポーネントを選択的にドロップすることで、品質とスループットの間の柔軟なトレードオフを可能にする。
我々は,大規模産業データに対する我々のアプローチを評価し,複数の分類および回帰タスクにおいて,同等のベースラインモデルに対して一貫した改善を示す。
さらに,これらの改良の原動力はインターリーブ構成そのものであることを確認するため,アブレーション研究を実施している。
この結果から, 深層構造を構成するのではなく, 異種機能ユニットをインターリーブすることは, 次世代レコメンデーションアーキテクチャにおいて有望なパラダイムであることが示唆された。
関連論文リスト
- TokenFormer: Unify the Multi-Field and Sequential Recommendation Worlds [17.505701673051405]
TokenFormerは、以下のイノベーションを取り入れた統合されたレコメンデーションアーキテクチャである。
まず,ボトムフルト・トップ・スライディング(BFTS:Bottom-Full-Top-Sliding)アテンションスキームを導入する。
第2に,非線形相互作用表現(NLIR)を導入し,一方の非線形乗算変換を隠れ状態に適用する。
論文 参考訳(メタデータ) (2026-04-15T11:25:46Z) - Cross-Representation Knowledge Transfer for Improved Sequential Recommendations [0.5130440339897478]
本稿では,変圧器とグラフニューラルネットワークを組み合わせた新しいフレームワークを提案する。
我々のソリューションは、相互作用グラフの構造的依存関係を同時にエンコードし、それらの動的変化を追跡する。
多くのオープンデータセットに対する実験結果から、提案フレームワークは、推奨品質の観点から、純粋シーケンシャルとグラフアプローチの両方を一貫して上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-26T20:03:23Z) - MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders [11.566232697512879]
MixFormerは、レコメンデーションシステム用に設計されたTransformerスタイルの統一アーキテクチャである。
単一のバックボーン内でのシーケンシャルな振る舞いと特徴的相互作用を共同でモデル化する。
大規模産業データセットの実験は、MixFormerが常に優れた精度と効率を示すことを示した。
論文 参考訳(メタデータ) (2026-02-15T11:53:30Z) - Query-Mixed Interest Extraction and Heterogeneous Interaction: A Scalable CTR Model for Industrial Recommender Systems [6.312847671238921]
HeMixは適応シーケンストークン化と異種相互作用構造を統合するスケーラブルなランキングモデルである。
HeMixはAMAPプラットフォームにデプロイされ、DLRMよりも3.61%のGMV、+2.78%のPV_CTR、+2.12%のUV_CVRをオンラインで提供する。
論文 参考訳(メタデータ) (2026-02-10T03:56:14Z) - FindRec: Stein-Guided Entropic Flow for Multi-Modal Sequential Recommendation [57.577843653775]
textbfFindRec (textbfFlexible unified textbfinformation textbfdisentanglement for multi-modal sequence textbfRecommendation)を提案する。
Stein kernel-based Integrated Information Coordination Module (IICM) は理論上、マルチモーダル特徴とIDストリーム間の分散一貫性を保証する。
マルチモーダル特徴を文脈的関連性に基づいて適応的にフィルタリング・結合するクロスモーダル・エキスパート・ルーティング機構。
論文 参考訳(メタデータ) (2025-07-07T04:09:45Z) - Dynamic Cross-Modal Feature Interaction Network for Hyperspectral and LiDAR Data Classification [66.59320112015556]
ハイパースペクトル画像(HSI)とLiDARデータ共同分類は難しい課題である。
DCMNet(Dynamic Cross-Modal Feature Interaction Network)を提案する。
BSAB(Bilinear Spatial Attention Block)、BCAB(Bilinear Channel Attention Block)、ICB(Integration Convolutional Block)の3つの機能相互作用ブロックを導入している。
論文 参考訳(メタデータ) (2025-03-10T05:50:13Z) - SIGMA: Selective Gated Mamba for Sequential Recommendation [56.85338055215429]
最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。
SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。
以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
論文 参考訳(メタデータ) (2024-08-21T09:12:59Z) - Unifying Feature and Cost Aggregation with Transformers for Semantic and Visual Correspondence [51.54175067684008]
本稿では,高密度マッチングタスク用に設計されたTransformerベースの積分機能とコスト集約ネットワークを提案する。
まず, 特徴集約とコスト集約が異なる特徴を示し, 双方の集約プロセスの司法的利用から生じる実質的な利益の可能性を明らかにした。
本フレームワークは意味マッチングのための標準ベンチマークで評価され,また幾何マッチングにも適用された。
論文 参考訳(メタデータ) (2024-03-17T07:02:55Z) - On the Embedding Collapse when Scaling up Recommendation Models [53.66285358088788]
埋め込み崩壊現象をスケーラビリティの阻害とみなし、埋め込み行列は低次元の部分空間を占有する傾向にある。
本稿では,組込み集合固有の相互作用モジュールを組み込んで,多様性を持つ組込み集合を学習する,単純かつ効果的な組込み設計を提案する。
論文 参考訳(メタデータ) (2023-10-06T17:50:38Z) - A Deep Unrolling Model with Hybrid Optimization Structure for Hyperspectral Image Deconvolution [50.13564338607482]
本稿では,DeepMixと呼ばれるハイパースペクトルデコンボリューション問題に対する新しい最適化フレームワークを提案する。
これは3つの異なるモジュール、すなわちデータ一貫性モジュール、手作りの正規化器の効果を強制するモジュール、および装飾モジュールで構成されている。
本研究は,他のモジュールの協調作業によって達成される進歩を維持するために設計された,文脈を考慮した認知型モジュールを提案する。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Multi-Behavior Hypergraph-Enhanced Transformer for Sequential
Recommendation [33.97708796846252]
短期および長期のクロスタイプの振る舞い依存を捉えるために,新しいMBHT(Multi-Behavior Hypergraph-enhanced Transformer framework)を導入する。
具体的には、多スケールトランスフォーマーは、細粒度および粗粒度から振舞い対応のシーケンシャルパターンを共同符号化するために、低ランクの自己アテンションを備える。
論文 参考訳(メタデータ) (2022-07-12T15:07:21Z) - CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。
提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。
実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
論文 参考訳(メタデータ) (2021-12-31T04:37:11Z) - Haar Wavelet based Block Autoregressive Flows for Trajectories [129.37479472754083]
歩行者等の軌道予測は,自律型エージェントの性能向上に不可欠である。
本稿では分割結合を利用した新しいハールウェーブレットに基づくブロック自己回帰モデルを提案する。
実世界の2つのデータセット上で、多種多様な正確な軌跡を生成するアプローチの利点について説明する。
論文 参考訳(メタデータ) (2020-09-21T13:57:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。