論文の概要: BACH: A Bayesian Admixture of Contrastive Heads for Multi-Interest Two-Tower Retrieval

• arxiv url: http://arxiv.org/abs/2607.08107v1
• Date: Thu, 09 Jul 2026 04:48:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.41411
• Title: BACH: A Bayesian Admixture of Contrastive Heads for Multi-Interest Two-Tower Retrieval
• Title（参考訳）: BACH:多目的2tower検索のためのコントラストヘッドのベイズ的付加
• Abstract要約: 2-towerレトリバーは各ユーザーを1つの埋め込みに圧縮し、多様な関心事に役立てる能力を制限する。 提案するtextbfBACHは,多目的2tower検索を頭部上のユーザ毎の混合として,変分推論に適合する。 MovieLens-20M、Taobao、Netflixの3つの大規模ベンチマークでは、BACHは、各ヘッドカウントにおいて、ハードルーティングなマルチ関心とシングルベクターベースラインよりも上位レベルの検索を改善する。
• 参考スコア（独自算出の注目度）: 14.814097696577706
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Two-tower retrievers compress each user into a single embedding, limiting their ability to serve diverse interests. Multi-interest models give each user several heads scored by a maximum inner product, but their hard-routing training under-utilizes heads (routing collapse) and gives no per-user estimate of how much each interest matters for serving. We present \textbf{BACH} (\emph{Bayesian Admixture of Contrastive Heads}), which casts multi-interest two-tower retrieval as a per-user mixture over the heads, fit by variational inference. The soft mixture trains every head (mitigating collapse), produces a per-user weighting of the interests that is reused at serving, and admits a shared global-codebook variant with precomputable retrieval. On three large-scale benchmarks, MovieLens-20M, Taobao, and Netflix, BACH improves top-of-ranking retrieval over hard-routing multi-interest and single-vector baselines at every head count; we further find that scoring every candidate by its best head, consistent with serving, outperforms the usual target-routed training, and that BACH improves further still.
• Abstract（参考訳）: 2-towerレトリバーは各ユーザーを1つの埋め込みに圧縮し、多様な関心事に役立てる能力を制限する。 マルチ関心モデルでは、ユーザごとに最大内部積でスコア付けされた数個のヘッドが与えられるが、ハードルーティングトレーニングでは、ヘッドをアンダーユース(ローティング崩壊)し、各ユーザのサービスに対する関心度を見積もることはできない。 本稿では,多目的2tower検索を頭部上のユーザ毎の混合として用いて,変動推論に適合する「textbf{BACH} (\emph{Bayesian Admixture of Contrastive Heads})」を提案する。 ソフトミキシングは、すべてのヘッドを訓練し(崩壊を緩和)、サービス時に再利用される利害関係をユーザごとに重み付けし、事前計算可能な検索を伴うグローバルコードブックの変種を認める。 MovieLens-20M、Taobao、Netflixの3つの大規模ベンチマークでは、BACHは、すべてのヘッドカウントにおいて、ハードルーティングなマルチ関心事とシングルベクターベースラインに対するトップレベルの検索を改善している。

関連論文リスト

• MIMA: Multi-Interest Recommendation via Multi-Positive Exclusive Assignment [11.84823985696493]
  マルチアクティブな排他的割り当てに基づくマルチゲストレコメンデーションフレームワークMIMAを提案する。 MIMAは、同じ要求内で同時に発生するアイテムを正の集合にグループ化し、因果変換器デコーダと相補的な関心を生み出す。 軽量ルーティングモジュールは、関心チャネル間でスコアを校正するユーザ-関心アクティベーション確率を推定する。
  論文  参考訳（メタデータ） (2026-09-11T13:36:25Z)
• Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms [50.28963615440865]
  再利用した人工物によって3つの融合パラダイムを編成する。 モデルスケールとマルチベンチマークスイートで、共有専門家とデータを使用して、これら3つを比較します。
  論文  参考訳（メタデータ） (2026-08-27T17:38:04Z)
• Collaborative Multi-Agent Test-Time Reinforcement Learning for Reasoning [112.16686518063456]
  textbfMulti-Agent Test-Time Reinforcement Learning (MATTRL)を導入する。 MATTRLは、マルチターンの議論、テストタイムの経験の検索と統合、最終的な意思決定のコンセンサスに到達するための、複数の専門家のチームを形成する。 MATTRLは、医学、数学、教育の挑戦的なベンチマーク全体にわたって、マルチエージェントベースラインで平均3.67%、同等のシングルエージェントベースラインで平均8.67%の精度を向上する。
  論文  参考訳（メタデータ） (2026-01-14T17:57:43Z)
• Mixture of Thoughts: Learning to Aggregate What Experts Think, Not Just What They Say [4.273730624882391]
  Mixture of Thoughts (MoT) は、グローバルなルーティング方式の下で、異種の専門家間の潜在レベル協調のための単純な方法である。 MoTは現在のルーティングと集約ベースのアベンジャーズをそれぞれ$+0.38%$と$+2.92%$で上回っている。
  論文  参考訳（メタデータ） (2025-09-25T13:50:09Z)
• SPARTA ALIGNMENT: Collectively Aligning Multiple Language Models through Combat [76.48873047003943]
  SPARTA ALIGNMENT(SPARTA ALIGNMENT)を提案する。 各イテレーションにおいて、1つの命令と2つのモデルがデュエルのために選択され、他のモデルが2つのレスポンスを評価し、それらの評価スコアは、適応されたエロランクベースの評価システムを介して集約される。 ピア評価された戦闘結果は、敗戦よりも勝利の反応が優先される選好ペアとなり、各イテレーションの最後にこれらの選好からすべてのモデルが学習される。
  論文  参考訳（メタデータ） (2025-06-05T07:51:23Z)
• Improving Retrieval-Augmented Generation through Multi-Agent Reinforcement Learning [88.55095746156428]
  Retrieval-augmented Generation (RAG) は、外部知識を大規模言語モデルに組み込むために広く利用されている。 標準的なRAGパイプラインは、クエリ書き換え、文書検索、文書フィルタリング、回答生成など、いくつかのコンポーネントで構成されている。 本稿では,複数コンポーネントからなる複雑なRAGパイプラインを多エージェント協調作業として扱うことを提案する。
  論文  参考訳（メタデータ） (2025-01-25T14:24:50Z)
• Each Rank Could be an Expert: Single-Ranked Mixture of Experts LoRA for Multi-Task Learning [53.053604713064544]
  Low-Rank Adaptation (LoRA)は、その効率性とモジュール性から、大きな言語モデル(LLM)を特定のドメインに適用するために広く使われている。 最近の研究は、各LoRAモジュールを専門家として扱い、複数の特殊なLoRAモジュールによるタスク干渉を軽減することで、Mixture of Experts (MoE)を採用している。 効果はあるものの、これらの手法は個々のタスク内の知識を分離することが多く、関連するタスク間で共有された知識を完全に活用することができない。 各ランクをテキスト処理することでMoEをLoRAに埋め込むシングルランク専門家LoRA(textbfSMoRA)を提案する。
  論文  参考訳（メタデータ） (2025-01-25T06:56:39Z)
• Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation [25.516648802281626]
  逐次レコメンデーションのためのFAME(Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation)という新しい構造を提案する。 最後のマルチヘッドアテンション層における各頭部からのサブ埋め込みを活用して,次の項目を別々に予測する。 ゲーティングメカニズムは、各ヘッドからのレコメンデーションを統合し、それらの重要性を動的に決定する。
  論文  参考訳（メタデータ） (2024-11-03T06:47:45Z)
• Rewarded soups: towards Pareto-optimal alignment by interpolating weights fine-tuned on diverse rewards [101.7246658985579]
  ファンデーションモデルは、最初は大量の教師なしデータセットで事前トレーニングされ、次にラベル付きデータで微調整される。 多様な報酬の不均一性を多政学的戦略に従って受け入れることを提案する。 我々は,テキスト・ツー・テキスト(要約,Q&A,補助アシスタント,レビュー),テキスト・イメージ(画像キャプション,テキスト・ツー・イメージ生成,視覚的グラウンド,VQA)タスク,制御(移動)タスクに対するアプローチの有効性を実証した。
  論文  参考訳（メタデータ） (2023-06-07T14:58:15Z)
• Hierarchical Multi-Interest Co-Network For Coarse-Grained Ranking [10.41102829240507]
  大規模なオンラインレコメンデーションサービスは、通常、候補生成、粗い粒度ランキング、きめ細かい粒度ランキングの3つのステージで構成されている。 これまでの研究では、ユーザーの興味は多様であり、1つのベクトルはユーザーの好みを捉えるのに十分ではないことが示されている。 本稿では,階層型多目的ネットワーク(HCN)を提案する。
  論文  参考訳（メタデータ） (2022-10-19T13:40:16Z)
• Multi-Resolution Fusion and Multi-scale Input Priors Based Crowd Counting [20.467558675556173]
  本稿では,マルチレゾリューション・フュージョンに基づくエンドツーエンドのクラウドカウントネットワークを提案する。 PRMモジュールの効率的な代替として、3つの入力先が導入された。 提案手法は, クロスデータセット実験において, 最適な結果を得るために, より優れた一般化能力を有する。
  論文  参考訳（メタデータ） (2020-10-04T19:30:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。