論文の概要: MESH: Scaling Up Retrieval with Heterogeneous Content Unification
- arxiv url: http://arxiv.org/abs/2607.12392v1
- Date: Tue, 14 Jul 2026 06:12:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.049646
- Title: MESH: Scaling Up Retrieval with Heterogeneous Content Unification
- Title(参考訳): MESH: 異種コンテンツ統合による検索のスケールアップ
- Abstract要約: MESHは、ヘテロジニティのスケーリングバイアスを緩和する統合された検索スケーリングフレームワークである。
特徴空間を独立した領域に分割することにより、MESHは、スパースイテム信号と高周波エンゲージメント特徴の間の干渉を低減する構造的帰納バイアスを強制する。
この結果から,MESHは断片化検索基盤を,よりスケーラブルでエコシステムに配慮したバックボーンに統合するための,有望なパラダイムであることが示唆された。
- 参考スコア(独自算出の注目度): 2.7340856806188447
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimizing large-scale retrieval hinges on the ability to efficiently surface candidates across diverse content tiers. However, to capture segments such as fresh and long-tail content, modern systems typically resort to a fragmented "zoo" of specialized retrieval models. This operational complexity is attributed to a fundamental challenge in heterogeneous retrieval systems, the Scaling Bias of Heterogeneity, where model capacity gains do not apply equally across diverse content tiers. To bridge this gap, we propose MESH as a unified retrieval scaling framework that mitigates this bias through a modularized architecture integrated with gated bias correction. By partitioning the feature space into independent domains, MESH enforces a structural inductive bias that reduces interference between sparse-item signals and high-frequency engagement features. This protected gradient path leads to improved scaling behavior for sparse content, empirically validated by a 14 times improvement in the power-law scaling exponent for fresh items. In online evaluations on Pinterest's Related Pins platform, a billion scale item-to-item recommendation system, these improvements translate into a +5.5% lift in fresh-item repins, alongside with 55% improvement in funnel efficiency and +0.46% improvement in user retention. Finally, our asynchronous serving strategy ensures production viability by delivering a 2.87 times improvement in system throughput. Our findings suggest MESH as a promising paradigm for consolidating fragmented retrieval infrastructures into more scalable and ecosystem-aware backbones.
- Abstract(参考訳): 大規模検索のヒンジの最適化は、さまざまなコンテンツ層にまたがる候補を効率的に提示する能力に基づいている。
しかし、新鮮なコンテンツや長いテールのコンテンツなどのセグメントをキャプチャするために、現代のシステムは、専門的な検索モデルの断片化された「動物園」を利用するのが一般的である。
この運用上の複雑さは、異種検索システムにおける基本的な課題であるスケーリングバイアス・オブ・ヘテロジニティ(Scaling Bias of Heterogeneity)に起因している。
このギャップを埋めるため、我々は、ゲートバイアス補正と統合されたモジュラー化されたアーキテクチャにより、このバイアスを緩和する統合された検索スケーリングフレームワークとしてMESHを提案する。
特徴空間を独立したドメインに分割することで、MESHは、スパースイテム信号と高周波エンゲージメント特徴の間の干渉を低減する構造的帰納バイアスを強制する。
この保護された勾配経路はスパースコンテンツのスケーリング挙動を改善させ、新鮮なアイテムのパワーロースケーリング指数の14倍の改善によって実証的に検証した。
PinterestのレコメンデーションシステムであるRelationed Pinsプラットフォームのオンライン評価では、これらの改善は、新しいイテムリポジトリで+5.5%上昇し、ファンネル効率が55%改善し、ユーザ保持率が+0.46%改善した。
最後に、当社の非同期サービス戦略は、システムのスループットを2.87倍改善することで、生産可能性を保証する。
以上の結果から,MESHは断片化検索インフラストラクチャを,よりスケーラブルでエコシステム対応のバックボーンに統合するための,有望なパラダイムであることが示唆された。
関連論文リスト
- Unveiling the Depth-Performance Dilemma in Split-Federated Fine-tuning of LLMs [0.8602553195689512]
Split Federated Fine-tuning (SFF)は、Large Language Models (LLM) をスケールするための有望なパラダイムである。
システム効率を最大化する体制は、微調整品質が崩壊する場所である。
論文 参考訳(メタデータ) (2026-08-23T02:53:20Z) - Scaling and Stabilizing Large-Scale Embedding-Based Retrieval [16.34687313227663]
我々は、信号品質とモデル進化の両方に対処する統合パイプラインをウォルマートに展開する。
ドメイン固有の専門知識をレガシモデルから新しいバックボーンに転送するワームスタート蒸留技術を導入する。
提案されたパイプラインは実運用で展開され、NDCG@5で+7.34%改善され、収益で+0.50%上昇した。
論文 参考訳(メタデータ) (2026-07-11T03:24:26Z) - ReHARK: Refined Hybrid Adaptive RBF Kernels for Robust One-Shot Vision-Language Adaptation [3.8707695363745214]
ReHARKは、グローバルな近位正規化を通じて、少数ショット適応を再解釈する、トレーニング不要のフレームワークである。
ワンショット適応のための新しい最先端技術がReHARKによって確立され、平均精度は65.83%である。
論文 参考訳(メタデータ) (2026-03-12T04:59:09Z) - STEM: Scaling Transformers with Embedding Modules [59.26825251273227]
STEMは静的なトークンインデックス付きアプローチで、FFNのアッププロジェクションをレイヤローカルな埋め込みルックアップに置き換える。
これにより、ランタイムルーティングを廃止し、非同期プリフェッチによるCPUオフロードを可能にし、トーケン毎のFLOPとデバイス間通信の両方からキャパシティを分離する。
全体として、STEMはパラメトリックメモリのスケーリングに有効な方法であり、解釈性の向上、トレーニングの安定性の向上、効率の向上を実現している。
論文 参考訳(メタデータ) (2026-01-15T18:00:27Z) - CroPS: Improving Dense Retrieval with Cross-Perspective Positive Samples in Short-Video Search [10.310885252492925]
CroPS (Cross-Perspective Positive Samples) は、新しい検索データエンジンである。
ユーザクエリの修正行動から得られる肯定的な信号によるトレーニングを強化する。
CroPSは現在Kuaishou Searchに完全にデプロイされており、毎日数億人のユーザーにサービスを提供している。
論文 参考訳(メタデータ) (2025-11-19T13:57:40Z) - Breaking the MoE LLM Trilemma: Dynamic Expert Clustering with Structured Compression [14.086434595924716]
Mixture-of-Experts (MoE) Large Language Models (LLM) は負荷不均衡、パラメータの冗長性、通信オーバーヘッドのトリレンマに直面している。
動的専門家クラスタリングと構造化圧縮に基づいて統合されたフレームワークを導入し,これらの問題に協調的に対処する。
論文 参考訳(メタデータ) (2025-09-27T10:45:58Z) - Any Image Restoration via Efficient Spatial-Frequency Degradation Adaptation [158.37640586809187]
劣化した画像を1つのモデルで効率的に復元することは、ますます重要になっている。
我々のアプローチはAnyIRと呼ばれ、様々な劣化にまたがる固有の類似性を活用する統一された経路をとっています。
劣化認識と文脈的注意を融合させるため,空間周波数並列融合戦略を提案する。
論文 参考訳(メタデータ) (2025-04-19T09:54:46Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization [55.972018549438964]
LLM(Federated Fine-tuning of Pre-trained Large Language Models)は、さまざまなデータセットにまたがるタスク固有の適応を可能にすると同時に、プライバシの保護を可能にする。
本研究では, HAFLQ (Heterogeneous Adaptive Federated Low-Rank Adaptation Fine-tuned LLM with Quantization) を提案する。
テキスト分類タスクの実験結果から,HAFLQはメモリ使用量を31%削減し,通信コストを49%削減し,精度を50%向上し,ベースライン法よりも高速な収束を実現している。
論文 参考訳(メタデータ) (2024-11-10T19:59:54Z) - SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。
初期経路では、中間出力は反冗長動作によって統合される。
遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
論文 参考訳(メタデータ) (2024-07-10T10:22:35Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳(メタデータ) (2021-03-22T20:36:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。