論文の概要: Component Benchmark: Hierarchical Model Profiling for Large-scale Recommendation Systems
- arxiv url: http://arxiv.org/abs/2609.30656v1
- Date: Fri, 25 Sep 2026 00:51:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.177254
- Title: Component Benchmark: Hierarchical Model Profiling for Large-scale Recommendation Systems
- Title(参考訳): コンポーネントベンチマーク:大規模レコメンデーションシステムのための階層モデルプロファイリング
- Abstract要約: 本稿では,各サブモジュールのパフォーマンスを階層的に特徴付けるプロファイリングシステムであるコンポーネントベンチマーク(CB)を提案する。
CBは、ML実践者にパフォーマンスを明確にする、ツリー構造化されたインタラクティブな可視化を提供する。
共通オープンソースモデルにおけるCBの有効性を実証し、CBがどのようにして近代的なレコメンデーションモデルの性能分析と最適化を加速したかについて論じる。
- 参考スコア(独自算出の注目度): 7.946722376224156
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large-scale recommendation models pose distinct, under-explored profiling challenges. Most recommendation model architectures are structurally heterogeneous, intermixing memory-bandwidth-bound operations, small compute-bound dense layers, dynamic shapes from jagged categorical features, and low-arithmetic-intensity operations. Recommendation models evolve rapidly as modeling engineers experiment with compositions, often written without visibility into hardware execution characteristics. Standard profiling tools offer either end-to-end throughput or operator-level traces, but cannot attribute performance to the submodules that practitioners reason about. We present Component Benchmark (CB), a profiling system that independently characterizes each submodule performance in a hierarchical manner, providing a tree-structured, interactive visualization that brings performance clarity to ML practitioners. At its core, CB provides a simple yet extensible, submodule-based benchmarking framework with a plugin architecture that enables hierarchical performance analysis. These large-scale recommendation models are TB-scale, run on thousands of GPUs and ingest 100B examples per day. We demonstrate CB's effectiveness on common open sourced models and discuss how CB has been leveraged to accelerate modern recommendation model performance analysis and optimization.
- Abstract(参考訳): 大規模レコメンデーションモデルでは、異なる、探索されていないプロファイリングの課題が引き起こされる。
最も推奨されるモデルアーキテクチャは構造的に不均一であり、メモリ帯域幅の混合演算、小さな計算バウンド密度層、ジャグのカテゴリー特徴からの動的形状、低算術的強度演算である。
推奨モデルは、エンジニアがハードウェアの実行特性を可視化せずに記述されるコンポジションを実験するにつれて、急速に進化する。
標準的なプロファイリングツールは、エンドツーエンドのスループットまたはオペレータレベルのトレースを提供するが、実践者が推論するサブモジュールのパフォーマンスには影響しない。
本稿では,各サブモジュールのパフォーマンスを階層的に独立に特徴付けるプロファイリングシステムであるコンポーネントベンチマーク(CB)について述べる。
CBの中核となるのは、階層的なパフォーマンス分析を可能にするプラグインアーキテクチャを備えた、シンプルで拡張可能なサブモジュールベースのベンチマークフレームワークである。
これらの大規模なレコメンデーションモデルはTBスケールで、数千のGPUで動作し、1日に100億のサンプルを取り込みます。
共通オープンソースモデルにおけるCBの有効性を実証し、CBがどのようにして近代的なレコメンデーションモデルの性能分析と最適化を加速したかについて論じる。
関連論文リスト
- LAYERSCOPE: A Layerwise Characterization of Video and Multimodal Learned Representations [57.281591486516504]
LAYERSCOPEは、ビデオおよびマルチモーダル設定において、モデルの学習した表現を特徴付けることを目的としている。
ビデオおよびマルチモーダル分類,クラスタリング,MVEB/MVEB+からのテキスト・ツー・ビデオ検索の7つのモデルを評価する。
中間層表現は最終層およびモデルデフォルト出力より優れることがわかった。
論文 参考訳(メタデータ) (2026-09-23T13:24:29Z) - Beyond Holistic Models: Systematic Component-level Benchmarking of Deep Multivariate Time-Series Forecasting [38.12202305030755]
我々は,深部予測手法をそのコアとなる微細なコンポーネントに体系的に分解する,最初の大規模ベンチマークであるTSCOMPを提案する。
我々は、異なるバックボーン、データ特性、およびそれらの相互作用におけるコンポーネントの有効性を明らかにする多視点分析を行う。
実験の結果,コーパス駆動型アプローチは最先端手法よりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2026-05-26T05:18:38Z) - Semantic Generative Tuning for Unified Multimodal Models [62.18894352635965]
統一マルチモーダルモデル(UMM)は、単一のアーキテクチャ内で視覚的理解と視覚的生成を統合する。
訓練パラダイムは 独立して テキスト信号を通して 理解を最適化する 密集したピクセルの目的を通して 生成する
本研究は,UMMの分離を橋渡しするための生成プロキシとして階層的視覚タスクを定式化する,生成後学習に関する最初の体系的な研究である。
論文 参考訳(メタデータ) (2026-05-18T17:46:46Z) - Souper-Model: How Simple Arithmetic Unlocks State-of-the-Art LLM Performance [15.244354622288226]
本稿では,モデルスープの原則的アプローチである Soup Of Category Experts (SoCE) を紹介する。
SoCEは、弱相関カテゴリクラスタごとに「エキスパート」モデルを識別し、最適化された重み付け平均化を用いてそれらを結合する。
提案手法は,複数の領域にまたがる性能とロバスト性の向上を実証する。
論文 参考訳(メタデータ) (2025-11-17T11:13:34Z) - HEAS: Hierarchical Evolutionary Agent Simulation Framework for Cross-Scale Modeling and Multi-Objective Search [4.807104001943257]
階層シミュレーションエージェント(Hierarchical Simulation Agent, HEAS)は、階層化されたエージェントベースのモデリングを進化的最適化とトーナメント評価で統合するPythonフレームワークである。
HEASは、共有コンテキストを読み書きする決定論的レイヤにスケジュールされた軽量プロセス(ストリーム)の階層としてモデルを表現する。
compact APIとCLIは、シングルオブジェクトとマルチオブジェクトの進化をシミュレートし、最適化し、評価します。
論文 参考訳(メタデータ) (2025-08-21T13:35:46Z) - Structural Similarity-Inspired Unfolding for Lightweight Image Super-Resolution [88.20464308588889]
効率的な画像SRのための構造類似インスパイアド・アンフォールディング(SSIU)法を提案する。
この方法は、構造的類似性に制約されたSR最適化関数の展開によって設計される。
我々のモデルは現在の最先端モデルより優れており、パラメータ数が低く、メモリ消費が減少している。
論文 参考訳(メタデータ) (2025-06-13T14:29:40Z) - Explore In-Context Segmentation via Latent Diffusion Models [132.26274147026854]
インコンテキストセグメンテーションは、与えられた参照画像を使ってオブジェクトをセグメンテーションすることを目的としている。
既存のほとんどのアプローチでは、視覚的プロンプトと入力画像クエリの相関を構築するために、メトリックラーニングやマスク付きイメージモデリングを採用しています。
この研究は、新しい視点から問題にアプローチし、コンテキスト内セグメンテーションのための潜在拡散モデルの能力を解き放つ。
論文 参考訳(メタデータ) (2024-03-14T17:52:31Z) - S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。
我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
論文 参考訳(メタデータ) (2020-07-13T17:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。