論文の概要: WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report

• arxiv url: http://arxiv.org/abs/2608.24053v1
• Date: Tue, 25 Aug 2026 04:23:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.811978
• Title: WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report
• Title（参考訳）: WeMM埋め込み:WeChat Multi-Modal Embedding Technical Report
• Abstract要約: WeMM-Embeddingは、テキスト、画像、ビデオ、ビジュアルドキュメント、そして任意にインターリーブされたマルチモーダル入力をサポートするユニバーサルなマルチモーダル埋め込みモデルのファミリーである。 WeMM-Embeddingは、複数の公開ベンチマークで主要なパフォーマンスを達成する。 WeChat Channels、Officic Accounts、Moments、Eコマースサービスなど、レコメンデーションおよび検索アプリケーションにわたって大規模にデプロイされている。
• 参考スコア（独自算出の注目度）: 18.378527451722057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Universal multimodal embeddings are becoming a core component of modern AI systems, enabling heterogeneous content to be represented in a shared space for applications such as retrieval, recommendation, classification, and agentic systems. In this report, we present WeMM-Embedding, a family of universal multimodal embedding models supporting text, images, videos, visual documents, and arbitrarily interleaved multimodal inputs with flexible output dimensions. The family comprises 2B, 4B, and 9B variants and is trained in two stages: a large-scale multimodal alignment stage, followed by a refinement stage using curated data, fine-grained relevance supervision, and cross-scale knowledge transfer. Across extensive evaluations, WeMM-Embedding achieves leading performance on multiple public benchmarks. Notably, the 2B variant already surpasses the previously leading 8B open-source baseline on MMEB-v2, while the 9B variant further achieves a new state-of-the-art overall score of 80.6. WeMM-Embedding also demonstrates strong practical performance across WeChat applications, with substantial gains on a 26-task in-house benchmark and consistent improvements across 14 online A/B tests. It has been deployed at scale across recommendation and search applications, including WeChat Channels, Official Accounts, Moments, and e-commerce services. We have released the model weights and code to facilitate future research at https://github.com/Tencent/WeMM-Embedding.
• Abstract（参考訳）: ユニバーサルなマルチモーダル埋め込みは現代のAIシステムの中核的なコンポーネントとなり、検索、レコメンデーション、分類、エージェントシステムといったアプリケーションのために、異種コンテンツを共有空間で表現できるようにする。 本稿では、テキスト、画像、ビデオ、ビジュアルドキュメント、およびフレキシブルな出力次元を持つ任意のインターリーブされたマルチモーダル入力をサポートするユニバーサルなマルチモーダル埋め込みモデルであるWeMM-Embeddingを提案する。 このファミリーは2B、4B、9Bの派生型で構成されており、大規模なマルチモーダルアライメントステージと、キュレートされたデータを使用した洗練ステージ、きめ細かい関連性監視、およびクロススケールな知識伝達の2段階で訓練されている。 WeMM-Embeddingは広範に評価され、複数の公開ベンチマークで主要なパフォーマンスを達成している。 特に、2Bの派生版はMMEB-v2の8Bオープンソースベースラインをすでに上回り、9Bの派生版は80.6という新しい最先端のスコアを達成している。 WeMM-Embeddingはまた、WeChatアプリケーション全体で強力な実用的なパフォーマンスを示し、26タスクの社内ベンチマークと14のオンラインA/Bテストで一貫した改善を実現している。 WeChat Channels、Officic Accounts、Moments、Eコマースサービスなど、レコメンデーションおよび検索アプリケーションにわたって大規模にデプロイされている。 我々は、https://github.com/Tencent/WeMM-Embedding.comで将来の研究を促進するためのモデルウェイトとコードをリリースした。

関連論文リスト

• Douyin Multimodal Embedding Model Technical Report [77.9018834072698]
  マルチモーダル表現学習は、現代のAIの基盤となっている。 両強度を組み合わせた2段階のモデルであるDME(Douyin Multimodal Embedding)を提案する。
  論文  参考訳（メタデータ） (2026-08-03T12:31:49Z)
• Gemini Embedding 2: A Native Multimodal Embedding Model from Gemini [49.70057706309715]
  本稿では,映像,音声,画像,テキストのモダリティを統一表現空間に埋め込み可能な,ネイティブなマルチモーダル埋め込みモデルであるGemini Embedding 2を紹介する。 マルチタスク・マルチステージ・トレーニング・セットアップにおける大規模コントラスト学習の適用により,キー埋め込みベンチマークの最先端性能を実現する。 MSCOCOでは62.9 R@1、Vatexでは68.8 NDCG@10、MTEB多言語では69.9、MTEB Codeでは84.0)、特殊モデルでは84.0である。
  論文  参考訳（メタデータ） (2026-05-26T17:07:55Z)
• F2LLM-v2: Inclusive, Performant, and Efficient Embeddings for a Multilingual World [19.088644745246373]
  F2LLM-v2は80Mから14Bまでの8種類の汎用多言語埋め込みモデルである。 F2LLM-v2では200以上の言語をサポートしている。
  論文  参考訳（メタデータ） (2026-03-19T17:59:21Z)
• Explore More, Learn Better: Parallel MLLM Embeddings under Mutual Information Minimization [35.43577499735611]
  マルチモーダル埋め込み学習のための並列デカップリングフレームワーク(PDF)を1つ導入する。 PDFでは、異なる学習可能なプレフィックスで共有MLLMバックボーンを条件付けして、1つの入力に対して複数の並列パスをロールアウトする。 複数のMLLMバックボーン上でPDFをインスタンス化し,その効果をMMEBベンチマークで証明する。
  論文  参考訳（メタデータ） (2025-11-03T13:57:08Z)
• MM-Eureka: Exploring the Frontiers of Multimodal Reasoning with Rule-based Reinforcement Learning [55.82649731348012]
  MMK12データセットとMM-EUREKAを7B,32Bパラメータで導入する。 前者は、人間の検証された答えと解法を含む多様な知識領域を特徴とする高品質なマルチモーダル数学推論データセットである。 後者は,オンラインフィルタリングを利用したルールベース強化学習と,トレーニング安定性を高めるための2段階トレーニング戦略を用いたマルチモーダルモデルである。
  論文  参考訳（メタデータ） (2025-03-10T14:23:12Z)
• MMIE: Massive Multimodal Interleaved Comprehension Benchmark for Large Vision-Language Models [71.36392373876505]
  我々は、LVLM(Large Vision-Language Models)において、インターリーブされたマルチモーダル理解と生成を評価するための大規模ベンチマークであるMMIEを紹介する。 MMIEは、数学、コーディング、物理学、文学、健康、芸術を含む3つのカテゴリ、12のフィールド、102のサブフィールドにまたがる20Kの厳密にキュレートされたマルチモーダルクエリで構成されている。 インターリーブされたインプットとアウトプットの両方をサポートし、多様な能力を評価するために、複数選択とオープンな質問フォーマットの混合を提供する。
  論文  参考訳（メタデータ） (2024-10-14T04:15:00Z)
• VLM2Vec: Training Vision-Language Models for Massive Multimodal Embedding Tasks [60.5257456681402]
  幅広い下流タスクを扱える普遍的な埋め込みを構築する可能性について検討する。 We build a series of VLM2Vec model on SoTA VLMs like Phi-3.5-V, LLaVA-1.6 and evaluate them on MMEB's evaluation split。 以上の結果から,VLM2Vecは既存のマルチモーダル埋め込みモデルよりも10%から20%の絶対的な平均的改善を実現していることがわかった。
  論文  参考訳（メタデータ） (2024-10-07T16:14:05Z)
• Noise-powered Multi-modal Knowledge Graph Representation Framework [52.95468915728721]
  マルチモーダル・プレトレーニングの台頭は、統合されたマルチモーダル知識グラフ表現学習フレームワークの必要性を強調している。 モードレベルのノイズマスキングを備えたトランスフォーマーアーキテクチャを用いた新しいSNAG手法を提案する。 提案手法は10個のデータセットにまたがってSOTA性能を実現し,その汎用性を実証する。
  論文  参考訳（メタデータ） (2024-03-11T15:48:43Z)
• CaMML: Context-Aware Multimodal Learner for Large Models [16.30752006781618]
  大規模マルチモーダルモデル(LMM)をチューニングするためのコンテキスト認識型マルチモーダル学習器(CaMML)を導入する。 CaMMLは、マルチモーダルなコンテキストサンプルを大きなモデルにシームレスに統合し、類似したドメイン固有の最新の情報から知識を引き出すことができるように設計されている。 CaMMLに基づく2つのマルチモーダルモデルであるCaMML-7BとCaMML-13Bを開発した。
  論文  参考訳（メタデータ） (2024-01-06T07:54:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。