論文の概要: Rethinking User Encoders: Routing Diffusion States for Scenario-Adaptive User Representation
- arxiv url: http://arxiv.org/abs/2610.22400v1
- Date: Wed, 14 Oct 2026 11:27:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.576942
- Title: Rethinking User Encoders: Routing Diffusion States for Scenario-Adaptive User Representation
- Title（参考訳）: ユーザエンコーダの再考:シナリオ適応型ユーザ表現のための拡散状態のルーティング
- Abstract要約: 既存の大規模言語モデル(LLM)ベースのユーザエンコーダは、不均一な振る舞いログをシリアライズし、自動回帰(AR)予測によって静的表現に圧縮する。
拡散言語モデル (dLLM) の反復的復調過程を多粒性再構成空間として解き放つことにより,これらの制約に対処する。
この知見に基づき、我々は4つの演算からなるルータ付きdLLMフレームワークであるFINDERSを提案する。
- 参考スコア（独自算出の注目度）: 22.935491417098472
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing large language model (LLM)-based user encoders serialize heterogeneous behavioral logs and compress them into static representations through autoregressive (AR) prediction. However, their unidirectional constraint limits bidirectional information flow, hindering cross-modal interactions and the joint preservation of multi-source signals. Consequently, the learned static representations struggle to accommodate the distinct evidence requirements of diverse downstream scenarios. We address these limitations by unlocking the iterative denoising process of diffusion language models (dLLMs) as a multi-granularity reconstruction space. Based on this insight, we propose FINDERS (FactorIzatioN of Diffusion statEs for Routing across Scenarios), a router-equipped dLLM framework comprising four operations: denoise, factorize, route, and compress. Learnable meta-slots organize complementary denoising states into transferable cross-modal semantics and modality-specific behavioral factors. To provide grounded supervision, we construct BehaviorQA, a large-scale corpus containing explicit behavioral rationales. Guided by scenario queries, a lightweight router dynamically emphasizes relevant slot directions via an input-level residual pathway before cross-source fusion and final compression. Extensive experiments and online A/B tests across ten industrial scenarios demonstrate that FINDERS consistently outperforms state-of-the-art methods in both unified and scenario-adaptive settings. This work effectively pushes the boundaries of dLLMs beyond language generation, demonstrating their immense potential as powerful user representation learners.
- Abstract（参考訳）: 既存の大規模言語モデル(LLM)ベースのユーザエンコーダは、不均一な振る舞いログをシリアライズし、自動回帰(AR)予測によって静的表現に圧縮する。
しかし、その一方向制約は双方向情報の流れを制限し、多元信号の相互干渉や共同保存を妨げる。
その結果、学習された静的表現は、様々な下流シナリオの明確なエビデンス要件を満たすのに苦労する。
拡散言語モデル (dLLM) の反復的復調過程を多粒性再構成空間として解き放つことにより,これらの制約に対処する。
そこで本研究では,FINDERS (FactorIzatioN of Diffusion statEs for Routing across Scenarios)を提案する。
学習可能なメタスロットは相補的認知状態を伝達可能なクロスモーダル意味論とモダリティ固有の行動要因に分類する。
そこで我々は,行動的合理的性を含む大規模コーパスである振舞いQAを構築した。
シナリオクエリによってガイドされた軽量ルータは、ソース間の融合と最終的な圧縮の前に入力レベル残差経路を介して、関連するスロット方向を動的に強調する。
10の産業シナリオにわたる大規模な実験とオンラインA/Bテストは、FINDERSが統一的およびシナリオ適応的な設定の両方において、最先端のメソッドを一貫して上回っていることを示している。
この研究は、言語生成を超えたdLLMの境界を効果的に推し進め、強力なユーザ表現学習者としての可能性を示している。
関連論文リスト
- IVT-Guard: All-in-One Reasoning Model for AI-Generated Content Detection [68.61333779483097]
本稿では,画像,ビデオ,テキストモダリティ間でAIGC検出を統一かつ解釈可能なフレームワークであるIVT-Guardを提案する。
IVT-Guardは、ドメイン内、ドメイン外、データセット間における最先端検出性能を達成する。
論文 参考訳（メタデータ） (2026-09-27T14:00:55Z) - UniNDM: A Unified Noise-driven Detection and Mitigation Framework Against Sexual Content in Text-to-Image Generation [90.0896070825457]
本稿では,拡散過程におけるノイズダイナミクスのレンズを通して,安全機構を再考する統合ノイズ駆動フレームワークを提案する。
我々の重要な洞察は、早期の予測ノイズは、正常な内容と性的な内容の間に固有の分離性を示すことである。
我々は,計算オーバーヘッドがほとんどなく,精度の高い軽量ノイズベース検出器を開発した。
論文 参考訳（メタデータ） (2026-07-18T14:03:39Z) - TrafficMoE: Heterogeneity-aware Mixture of Experts for Encrypted Traffic Classification [12.748275751587363]
暗号化されたトラフィック分類は、ネットワークセキュリティにとって重要なタスクである。
一つのサイズにフィットする静的デザインは、本質的に欠陥がある。
静的モデリングのボトルネックを突破するフレームワークであるTrafficMoEを提案する。
論文 参考訳（メタデータ） (2026-03-31T10:05:54Z) - Query as Anchor: Scenario-Adaptive User Representation via Large Language Model [28.30329175937291]
静的エンコーディングから動的クエリ認識合成へユーザモデリングをシフトするフレームワークであるQuery-as-Anchorを提案する。
まず,産業規模の事前学習データセットであるUserUを構築し,行動系列とユーザ理解のセマンティクスを整合させる。
クラスタベースのSoft Prompt Tuningを導入し、識別潜在構造を強制する。
デプロイメントでは、シーケンスターミニでのクエリのアンカーにより、無視可能なインクリメンタルレイテンシでKVキャッシュを加速する推論が可能になる。
論文 参考訳（メタデータ） (2026-02-16T06:09:31Z) - Guided Verifier: Collaborative Multimodal Reasoning via Dynamic Process Supervision [11.159231524113764]
マルチモーダル大規模言語モデル(MLLM)の複雑な推論能力を高めるための重要なメカニズムとして強化学習(RL)が登場した。
本稿では,これらの構造的制約に対処する textbfGuided Verifier フレームワークを提案する。
我々は,マルチモーダル幻覚をターゲットとした特殊なデータ合成パイプラインを開発し,プロセスレベルの負の textbfCoRe データセットとtextbfCorrect-guide textbfReasoning トラジェクトリを構築し,ガイド付き検証器を訓練する。
論文 参考訳（メタデータ） (2026-02-04T07:38:42Z) - Next Interest Flow: A Generative Pre-training Paradigm for Recommender Systems by Modeling All-domain Movelines [8.895768051554162]
本稿では,eコマースレコメンデータシステムのための新しい生成事前学習パラダイムを提案する。
我々のモデルは,ユーザの将来の意図を表す密度の高いベクトル列であるNext Interest Flowを予測することを学ぶ。
パイプライン全体を実装した統合フレームワークである All-domain Moveline Evolution Network (AMEN) を提示する。
論文 参考訳（メタデータ） (2025-10-13T12:13:17Z) - Explaining multimodal LLMs via intra-modal token interactions [55.27436637894534]
MLLM(Multimodal Large Language Models)は、様々な視覚言語タスクにおいて顕著な成功を収めているが、その内部決定機構は十分に理解されていない。
モーダル内相互作用を利用した解釈可能性の向上を提案する。
論文 参考訳（メタデータ） (2025-09-26T14:39:13Z) - Dita: Scaling Diffusion Transformer for Generalist Vision-Language-Action Policy [73.75271615101754]
本稿では,Transformerアーキテクチャを活用した拡張性のあるフレームワークであるDitaについて紹介する。
Ditaはコンテキスト内コンディショニング(context conditioning)を採用しており、歴史的観察から生の視覚トークンと識別されたアクションをきめ細やかなアライメントを可能にする。
Ditaは、さまざまなカメラパースペクティブ、観察シーン、タスク、アクションスペースの横断的なデータセットを効果的に統合する。
論文 参考訳（メタデータ） (2025-03-25T15:19:56Z) - Diffusion Augmented Retrieval: A Training-Free Approach to Interactive Text-to-Image Retrieval [7.439049772394586]
Diffusion Augmented Retrieval (DAR)は、複数の中間表現を生成するフレームワークである。
DARの結果は微調整されたI-TIRモデルと同等だが、チューニングオーバーヘッドは発生しない。
論文 参考訳（メタデータ） (2025-01-26T03:29:18Z) - DeNoising-MOT: Towards Multiple Object Tracking with Severe Occlusions [52.63323657077447]
DNMOTは、複数のオブジェクト追跡のためのエンドツーエンドのトレーニング可能なDeNoising Transformerである。
具体的には、トレーニング中にノイズを伴って軌道を拡大し、エンコーダ・デコーダアーキテクチャのデノイング過程をモデルに学習させる。
我々はMOT17,MOT20,DanceTrackのデータセットについて広範な実験を行い,実験結果から,提案手法が従来の最先端手法よりも明確なマージンで優れていることが示された。
論文 参考訳（メタデータ） (2023-09-09T04:40:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。