論文の概要: KuaFu: Compressing Long User Behavior into Understanding at Billion Scale

• arxiv url: http://arxiv.org/abs/2609.31045v1
• Date: Fri, 25 Sep 2026 09:39:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.327896
• Title: KuaFu: Compressing Long User Behavior into Understanding at Billion Scale
• Title（参考訳）: KuaFu: 数十億ドル規模のユーザ行動を理解する
• Abstract要約: KuaFuは、最小限のユニットが1つの振舞いアイテムである統一された振舞い圧縮層である。 5つの指標のすべてで、圧縮されていないシングルタスクのプロダクションモデルと一致または超えます。 Tencentの広告とレコメンデーションプラットフォーム上で10ヶ月間稼働しており、全体のGMVは1.37%上昇している。
• 参考スコア（独自算出の注目度）: 8.879165508803753
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conversational agents, generative recommenders, and personalized advertising all rest on one capability: understanding each user from raw behavior. Prevailing industrial practice is task-specific: for each task, a relevant subsequence is extracted from the full history and a dedicated model trained on it. In production it hits two bottlenecks. First, even after filtering, a single-task sequence stays extremely long: content-interest summarization reads several hundred items per user, tens of thousands of tokens once serialized as prompt text. Second, profiles are refreshed routinely: a billion users weekly, roughly 100K QPM in aggregate, which under a fixed GPU budget sets a hard throughput floor. Compression is therefore mandatory, yet truncation or coarse compression can silently distort the profile, introducing four hallucination types (fabrication, omission, date misattribution, broken logic) that, with no way to evaluate the compressed representation itself, surface only as diffuse degradation in downstream metrics. We present KuaFu, a unified behavior-compression layer whose minimal unit is one behavior item. A two-axis projector compresses each item into 2-4 tokens of width 128-256 (about 10x along the token axis, 20x along width; per-item cache 10 KB to 0.5 KB), with fidelity-oriented four-stage training and layered intermediate evaluation. Across four production profiling tasks it matches or exceeds uncompressed single-task production models on all five headline metrics, raises per-GPU throughput by 37%-350%, and saves 190 GPUs. On public benchmarks it nearly always beats prior compressors at the same compression ratio (up to +17.7 EM on out-of-domain MRQA); on RecBench, a 4B model surpasses its 8B counterpart by 1.90 points. KuaFu has run on the Tencent advertising and recommendation platform for ten months, lifting overall GMV by 1.37%.
• Abstract（参考訳）: 会話エージェント、生成推奨者、パーソナライズされた広告はすべて、1つの能力にかかっている。 一般的な産業実践はタスク固有であり、それぞれのタスクに対して、関連するサブシーケンスは、その履歴とそれに基づいて訓練された専用モデルから抽出される。 プロダクションでは2つのボトルネックにぶつかる。 コンテンツ関心の要約は、1ユーザあたり数百項目を読み、数万のトークンが一度プロンプトテキストとしてシリアライズされる。 第2に、プロファイルは定期的に更新される。毎週10億人のユーザ、合計で約10万QPM、固定GPU予算の下ではハードスループットフロアが設定される。 したがって、圧縮は必須であるが、切り裂かれたり粗い圧縮はプロファイルを静かに歪ませることができ、圧縮された表現自体を評価する方法がない4つの幻覚型(ファブリケーション、省略、日付ミス属性、破壊論理)を下流のメトリクスで拡散分解としてのみ表面化する。 最小単位が1つの行動項目である統一された行動圧縮層であるKuaFuを提案する。 2軸プロジェクタは、各アイテムを幅18〜256の2〜4個のトークン(トークン軸の約10倍、幅の約20倍、テムキャッシュ10KB〜0.5KB)に圧縮し、忠実な4段階トレーニングと層状中間評価を行う。 4つのプロダクションプロファイリングタスクで、5つのヘッドラインメトリクスすべてにおいて、圧縮されていないシングルタスクプロダクションモデルに適合または超え、GPU当たりのスループットを37%-350%向上し、190GPUを節約する。 公開ベンチマークでは、圧縮比が同じ(ドメイン外のMRQAでは+17.7 EMまで)プレプレッサーをほぼ常に上回り、4Bモデルは8Bモデルより1.90ポイント上回っている。 KuaFuはTencentの広告とレコメンデーションプラットフォームで10ヶ月間運用されており、全体のGMVを1.37%引き上げている。

関連論文リスト

• Compress What You See, Not What You Say: Anchored Context Distillation for Latent-Observation Software Engineering Agents [9.105007404211452]
  Latent Observations, Hard Actions (LOHA) は、圧縮された履歴を正確な参照に必要なテキストから分離するコンテキストレイアウトである。 LOHAは、古いツールの観察をソフトトークンに圧縮し、エージェント自身のターンと最後のK観察をテキストで保持する。 ACDは、ベースモデルのフルテキスト予測を潜在ビューに蒸留し、その振る舞いを同じベースモデルへの平文入力に固定する。
  論文  参考訳（メタデータ） (2026-09-25T15:51:40Z)
• Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
  我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。 本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
  論文  参考訳（メタデータ） (2026-08-10T07:49:10Z)
• SpaCeFormer: Fast Proposal-Free Open-Vocabulary 3D Instance Segmentation [82.87586897359367]
  SpaCeFormerはプロポーザルフリーのスペースカーブトランスであり、1シーンあたり0.14秒で動作する。 SpaCeFormerは、以前のシングルビューパイプラインよりも21倍高いマスクリコールを実現している。 ScanNet200では、従来のベストプロポーザルフリーメソッドよりも2.8倍改善された11.1ゼロショットのmAPを実現しています。
  論文  参考訳（メタデータ） (2026-04-22T09:57:57Z)
• MoE-nD: Per-Layer Mixture-of-Experts Routing for Multi-Axis KV Cache Compression [7.208745673318648]
  既存の圧縮法は、それぞれ4次元KVテンソルの1軸に作用する。 それぞれの圧縮操作に対して異なる層が非常に異なる応答を示す。 そこで我々は,各レイヤを個別にルーティングするMix-of-expertsフレームワークであるMoE-nDを提案する。
  論文  参考訳（メタデータ） (2026-04-20T01:20:26Z)
• Open-TQ-Metal: Fused Compressed-Domain Attention for Long-Context LLM Inference on Apple Silicon [0.0]
  我々は、Apple Siliconに融合圧縮ドメインアテンションの最初の実装であるOpen-TQ-Metalを紹介する。 Llama 3.1 70Bの128Kコンテクスト推論を可能にする。 Open-TQ-MetalはKVキャッシュをオンザフライでInt4に量子化し、圧縮された表現に直接注意を計算する。
  論文  参考訳（メタデータ） (2026-04-18T10:39:28Z)
• Small Vision-Language Models are Smart Compressors for Long Video Understanding [73.65465038390771]
  長時間のビデオ理解は、欲求に満ちたコンテキストではなく、意図駆動の効率に頼っている。 本稿では,下流の理解のために長い動画を圧縮する効率的なクエリ認識フレームワークであるTempoを提案する。 テストでは、Tempoが1時間のビデオを理論的限界以下に圧縮し、真のロングフォームビデオ理解が意図駆動の効率に依存することを示した。
  論文  参考訳（メタデータ） (2026-04-09T11:40:25Z)
• A Practical Tensor-Network Compression Pipeline for Production-Scale Large Language Models [0.0]
  Minimaは、Transformerの構造的圧縮の場所と方法を学ぶ、プロダクション圧縮パイプラインである。 Minimaは8k-tokenコンテキストウィンドウでQwen3-32B上で実行し、ピークVRAMを64 GiBから40 GiBに削減する。 単一のアクティブリクエストでは、スループットは毎秒40トークン(ベースライン)から毎秒50トークン(ミニマ)、毎秒75トークン(推測復号化のミニマ)に向上する。
  論文  参考訳（メタデータ） (2026-02-02T04:03:39Z)
• RFX: High-Performance Random Forests with GPU Acceleration and QLORA Compression [0.0]
  RFX (Random Forests X) は、X が圧縮または量子化の略であり、Python で Breiman と Cutler の Random Forest 分類方法論のプロダクション対応の実装を提供する。 RFX v1.0は完全な分類を提供する:out-of-bagエラー推定、総合的および局所的重要度測定、QLORA圧縮による近接行列、ケースワイズ分析、インタラクティブ可視化(rfviz)。 回帰、教師なし学習、CLIQUEの重要性、RF-GAP近接はv2.0で計画されている。
  論文  参考訳（メタデータ） (2025-11-23T12:00:33Z)
• TPLA: Tensor Parallel Latent Attention for Efficient Disaggregated Prefill and Decode Inference [48.40143137402824]
  MLA(Multi-Head Latent Attention)は、キー値の状態を低ランクの潜在ベクトルに圧縮し、このベクトルだけをキャッシュしてメモリを減少させる。 しかし、テンソル並列性(TP)では、アテンションヘッドは複数のデバイスにまたがって計算され、各デバイスはフルキャッシュをロードしなければならない。 本稿では,潜在表現と各頭部の入力次元をデバイス間で分割し,シャード毎に独立して注目を行い,結果を全再現と組み合わせる方式であるTPLAを提案する。
  論文  参考訳（メタデータ） (2025-08-21T15:25:40Z)
• Token Compensator: Altering Inference Cost of Vision Transformer without Re-Tuning [63.43972993473501]
  視覚変換器(ViT)の訓練と推論を高速化するトークン圧縮 しかし、下流タスクに適用した場合、圧縮度はトレーニングと推論の段階で不一致となる。 本稿では,2段階間の圧縮度を分離するモデル演算フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-13T10:36:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。