論文の概要: Co-occurrence Patterns of LoRA Adapters in Production Diffusion Model Inference Services

• arxiv url: http://arxiv.org/abs/2609.23321v1
• Date: Sun, 20 Sep 2026 03:16:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.769978
• Title: Co-occurrence Patterns of LoRA Adapters in Production Diffusion Model Inference Services
• Title（参考訳）: 生産拡散モデル推論サービスにおけるLoRAアダプタの共起パターン
• Abstract要約: 低ランク適応(LoRA)はクラウド上で大規模パーソナライズされた大規模言語モデルと拡散モデルを提供するための重要な技術となっている。 本稿では、アダプタ共起ネットワークを構築するためのグラフ理論フレームワークを採用し、静的構造と動的進化の両方から特徴付けを行う。
• 参考スコア（独自算出の注目度）: 16.910057958373518
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Low-rank adaptation (LoRA) has become a key technology for serving large-scale personalized large language models and diffusion models in the cloud. However, the co-occurrence patterns, resource contention relationships, and evolutionary regularities of adapters under production inference workloads have not been systematically or quantitatively studied. Based on GenTD26, Alibaba's production diffusion model inference dataset, this paper adopts a graph-theoretic framework to construct an adapter co-occurrence network and conducts a characterization from both static structure and dynamic evolution. Our main findings are as follows. (1) The co-occurrence network is extremely sparse, and adapter usage frequency follows a significant heavy-tailed distribution. (2) Introducing the first adapter incurs a 66.1% execution-latency overhead, with diminishing marginal costs afterwards. (3) Co-occurrence relationships are driven by base models: in 90.6% of multi-adapter requests, all adapters share the same dominant base model; 66.2% of significant co-occurrence edges connect same-model adapter pairs; and in 85.8% of multi-adapter requests, all adapter pairs form significant co-occurrence edges. (4) The adapter ecosystem exhibits a core-periphery bipolar structure, with a weekly Jaccard similarity of 0.696 at the model level and a churn rate of 54.5% for the top-10 hottest models within a 12-hour window. Based on these findings, we propose a preloading strategy built on top-k co-occurrence statistics; offline experiments show that it covers 81.0% of test-set co-occurrence pairs at k=3, and sensitivity analyses across frequency thresholds and time windows verify the robustness of the conclusions. These results provide a data-driven basis for cache preloading, adaptive scheduling, and GPU memory management in LoRA inference services.
• Abstract（参考訳）: 低ランク適応(LoRA)はクラウド上で大規模パーソナライズされた大規模言語モデルと拡散モデルを提供するための重要な技術となっている。 しかし、生産推定ワークロード下での共起パターン、資源競合関係、およびアダプタの進化規則性は、体系的あるいは定量的に研究されていない。 本稿では,Alibabaの製品拡散モデル推論データセットであるGenTD26に基づいて,アダプタ共起ネットワークを構築するためのグラフ理論フレームワークを採用し,静的構造と動的進化の両方から特徴付けを行う。 主な発見は以下の通りである。 1) 共起ネットワークは極めて疎外であり, アダプタの使用頻度は大きな重み付き分布に追従する。 2) 最初のアダプタの導入は66.1%の実行遅延オーバーヘッドを引き起こし、その後、限界コストが減少する。 (3) 共起関係はベースモデルによって駆動される: マルチアダプタ要求の90.6%では、すべてのアダプタが同じ支配的ベースモデルを共有する; 66.2%の重要な共起エッジが同じモデルアダプタペアを接続する; 85.8%のマルチアダプタ要求では、すべてのアダプタペアが重要な共起エッジを形成する。 (4) アダプタエコシステムは、コア周囲の双極子構造を示し、ジャカードはモデルレベルでは毎週0.696、チャーンレートは12時間間隔でトップ10のホットモデルでは54.5%である。 オフライン実験では,k=3におけるテストセット共起ペアの81.0%をカバーし,周波数閾値と時間ウィンドウの感度解析により,結果の堅牢性を検証する。 これらの結果は、LoRA推論サービスにおけるキャッシュプリロード、適応スケジューリング、GPUメモリ管理のためのデータ駆動ベースを提供する。

関連論文リスト

• Optimization Algorithms for Joint OFDM Waveform Design and RIS Configuration in 6G Networks: From Convex Relaxation to Foundation Models [1.9290392443571385]
  2021年から2026年にかけて発行されたOFDMRIS最適化について調査した。 標準化されたベンチマークは存在せず、クロスペーパー比較は実現不可能である。 合成ベースのベンチマークデプロイメントから6つのオープンな課題が浮かび上がっている。
  論文  参考訳（メタデータ） (2026-06-30T08:34:46Z)
• Customer Churn Prediction on Structured Data Using FT-Transformer and Stacking Ensembles [0.0]
  本研究では,特徴量変換器(FT-Transformer)をキャリブレーション積み重ねによる勾配木と統合したハイブリッドアーキテクチャを提案する。 提案手法は, 統計的検証, 確率, キャリブレーションの持続的ギャップに対処し, 先行研究で確認された。 パブリックバンクチャーンデータセットでは、ハイブリッドモデル62.10% F1、0.861 AUC-ROC、0.647 PR-AUCがMulti-Layer Perceptron(MLP)ベースラインを3.37 F1ポイント、0.027 AUCを95%の信頼区間で上回っている。
  論文  参考訳（メタデータ） (2026-05-26T23:02:38Z)
• Benchmarking Patent Embeddings: A Multi-Task Evaluation of 22 Models Across Retrieval, Classification, and Clustering [0.0]
  我々は,情報検索,分類,クラスタリングという3つのタスクに対して,事前学習した22の埋め込みモデルを評価する。 2つの結果は、一般的な知恵に疑問を投げかけている。
  論文  参考訳（メタデータ） (2026-05-22T23:51:13Z)
• Adaptive Regime-Aware Stock Price Prediction Using Autoencoder-Gated Dual Node Transformers with Reinforcement Learning Control [1.2362187555287152]
  既存のアプローチは全ての市場状態を均一に扱うか、または手動のレギュレーションラベリングを必要とする。 本稿では,通常の市場条件から逸脱を適応的に識別し,特定の予測経路を通じてデータをルーティングする適応予測フレームワークを提案する。 1982年から2025年にかけてのS&P500株20株の実験では、このフレームワークは1日間の予測では0.68%のMAPE、完全な適応システムでは0.59%のMAPEを達成した。
  論文  参考訳（メタデータ） (2026-03-19T16:55:33Z)
• LiQSS: Post-Transformer Linear Quantum-Inspired State-Space Tensor Networks for Real-Time 6G [85.58816960936069]
  Sixth-Generation (6G) Open Radio Access Networks (O-RAN) における能動的およびエージェント的制御は、厳密なニアタイム(Near-RT)レイテンシと計算制約の下で制御グレードの予測を必要とする。 本稿では,効率的な無線テレメトリ予測のための変圧器後パラダイムについて検討する。 本稿では、自己アテンションを安定な状態空間動的カーネルに置き換える量子インスピレーション付き状態空間テンソルネットワークを提案する。
  論文  参考訳（メタデータ） (2026-01-18T12:08:38Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Benchmarking Federated Learning for Throughput Prediction in 5G Live Streaming Applications [5.026196568145574]
  本稿では,現実的な5Gエッジシナリオにおけるスループット予測のためのフェデレーション学習戦略の総合的なベンチマークを行う。 FedBNは、非IID条件下で一貫してロバストな性能を提供する。 LSTMとTransformerモデルは、CNNベースのベースラインを最大80%のR2スコアで上回る。
  論文  参考訳（メタデータ） (2025-08-11T21:27:40Z)
• CLEAR: Conv-Like Linearization Revs Pre-Trained Diffusion Transformers Up [64.38715211969516]
  CLEARと呼ばれる畳み込み型ローカルアテンション戦略を導入し,各クエリトークンの周囲のローカルウィンドウに特徴的インタラクションを限定する。 実験により,10K反復で10Kの自己生成サンプルに注意層を微調整することにより,事前学習したDiTから線形複雑度のある学生モデルへの知識伝達を効果的に行うことができた。
  論文  参考訳（メタデータ） (2024-12-20T17:57:09Z)
• PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
  既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。 PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。 私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
  論文  参考訳（メタデータ） (2023-02-13T19:00:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。