論文の概要: Tackling Device Data Distribution Real-time Shift via Prototype-based Parameter Editing

• arxiv url: http://arxiv.org/abs/2509.06552v1
• Date: Mon, 08 Sep 2025 11:06:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:04.081282
• Title: Tackling Device Data Distribution Real-time Shift via Prototype-based Parameter Editing
• Title（参考訳）: プロトタイプベースパラメータ編集によるデバイスデータ分散リアルタイムシフトの処理
• Authors: Zheqi Lv, Wenqiao Zhang, Kairui Fu, Qi Tian, Shengyu Zhang, Jiajie Su, Jingyuan Chen, Kun Kuang, Fei Wu,
• Abstract要約: 本稿では,展開後再訓練を伴わずにモデル一般化を促進するパーソナライズ手法であるペルソナを紹介する。 Personaはクラウドにニューラルネットワークを使用し、リアルタイムデバイスデータに基づいてパラメータ編集行列を生成する。 プロトタイプはパラメータ編集マトリックスを介して動的に洗練され、効率的な進化を促進する。
• 参考スコア（独自算出の注目度）: 101.07855433979519
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The on-device real-time data distribution shift on devices challenges the generalization of lightweight on-device models. This critical issue is often overlooked in current research, which predominantly relies on data-intensive and computationally expensive fine-tuning approaches. To tackle this, we introduce Persona, a novel personalized method using a prototype-based, backpropagation-free parameter editing framework to enhance model generalization without post-deployment retraining. Persona employs a neural adapter in the cloud to generate a parameter editing matrix based on real-time device data. This matrix adeptly adapts on-device models to the prevailing data distributions, efficiently clustering them into prototype models. The prototypes are dynamically refined via the parameter editing matrix, facilitating efficient evolution. Furthermore, the integration of cross-layer knowledge transfer ensures consistent and context-aware multi-layer parameter changes and prototype assignment. Extensive experiments on vision task and recommendation task on multiple datasets confirm Persona's effectiveness and generality.
• Abstract（参考訳）: デバイス上でのオンデバイスリアルタイムデータ分散シフトは、軽量オンデバイスモデルの一般化に挑戦する。 この重要な問題は、主にデータ集約的で計算的に高価な微調整アプローチに依存する現在の研究で見落とされがちである。 これを解決するために,プロトタイプベースのバックプロパゲーションフリーパラメータ編集フレームワークを用いたパーソナライズ手法であるペルソナを導入する。 Personaはクラウドにニューラルネットワークを使用し、リアルタイムデバイスデータに基づいてパラメータ編集行列を生成する。 この行列はデバイス上のモデルを一般的なデータ分布に順応的に適応させ、それらをプロトタイプモデルに効率的にクラスタリングする。 プロトタイプはパラメータ編集マトリックスを介して動的に洗練され、効率的な進化を促進する。 さらに、階層間知識伝達の統合により、一貫したコンテキスト対応の多層パラメータ変化とプロトタイプの割り当てが保証される。 複数のデータセットに対するビジョンタスクとレコメンデーションタスクに関する大規模な実験により、ペルソナの有効性と汎用性が確認された。

関連論文リスト

• GeneralizeFormer: Layer-Adaptive Model Generation across Test-Time Distribution Shifts [58.95913531746308]
  テスト時間領域の一般化の問題は、モデルが複数のソースドメインで訓練され、トレーニング中に見たことのないターゲットドメインで調整される場合である。 textitGeneralizeFormer と呼ばれる軽量メタ学習変換器を用いて,推論中に複数の層パラメータを生成することを提案する。
  論文  参考訳（メタデータ） (2025-02-15T10:10:49Z)
• Research on Personalized Compression Algorithm for Pre-trained Models Based on Homomorphic Entropy Increase [2.6513322539118582]
  我々は、現在のAI分野における2つの重要な技術の課題と進化を探求する:ビジョントランスフォーマーモデルと大規模言語モデル(LLM)。 Vision Transformerは、イメージを小さな断片に分割することで、グローバルな情報をキャプチャするが、その高い参照数とモバイル機器へのオーバヘッド制限の配置を計算する。 LLMは自然言語処理に革命をもたらしたが、デプロイメントの課題にも直面している。
  論文  参考訳（メタデータ） (2024-08-16T11:56:49Z)
• A Predictive Model Based on Transformer with Statistical Feature Embedding in Manufacturing Sensor Dataset [2.07180164747172]
  本研究では,統計的特徴埋め込みとウィンドウ位置符号化を利用したトランスフォーマーに基づく新しい予測モデルを提案する。 モデルの性能は, 断層検出と仮想気象学の2つの問題で評価され, ベースラインモデルよりも優れた結果を示した。 結果は、様々な製造業におけるモデルの適用性を支持し、プロセス管理と収量を高める可能性を示している。
  論文  参考訳（メタデータ） (2024-07-09T08:59:27Z)
• PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
  私たちはaを提案します。 フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。 我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
  論文  参考訳（メタデータ） (2024-06-04T13:51:08Z)
• Prototype-based HyperAdapter for Sample-Efficient Multi-task Tuning [30.251155072822055]
  Prototype-based HyperAdapter (PHA)は、アダプタチューニングとハイパーネットワーク上に構築された新しいフレームワークである。 サンプル効率のよい条件付きモジュールを生成するために、インスタンスdenseレトリバーとプロトタイプのハイパーネットワークを導入する。 PHAは、トレーニング可能なパラメータ、ストリームタスクの精度、サンプル効率のトレードオフをより良くすることを示す。
  論文  参考訳（メタデータ） (2023-10-18T02:42:17Z)
• Multi-Metric AutoRec for High Dimensional and Sparse User Behavior Data Prediction [10.351592131677018]
  代表的AutoRecに基づくマルチメトリックAutoRec(MMA)を提案する。 MMAは、分散された距離空間の集合から多次元の向きを楽しみ、ユーザデータの包括的な表現を実現する。 MMAは、観測されていないユーザの行動データを予測する際に、他の7つの最先端モデルより優れている。
  論文  参考訳（メタデータ） (2022-12-20T12:28:07Z)
• DUET: A Tuning-Free Device-Cloud Collaborative Parameters Generation Framework for Efficient Device Model Generalization [66.27399823422665]
  デバイスモデル一般化(Device Model Generalization, DMG)は、デバイス上での機械学習アプリケーションにおいて、実用的ながら実証されていない研究トピックである。 本稿では,Device-cloUdコラボレーティブパラメトリクスフレームワークDUETを提案する。
  論文  参考訳（メタデータ） (2022-09-12T13:26:26Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。