論文の概要: XTransfer: Cross-Modality Model Transfer for Human Sensing with Few Data at the Edge
- arxiv url: http://arxiv.org/abs/2506.22726v1
- Date: Sat, 28 Jun 2025 02:14:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-01 21:27:53.535409
- Title: XTransfer: Cross-Modality Model Transfer for Human Sensing with Few Data at the Edge
- Title(参考訳): XTransfer:エッジにはほとんどデータがない人間センシングのためのクロスモーダルモデル転送
- Authors: Yu Zhang, Xi Zhang, Hualin zhou, Xinyuan Chen, Shang Gao, Hong Jia, Jianfei Yang, Yuankai Qi, Tao Gu,
- Abstract要約: 事前訓練されたモデルの転送に依存する現在の方法は、モダリティシフトのような問題に遭遇することが多い。
資源効率, モダリティに依存しないモデル転送のための第一種手法であるXTransferを提案する。
XTransferは、センサデータ収集、モデルトレーニング、エッジデプロイメントのコストを大幅に削減しつつ、人間のセンシングタスクにおける最先端のパフォーマンスを実現する。
- 参考スコア(独自算出の注目度): 32.69565269313996
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning for human sensing on edge systems offers significant opportunities for smart applications. However, its training and development are hindered by the limited availability of sensor data and resource constraints of edge systems. Current methods that rely on transferring pre-trained models often encounter issues such as modality shift and high resource demands, resulting in substantial accuracy loss, resource overhead, and poor adaptability across different sensing applications. In this paper, we propose XTransfer, a first-of-its-kind method for resource-efficient, modality-agnostic model transfer. XTransfer freely leverages single or multiple pre-trained models and transfers knowledge across different modalities by (i) model repairing that safely repairs modality shift in pre-trained model layers with only few sensor data, and (ii) layer recombining that efficiently searches and recombines layers of interest from source models in a layer-wise manner to create compact models. We benchmark various baselines across diverse human sensing datasets spanning different modalities. Comprehensive results demonstrate that XTransfer achieves state-of-the-art performance on human sensing tasks while significantly reducing the costs of sensor data collection, model training, and edge deployment.
- Abstract(参考訳): エッジシステム上でのヒューマンセンシングのためのディープラーニングは、スマートアプリケーションにとって重要な機会を提供する。
しかし、そのトレーニングと開発は、センサデータの限られた可用性とエッジシステムのリソース制約によって妨げられている。
事前訓練されたモデルの転送に依存する現在の手法は、モダリティシフトや高いリソース要求といった問題に遭遇することが多く、結果として相当な精度の損失、リソースオーバーヘッド、異なるセンシングアプリケーション間での適応性が低下する。
本稿では,資源効率,モダリティに依存しないモデル転送のための第一種手法であるXTransferを提案する。
XTransferは、単一または複数の事前訓練されたモデルを自由に利用し、異なるモダリティ間で知識を伝達する
一 少数のセンサデータのみで事前訓練したモデル層のモダリティシフトを安全に修復するモデル修理
(II)コンパクトなモデルを作成するために、ソースモデルから興味のあるレイヤを効率的に検索し、再結合するレイヤの再結合。
我々は、異なるモダリティにまたがる多様な人間のセンシングデータセットにまたがる様々なベースラインをベンチマークする。
総合的な結果から、XTransferは、センサデータ収集、モデルトレーニング、エッジデプロイメントのコストを大幅に削減しつつ、人間のセンシングタスクにおける最先端のパフォーマンスを実現する。
関連論文リスト
- RDTF: Resource-efficient Dual-mask Training Framework for Multi-frame Animated Sticker Generation [29.340362062804967]
制約のあるリソースの下では、より小さなビデオ生成モデルをスクラッチからトレーニングすることで、ダウンストリームアプリケーションでより大きなモデル上でパラメータ効率のチューニングより優れている。
サンプルエントロピーを静的かつ適応的なコンポーネントに分解する難易度適応型カリキュラム学習法を提案する。
論文 参考訳(メタデータ) (2025-03-22T11:28:25Z) - Transfer Learning on Multi-Dimensional Data: A Novel Approach to Neural Network-Based Surrogate Modeling [0.0]
畳み込みニューラルネットワーク(CNN)はそのようなサロゲートモデルの基礎として人気を集めている。
本稿では,$d$次元問題と$d-1$次元近似の両方に対する数値解の混合によるCNN代理モデルのトレーニングを提案する。
転送学習を用いて,2種類のデータに対して,高密度な完全畳み込みエンコーダ・デコーダCNNを学習する多相フローテスト問題に対するアプローチを実証する。
論文 参考訳(メタデータ) (2024-10-16T05:07:48Z) - Encapsulating Knowledge in One Prompt [56.31088116526825]
KiOPは、元のモデルを変更したり、トレーニングデータにアクセスする必要なしに、さまざまなモデルからの知識を単独のプロンプトにカプセル化する。
実用性の観点から、このパラダイムは、データアクセス不能なコンテキストにおけるVisual Promptの有効性を証明している。
様々なデータセットとモデルを用いた実験は、提案したKiOP知識伝達パラダイムの有効性を示す。
論文 参考訳(メタデータ) (2024-07-16T16:35:23Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - Fantastic Gains and Where to Find Them: On the Existence and Prospect of
General Knowledge Transfer between Any Pretrained Model [74.62272538148245]
事前訓練されたモデルの任意のペアリングに対して、一方のモデルは他方では利用できない重要なデータコンテキストを抽出する。
このような「補的」な知識を,性能劣化を伴わずに,あるモデルから別のモデルへ伝達できるかどうかを検討する。
論文 参考訳(メタデータ) (2023-10-26T17:59:46Z) - On the Transferability of Learning Models for Semantic Segmentation for
Remote Sensing Data [12.500746892824338]
近年の深層学習に基づく手法は、リモートセンシング(RS)セマンティックセグメンテーション/分類タスクにおいて従来の学習方法より優れている。
しかし、ソースドメインでトレーニングされたモデルがターゲットドメインに容易に適用できる程度に、その転送可能性に関する包括的な分析は存在しない。
本稿では,従来のディープラーニングモデル(DL)とドメイン適応手法(DA)の有効性について検討する。
論文 参考訳(メタデータ) (2023-10-16T15:13:36Z) - Enhancing Multiple Reliability Measures via Nuisance-extended
Information Bottleneck [77.37409441129995]
トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。
我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。
そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
論文 参考訳(メタデータ) (2023-03-24T16:03:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。