論文の概要: WALoMA: A Multitask Wireless Foundation Model via Adaptive Low-Rank Masked Autoencoders
- arxiv url: http://arxiv.org/abs/2607.25763v1
- Date: Tue, 28 Jul 2026 14:18:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.866649
- Title: WALoMA: A Multitask Wireless Foundation Model via Adaptive Low-Rank Masked Autoencoders
- Title(参考訳): WALoMA: 適応型低ランクマスクオートエンコーダによるマルチタスクワイヤレスファンデーションモデル
- Abstract要約: 本稿では,適応型低ランクマスキングオートエンコーダ(WALoMA)を用いたマルチタスク無線基礎モデルを提案する。
専門的なタスク固有のディープラーニングモデルの制限と、ラベル付き無線データセットの不足による実践的な課題に対処する。
- 参考スコア(独自算出の注目度): 23.225139930889526
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper proposes a multitask wireless foundation model via adaptive low-rank masked autoencoders (WALoMA), a unified multi-task foundation model for sixth-generation (6G) wireless physical layer architectures, to address the limitations of specialized, task-specific deep learning models and the practical challenge of scarce labeled wireless datasets. By leveraging concepts inspired by foundation models, the proposed framework adopts a masked autoencoder (MAE) paradigm to learn from unlabeled channel data, to significantly reduce reliance on extensive annotations. The model treats wireless channel state information (CSI) as a universal modality and learns transferable representations through self-supervised channel reconstruction. Key architectural novelties include the use of 2D positional encoding (PE) to explicitly preserve the spatial-frequency relationships between antennas and subcarriers, and low-rank adaptation (LoRA) for parameter-efficient fine-tuning. The framework's efficacy is demonstrated across five downstream tasks, achieving individual scores of 96.47\% for LoS/NLoS classification, 80.45\% for beam prediction, 85.78\% for channel interpolation, 99.12\% for channel estimation, and 77.18\% for channel charting. Consequently, numerical results show that the proposed model achieves a composite score of 87.80\%, significantly outperforming the 59.90\% achieved by the large wireless model (LWM) baseline while training an average of only 14.68\% of total parameters, and maintaining strong performance even under extremely limited labeled data conditions.
- Abstract(参考訳): 本稿では,適応型低ランクマスキングオートエンコーダ(WALoMA)を用いたマルチタスク無線基盤モデルを提案する。
基礎モデルにインスパイアされた概念を活用することにより、提案フレームワークは、未ラベルのチャネルデータから学習するマスク付きオートエンコーダ(MAE)パラダイムを採用し、広範囲なアノテーションへの依存を著しく低減する。
このモデルは、無線チャネル状態情報(CSI)を普遍的なモダリティとして扱い、自己教師付きチャネル再構築を通じて転送可能な表現を学習する。
重要なアーキテクチャ上の特徴は、アンテナとサブキャリア間の空間周波数関係を明示的に保存するための2D位置符号化(PE)の使用、パラメータ効率の良い微調整のためのローランク適応(LoRA)である。
フレームワークの有効性は、LoS/NLoS分類の96.47\%、ビーム予測の80.45\%、チャネル補間の85.78\%、チャネル推定の99.12\%、チャネルチャートの77.18\%という5つの下流タスクで実証されている。
その結果,提案モデルが合成スコア87.80\%を達成し,大規模無線モデル(LWM)ベースラインで達成した59.90\%を著しく上回り,平均14.68\%の総パラメータをトレーニングし,ラベル付きデータ条件下においても高い性能を維持した。
関連論文リスト
- Modality-Decoupled Federated Learning for Privacy-Preserving Embodied Intelligence in 6G [90.42669277637026]
第6世代(6G)無線ネットワークは、大規模なインボディードインテリジェンスのための重要な基盤を提供すると期待されている。
本稿では、6Gネットワークにおけるプライバシー保護型インテリジェンスのためのモダリティ分離FLフレームワークであるFedMVLAを提案する。
論文 参考訳(メタデータ) (2026-09-09T01:36:44Z) - A VAE-Driven Multi-Task Satellite-Aided Semantic Communication Framework for 6G-Enabled Connected Autonomous Vehicles [51.449502491030756]
衛星支援自動運転のためのマルチタスク・セマンティック・コミュニケーション・フレームワークを提案する。
このフレームワークは、両方のタスクを共同で最適化するために、エンドツーエンドで訓練されている。
提案手法は,87.23%から98.17%までの帯域幅削減を実現している。
論文 参考訳(メタデータ) (2026-07-15T06:49:41Z) - Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。
このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。
Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
論文 参考訳(メタデータ) (2026-07-08T05:48:57Z) - Towards CSI-Native Foundation Models: A Channel-Adaptive Roadmap for 6G [14.956130211673894]
無線基礎モデルは、第6世代(6G)システムのための再利用可能なチャネル状態情報(CSI)インテリジェンスへの道を提供する。
既存の一般的なバックボーン適応とCSI事前訓練法は、CSIを伝搬条件のチャネル応答ではなくタスクテンソルとして扱うことが多い。
本稿では,事前学習,位置モデリング,アテンション制御を3つのチャネル要求に整合させる統合フレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-12T11:01:12Z) - RF-LSCM: Pushing Radiance Fields to Multi-Domain Localized Statistical Channel Modeling for Cellular Network Optimization [26.457933013666253]
本稿では,RF-LSCMを提案する。RF-LSCMは,大規模信号減衰とマルチパス成分を放射場内に共同で表現することで,チャネルAPSをモデル化する新しいフレームワークである。
RF-LSCMは, 平均絶対誤差(MAE)を最大30%低減し, 多周波データを効果的に融合させることにより, 22%のMAE改善を実現した。
論文 参考訳(メタデータ) (2025-09-17T04:31:18Z) - A Foundation Model for DAS Signal Recognition and Visual Prompt Tuning of the Pre-trained Model for Downstream Tasks [6.14430079610632]
本研究では,MAEPD と呼ばれる Masked Autocoder に基づくDAS信号認識の基礎モデルを提案する。
このモデルは635860サンプルのデータセットに事前トレーニングされており、DAS歩行信号、2つの時間的GASF画像、パイプライン漏れの2D時間周波数画像、クジラの発声や地震活動を含むオープンデータセット信号を含んでいる。
VPT-Deepアプローチは、パラメータの0.322%しか微調整されていない96.94%の分類精度を達成し、従来のFFT(Full Fine Tuning)法を0.61%上回り、トレーニング時間を短縮する。
論文 参考訳(メタデータ) (2025-08-06T11:02:25Z) - A Lightweight Deep Learning Model for Automatic Modulation Classification using Dual Path Deep Residual Shrinkage Network [0.0]
自動変調分類(AMC)はスペクトル効率を高める上で重要な役割を果たしている。
低複雑性と高い分類精度のバランスをとる軽量AMCモデルの必要性が高まっている。
本稿では,資源制約エッジデバイスに最適化された低複雑さ,軽量深層学習(DL)AMCモデルを提案する。
論文 参考訳(メタデータ) (2025-07-07T00:37:54Z) - IQFM A Wireless Foundational Model for I/Q Streams in AI-Native 6G [7.531126877550286]
本稿では,無線通信における最初のI/Q信号基礎モデルであるIQFMについて述べる。
IQFMは変調分類、AoA、ビーム予測、RFフィンガープリントといった様々なタスクをサポートする。
また、タスク対応強化戦略を導入し、変換をコア拡張に分類する。
論文 参考訳(メタデータ) (2025-06-07T09:01:38Z) - QLLM: Accurate and Efficient Low-Bitwidth Quantization for Large Language Models [44.515165695546614]
量子化アウェアトレーニング(QAT)はソリューションを提供するが、トレーニング後の量子化(PTQ)は大規模言語モデル(LLM)のより実践的なアプローチとなる。
LLM向けに設計された高精度かつ効率的な低ビット幅PTQ法QLLMを提案する。
論文 参考訳(メタデータ) (2023-10-12T05:25:49Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - Non-Parametric Adaptive Network Pruning [125.4414216272874]
アルゴリズム設計を簡略化するノンパラメトリックモデリングを導入。
顔認識コミュニティに触発されて,メッセージパッシングアルゴリズムを用いて,適応的な例示数を求める。
EPrunerは「重要」フィルタを決定する際にトレーニングデータへの依存を壊します。
論文 参考訳(メタデータ) (2021-01-20T06:18:38Z) - Harnessing Wireless Channels for Scalable and Privacy-Preserving
Federated Learning [56.94644428312295]
無線接続は、フェデレートラーニング(FL)の実現に有効である
Channel randomnessperturbs 各ワーカはモデル更新をインバージョンし、複数のワーカはバンド幅に大きな干渉を発生させる。
A-FADMMでは、すべてのワーカーがモデル更新をアナログ送信を介して単一のチャンネルを使用してパラメータサーバにアップロードする。
これは通信帯域幅を節約するだけでなく、各ワーカーの正確なモデル更新軌跡を任意の盗聴者から隠蔽する。
論文 参考訳(メタデータ) (2020-07-03T16:31:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。