論文の概要: A Unified Adaptive Feature Composition Framework for Multi-Task Generalization in Wireless Foundation Models
- arxiv url: http://arxiv.org/abs/2606.10277v1
- Date: Tue, 09 Jun 2026 00:57:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.236428
- Title: A Unified Adaptive Feature Composition Framework for Multi-Task Generalization in Wireless Foundation Models
- Title（参考訳）: 無線基礎モデルにおけるマルチタスク一般化のための統一適応的特徴合成フレームワーク
- Authors: Yuxuan Shi, Tingting Yang, Kangning Ma, Liwen Jing, Yuwei Wang, Mengfan Zheng, Li Sun,
- Abstract要約: 無線基礎モデル(WFM)における一般化のための統一適応的特徴合成フレームワークを提案する。
このルータは、最終層出力のみを抽出する代わりに、異なるTransformerの深さから隠された状態を、多層隠れ機能の再利用可能なプールとして扱う。
4つの代表的無線タスクの実験は、RAFCが従来の適応ベースラインを一貫して上回ることを示した。
- 参考スコア（独自算出の注目度）: 19.520699593557357
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Though wireless foundation models (WFMs) have shown strong potential in learning universal channel representations, their adaptation to various downstream tasks remains constrained by existing paradigms. Fine-tuning strategies introduces substantial computational and storage overhead, while frozen feature extraction leads to sub-optimal performance across diverse downstream tasks. To address this issue, we propose a unified adaptive feature composition framework for multitask generalization in WFMs, where the key component is the Routing Adapter for Feature Composition (RAFC). Instead of extracting only the final-layer output, this router treats the hidden states from different Transformer depths as a reusable pool of multi-level hidden features, and employs a lightweight task-driven feature composition network to generate layer-wise aggregation weights, then adaptively combine hierarchical representations through weighted summation. This design enables each downstream task to access suitable mixture of low-, mid-, and high-level wireless features without modifying the pretrained backbone. Extensive experiments on four representative wireless tasks demonstrate that RAFC consistently outperforms conventional adaptation baselines while introducing fewer than 50K additional parameters. Moreover, the learned routing weights provide interpretable evidence of task-specific layer preferences, making the proposed framework a low-complexity, scalable, and explainable interface for adapting WFMs to diverse downstream scenarios.
- Abstract（参考訳）: 無線基礎モデル (WFM) は, ユニバーサルチャネル表現の学習において大きな可能性を秘めているが, 様々な下流タスクへの適応は, 既存のパラダイムに制約されている。
微調整戦略は計算とストレージのオーバーヘッドを大幅に増加させ、凍結した特徴抽出は様々な下流タスクに準最適性能をもたらす。
この問題に対処するために,WFMにおけるマルチタスク一般化のための統一適応型特徴合成フレームワークを提案する。
このルータは、最終層のみを抽出する代わりに、異なるトランスフォーマー深さから隠された状態を多層隠れ機能の再利用可能なプールとして扱い、軽量なタスク駆動型特徴合成ネットワークを用いて重み付けによる階層的表現を適応的に結合する。
この設計により、各下流タスクは、事前訓練されたバックボーンを変更することなく、低、中、高レベルの無線機能に適切にアクセスできる。
4つの代表的無線タスクに関する大規模な実験は、RAFCが50K未満の追加パラメータを導入しながら、従来の適応ベースラインを一貫して上回っていることを示している。
さらに、学習されたルーティングウェイトは、タスク固有の層選択の解釈可能な証拠を提供し、提案するフレームワークを、様々な下流シナリオにWFMを適用するための、低複雑さでスケーラブルで説明可能なインターフェースにする。
関連論文リスト
- SIGMA: Bridging Structural and Distributional Gaps for Vision Foundation Model Adaptation [5.145184780729273]
Vision Foundation Models (VFM) は印象的な表現能力を示している。
textbfScale-textbfIntegrated textbfGlobal textbfModulation textbfAdapter (textbfAdapter)
論文 参考訳（メタデータ） (2026-05-27T03:17:46Z) - Parameter-Efficient Modality-Balanced Symmetric Fusion for Multimodal Remote Sensing Semantic Segmentation [8.840077295284393]
MoBaNetはパラメータ効率とモダリティバランスを持つ対称核融合フレームワークである。
ほとんど凍結されたVFMバックボーン上に構築されたMoBaNetは、一般化可能な表現を維持するために対称なデュアルストリームアーキテクチャを採用している。
ISPRS VaihingenとPotsdamベンチマークの実験は、MoBaNetが最先端のパフォーマンスを達成することを示した。
論文 参考訳（メタデータ） (2026-03-18T13:23:58Z) - Beyond Weight Adaptation: Feature-Space Domain Injection for Cross-Modal Ship Re-Identification [3.6907522136316975]
CMS Re-ID(Cross-Modality Ship Re-Identification)は、全天候の海上目標追跡を実現するために重要である。
モダリティギャップのブリッジ化におけるビジョン・ファンデーション・モデル(VFM)の可能性を探る。
ドメイン表現注入(Domain Representation Injection, DRI)と呼ばれる新しいPEFT戦略を提案する。
論文 参考訳（メタデータ） (2025-12-24T02:30:23Z) - PMA: Towards Parameter-Efficient Point Cloud Understanding via Point Mamba Adapter [54.33433051500349]
本稿では,事前学習モデルのすべての層から順序付き特徴系列を構成するPMAを提案する。
また、異なる層にまたがって共有される幾何学制約ゲートプロンプトジェネレータ(G2PG)を提案する。
論文 参考訳（メタデータ） (2025-05-27T09:27:16Z) - 6G WavesFM: A Foundation Model for Sensing, Communication, and Localization [6.70088826174291]
本稿では,無線基礎モデル(WFM)フレームワークについて紹介する。
提案アーキテクチャでは,共有ビジョントランスフォーマー(ViT)バックボーンとタスク固有の多層パーセプトロンヘッドを組み合わせるとともに,パラメータ効率の良い微調整のためのローランド適応(LoRA)を組み込む。
我々は、統一WFMが多様なタスクをサポートし、性能と効率の両方において大きな利益をもたらすことを示す。
論文 参考訳（メタデータ） (2025-04-18T22:51:35Z) - AdaPTS: Adapting Univariate Foundation Models to Probabilistic Multivariate Time Series Forecasting [10.899510048905926]
本稿では,機能間の複雑な依存関係を管理し,予測の不確実性を定量化するアダプタを提案する。
合成データセットと実世界のデータセットの両方で実施された実験により、アダプタの有効性が確認された。
私たちのフレームワークであるAdaPTSは、アダプタをモジュール的でスケーラブルで効果的なソリューションとして位置づけています。
論文 参考訳（メタデータ） (2025-02-14T15:46:19Z) - A Refreshed Similarity-based Upsampler for Direct High-Ratio Feature Upsampling [54.05517338122698]
一般的な類似性に基づく機能アップサンプリングパイプラインが提案されている。
本稿では,セマンティック・アウェアとディテール・アウェアの両方の観点から,明示的に制御可能なクエリキー機能アライメントを提案する。
我々は,モーザイクアーティファクトを緩和する上ではシンプルだが有効であるHR特徴に対して,きめ細かな近傍選択戦略を開発する。
論文 参考訳（メタデータ） (2024-07-02T14:12:21Z) - HarmoDT: Harmony Multi-Task Decision Transformer for Offline Reinforcement Learning [72.25707314772254]
本稿では,各タスクに対するパラメータの最適な調和部分空間を特定するための新しいソリューションであるHarmoDT(Harmony Multi-Task Decision Transformer)を紹介する。
このフレームワークの上位レベルは、調和部分空間を規定するタスク固有のマスクの学習に特化しており、内部レベルは、統一されたポリシーの全体的なパフォーマンスを高めるためにパラメータの更新に重点を置いている。
論文 参考訳（メタデータ） (2024-05-28T11:41:41Z) - Multi-Head Adapter Routing for Cross-Task Generalization [56.75667096355806]
ポリトロポンは、事前訓練と少数ショット適応の両方の間、各タスクのアダプタのサブセットを選択するルーティング関数とアダプタのインベントリを学習する。
複数タスクの事前学習において、数ショットの適応よりもルーティングの方が有益であることがわかった。
論文 参考訳（メタデータ） (2022-11-07T19:35:55Z) - Semantic-aware Modular Capsule Routing for Visual Question Answering [55.03883681191765]
SuPER と呼ばれるセマンティック・アウェアな modUlar caPsulE フレームワークを提案する。
5つのベンチマークデータセットに対して提案した SUPER スキームの有効性と一般化能力を比較検討した。
論文 参考訳（メタデータ） (2022-07-21T10:48:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。