論文の概要: How Big Should a Wireless Foundation Model Be?
- arxiv url: http://arxiv.org/abs/2605.07266v1
- Date: Fri, 08 May 2026 05:31:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.820897
- Title: How Big Should a Wireless Foundation Model Be?
- Title(参考訳): ワイヤレスファンデーションモデルはどれぐらい大きければいいのか?
- Authors: Wei-Lun Cheng, Wanjiun Liao,
- Abstract要約: ワイヤレス基盤モデルは、AIネイティブ通信システムの主要な実現手段として急速に発展しつつある。
本研究は,本質的な次元性 (dNL) が基本的なボトルネックとして機能し,データ充足体制に達すると,スケーリング天井が定義されることを示す。
本稿では、衛星チャネルを代表例とする無線AIのスケーリングフレームワークを提案する。
- 参考スコア(独自算出の注目度): 4.809853780293358
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wireless foundation models are rapidly emerging as a key enabler of AI-native communication systems, yet a fundamental question remains unanswered: how large should these models be? We present a principled, physics-grounded answer, showing that the intrinsic dimensionality (dNL, the nonlinear manifold dimension of the channel) acts as the fundamental bottleneck, defining the scaling ceiling once a data-sufficient regime is reached. This dimensionality is not a design choice but a physical constraint: Maxwell's equations, finite scatterers, and antenna aperture inherently constrain wireless propagation environments to a limited number of degrees of freedom -- spanning 5-35 across both real-world OTA measurements and 3GPP-standardized channel models we evaluate -- orders of magnitude below the ~1,000-dimensional semantic space of language. As a consequence, we propose a scaling framework for wireless AI: taking NTN satellite channels as a representative case (dNL ~= 14), scaling gains diminish rapidly beyond ~30 million parameters, entering a stochastic asymptote above 70M where a further 1.6x increase (96M->150M) yields only 0.52 dB. Beyond this ceiling, inference-time adaptation via pilot-aided test-time training (TTT) is far more effective: a compact 12M-parameter model surpasses a static 96M model by 9.9 dB (NMSE, SNR = 20 dB) / 7.6 dB (MCM, SNR = 10 dB) at one-eighth the parameters. With dNL distributions validated across real-world indoor massive MIMO measurements, our scaling laws and TTT gains are demonstrated through NTN satellite simulations, reframing wireless AI design: channel geometry -- not model size -- fundamentally governs the scaling laws of physical-layer wireless AI.
- Abstract(参考訳): ワイヤレスファウンデーションモデルは、AIネイティブ通信システムの主要な実現要因として急速に現れていますが、根本的な疑問は未解決のままです。
そこで本研究では,本質的な次元 (dNL, チャネルの非線形多様体次元) が基本的ボトルネックとして機能し, データ満足な状態に達すると, スケーリング天井を定義する。
マクスウェルの方程式、有限散乱器、アンテナ開口は本質的に、無線伝搬環境を自由度に制限し、実際のOTA測定と評価した3GPP標準化チャネルモデルの両方で5-35の範囲にまたがる。
その結果、NTN衛星チャネルを代表例として(dNL ~= 14)、スケーリングゲインが約3000万のパラメータを超えて急速に減少し、さらに1.6倍のアップ(96M->150M)が0.52dBしか得られない70M以上の確率的漸近状態に入るという、無線AIのスケーリングフレームワークを提案する。
コンパクト12Mパラメータモデルは、パラメータの8分の1で9.9 dB (NMSE, SNR = 20 dB) / 7.6 dB (MCM, SNR = 10 dB) の静的96Mモデルを上回る。
実世界の屋内MIMO測定で検証されたdNL分布により、NTN衛星シミュレーションにより、我々のスケーリング法則とTTTゲインが実証され、無線AI設計(モデルサイズではなくチャネル幾何学)が、物理層ワイヤレスAIのスケーリング法則を根本的に支配する。
関連論文リスト
- Adaptive 3D-RoPE: Physics-Aligned Rotary Positional Encoding for Wireless Foundation Models [14.956130211673894]
位置符号化は,性能無線基礎モデルの補間と一般化において重要な役割を担っている。
本稿では,無線基礎モデルのための構造コーナーを確立させる物理対応型回転位置符号化であるAdaptive 3D-RoPEを提案する。
論文 参考訳(メタデータ) (2026-05-01T15:51:10Z) - TinyML Enhances CubeSat Mission Capabilities [8.462623779881566]
本稿では,画像分類のための畳み込みニューラルネットワーク(ConvNets)モデル最適化と配置パイプラインを提案する。
我々のパイプラインは、構造化された反復プルーニング、後のINT8量子化、および圧縮モデルへのハードウェア対応オペレータマッピングを統合している。
最適化されたモデルでは、RAM使用率89.55%、フラッシュメモリ709%の平均的な削減が示されている。
論文 参考訳(メタデータ) (2026-03-20T17:51:07Z) - How Small Can 6G Reason? Scaling Tiny Language Models for AI-Native Networks [3.099103925863002]
AIネイティブな6Gシステムにおけるネットワークレベルの意味推論のためのコンパクト言語モデルのスケーリング挙動と展開効率について検討する。
我々は,Llama-3.2-1B,Granite-1B,Qwen2.5-3Bなどの中規模アーキテクチャを含む135M(SmolLM2-135M)から7Bパラメータ(Qwen2.5-7B)までのモデルを評価する。
論文 参考訳(メタデータ) (2026-03-02T18:19:49Z) - Accurate Network Traffic Matrix Prediction via LEAD: a Large Language Model-Enhanced Adapter-Based Conditional Diffusion Model [41.23125529149133]
本稿では,交通行列をRGB画像に変換する条件拡散モデルLEADを提案する。
また,拡散モデルを誘導し,複雑な動的ネットワークトラフィックを生成するDual-Conditioning Strategyを提案する。
AbileneとGEANTデータセットの実験では、LEADがすべてのベースラインを上回っていることが示されている。
論文 参考訳(メタデータ) (2026-01-29T09:16:05Z) - LiQSS: Post-Transformer Linear Quantum-Inspired State-Space Tensor Networks for Real-Time 6G [85.58816960936069]
Sixth-Generation (6G) Open Radio Access Networks (O-RAN) における能動的およびエージェント的制御は、厳密なニアタイム(Near-RT)レイテンシと計算制約の下で制御グレードの予測を必要とする。
本稿では,効率的な無線テレメトリ予測のための変圧器後パラダイムについて検討する。
本稿では、自己アテンションを安定な状態空間動的カーネルに置き換える量子インスピレーション付き状態空間テンソルネットワークを提案する。
論文 参考訳(メタデータ) (2026-01-18T12:08:38Z) - Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。
We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
論文 参考訳(メタデータ) (2025-11-04T17:22:22Z) - Ultra-low Power Deep Learning-based Monocular Relative Localization
Onboard Nano-quadrotors [64.68349896377629]
この研究は、2つのピアナノドロンのディープニューラルネットワーク(DNN)を介して、単分子の相対的な局所化に対処する、新しい自律的なエンドツーエンドシステムを示す。
超制約ナノドローンプラットフォームに対処するため,データセットの増大,量子化,システム最適化などを含む垂直統合フレームワークを提案する。
実験の結果,DNNは低分解能モノクローム画像のみを用いて最大2mの距離で10cmのターゲットナノドローンを正確に局在させることができることがわかった。
論文 参考訳(メタデータ) (2023-03-03T14:14:08Z) - Simultaneous boundary shape estimation and velocity field de-noising in
Magnetic Resonance Velocimetry using Physics-informed Neural Networks [70.7321040534471]
MRV(MR resonance velocimetry)は、流体の速度場を測定するために医療や工学で広く用いられている非侵襲的な技術である。
これまでの研究では、境界(例えば血管)の形状が先駆体として知られていた。
我々は、ノイズの多いMRVデータのみを用いて、最も可能性の高い境界形状と減音速度場を推定する物理インフォームニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2021-07-16T12:56:09Z) - Harnessing Wireless Channels for Scalable and Privacy-Preserving
Federated Learning [56.94644428312295]
無線接続は、フェデレートラーニング(FL)の実現に有効である
Channel randomnessperturbs 各ワーカはモデル更新をインバージョンし、複数のワーカはバンド幅に大きな干渉を発生させる。
A-FADMMでは、すべてのワーカーがモデル更新をアナログ送信を介して単一のチャンネルを使用してパラメータサーバにアップロードする。
これは通信帯域幅を節約するだけでなく、各ワーカーの正確なモデル更新軌跡を任意の盗聴者から隠蔽する。
論文 参考訳(メタデータ) (2020-07-03T16:31:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。