論文の概要: Context-Aware Wireless Token Communication via Joint Token Masking and Detection
- arxiv url: http://arxiv.org/abs/2605.02123v1
- Date: Mon, 04 May 2026 01:06:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.093274
- Title: Context-Aware Wireless Token Communication via Joint Token Masking and Detection
- Title(参考訳): ジョイントトケマスキングと検出によるコンテキスト認識型無線トケ通信
- Authors: Junyong Shin, Joohyuk Park, Yongjeong Oh, Jihong Park, Jinho Choi, Yo-Seb Jeon,
- Abstract要約: 本稿では,送信機(Tx)と受信機(Rx)の共用文脈モデルとして,マスキング言語モデル(MLM)を利用するコンテキスト対応トークン通信フレームワークを提案する。
ベイズ的定式化の下で, チャネルの確率を文脈的先行値と統合し, ノイズの多いチャネル上での堅牢なトークン推論を可能にする, コンテキスト対応トークン検出手法を開発した。
提案手法は,従来のトークン通信方式と比較して,再建性能を著しく向上することを示す。
- 参考スコア(独自算出の注目度): 23.50554014275582
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increasing use of token-based representations in language-driven applications has motivated wireless token communication, where tokens are treated as fundamental units for transmission. However, conventional communication systems overlook dependencies among tokens and allocate transmission resources uniformly, leading to inefficient use of limited wireless resources under channel impairments. In this paper, we propose a context-aware token communication framework that leverages a masked language model (MLM) as a shared contextual model between the transmitter (Tx) and receiver (Rx). At the Rx, we develop a context-aware token detection method that integrates channel likelihoods with MLM-based contextual priors under a Bayesian formulation, enabling robust token inference over noisy channels. At the Tx, we propose a context-aware token masking strategy that selectively omits tokens that can be reliably inferred at the Rx, allowing the available power budget to be concentrated on more informative tokens. These components are jointly designed through a shared MLM, establishing a unified Tx-Rx framework for efficient token transmission and detection. Simulation results demonstrate that the proposed framework significantly improves reconstruction performance compared to conventional and existing token communication schemes, achieving up to 1.77X and 1.63X performance gains on the Europarl corpus and WikiText-103 datasets, respectively.
- Abstract(参考訳): 言語駆動型アプリケーションにおけるトークンベースの表現の利用の増加は、トークンを送信の基本単位として扱う無線トークン通信のモチベーションを高めている。
しかし、従来の通信システムはトークン間の依存関係を無視し、送信リソースを均一に割り当て、チャネル障害下での限られた無線リソースの非効率利用につながる。
本稿では,送信機(Tx)と受信機(Rx)の共用文脈モデルとして,マスキング言語モデル(MLM)を利用するコンテキスト対応トークン通信フレームワークを提案する。
Rxでは,ベイジアン定式化の下で,チャネルの確率をMLMに基づく文脈先行値と統合し,ノイズのあるチャネルに対する堅牢なトークン推論を可能にする,コンテキスト認識型トークン検出手法を開発した。
Txでは、Rxで確実に推測できるトークンを選択的に省略し、利用可能なパワー予算をより情報的なトークンに集中させる、コンテキスト対応のトークンマスキング戦略を提案する。
これらのコンポーネントは共有MLMを通じて共同で設計され、効率的なトークンの送信と検出のための統合されたTx-Rxフレームワークを確立する。
シミュレーションの結果,提案手法は従来のトークン通信方式や既存のトークン通信方式と比較して,復元性能を著しく向上させ,Europarl corpus と WikiText-103 データセットの最大 1.77X と 1.63X のパフォーマンス向上を実現した。
関連論文リスト
- Wireless TokenCom: RL-Based Tokenizer Agreement for Multi-User Wireless Token Communications [59.84545048095092]
Token Communications (TokenCom) は、トークンが通信計算の統一単位である効果的な新しいパラダイムとして最近登場した。
基地局が複数のユーザを送信するマルチユーザダウンリンク無線TokenComシナリオについて検討する。
論文 参考訳(メタデータ) (2026-02-12T19:00:33Z) - Context-Aware Iterative Token Detection and Masked Transmission for Wireless Token Communication [20.850802765685145]
送信機(Tx)と受信機(Rx)の共用コンテキスト確率モデルを用いたコンテキスト対応トークン通信フレームワークを提案する。
我々は、高い予測可能なトークン送信をスキップして送信率を減少させるコンテキスト対応マスキング戦略を導入する。
論文 参考訳(メタデータ) (2026-01-25T10:10:51Z) - Token Communication in the Era of Large Models: An Information Bottleneck-Based Approach [55.861432910722186]
UniToComは、トークンを処理と無線通信の両方の基本的な単位として扱う統一トークン通信パラダイムである。
本稿では,重要な情報を保持するトークンの学習を容易にする生成情報ボトルネック(GenIB)の原理を提案する。
我々は、離散トークンと連続トークンの両方の処理を統合するために、因果変換器に基づくマルチモーダル言語モデル(MLLM)を受信機に採用する。
論文 参考訳(メタデータ) (2025-07-02T14:03:01Z) - Token Communications: A Large Model-Driven Framework for Cross-modal Context-aware Semantic Communications [78.80966346820553]
我々は、生成意味コミュニケーション(GenSC)において、クロスモーダルなコンテキスト情報を活用するための大規模なモデル駆動フレームワークであるトークン通信(TokCom)を紹介する。
本稿では,GFM/MLLMをベースとしたトークン処理をセマンティック通信システムに組み込む方法について検討し,将来無線ネットワークの様々な層において効率的なTokComを実現する上での鍵となる原則について述べる。
論文 参考訳(メタデータ) (2025-02-17T18:14:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。