論文の概要: Token-Oriented Semantic Communication with Pretrained Vision Transformers

• arxiv url: http://arxiv.org/abs/2608.25410v1
• Date: Wed, 26 Aug 2026 06:13:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.613046
• Title: Token-Oriented Semantic Communication with Pretrained Vision Transformers
• Title（参考訳）: 事前学習型視覚変換器を用いたトークン指向セマンティック通信
• Abstract要約: 本稿では,emphtoken指向のセマンティック・コミュニケーション・フレームワークを提案する。 このフレームワークでは、トークンレベルのタスク関連性により、圧縮された画像ラテントが送信されるかが決定される。 ImageNetの実験では,提案フレームワークは近年のセマンティック通信方式よりも,より良好なレート-精度のトレードオフを実現している。
• 参考スコア（独自算出の注目度）: 19.377096772248418
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Token communications realize the semantic communication principle at the granularity of transformer tokens, providing a promising direction for client--server collaborative inference in resource-constrained edge systems. However, directly transmitting token embeddings presents two practical challenges: substantial communication cost and limited interoperability across model-specific token embedding spaces. To address these challenges, we propose a \emph{token-oriented} semantic communication framework. In this framework, token-level task relevance determines which compressed image latents are transmitted, enabling token-granular transmission without directly transmitting token embeddings. The framework is modular, coordinating three pretrained components---a lightweight client-side vision transformer (ViT), a learned image compression (LIC) model, and a large server-side ViT---without end-to-end training. The key enabler is the one-to-one spatial alignment between ViT patch tokens and the LIC latent vectors, which allows token-level task relevance to directly determine which latent vectors are transmitted. Building on this alignment, token-aligned LIC selectively transmits task-relevant latents, layer-selective attention rollout estimates token relevance from a selected range of attention layers in a single forward pass, and surrogate token substitution adapts the frozen server model by optimizing a single learnable token. Experiments on ImageNet show that the proposed framework achieves a more favorable rate--accuracy trade-off than recent semantic communication schemes, hand-crafted codecs, and task-agnostic LIC models.
• Abstract（参考訳）: Token Communicationはトランスフォーマートークンの粒度で意味コミュニケーションの原則を実現し、リソース制約エッジシステムにおけるクライアント-サーバ協調推論に有望な方向を提供する。 しかし、直接トークン埋め込みは、相当な通信コストと、モデル固有のトークン埋め込み空間間のインターオペラビリティの制限という、2つの実践的な課題を提示する。 これらの課題に対処するため,我々はemph{token-oriented}セマンティックコミュニケーションフレームワークを提案する。 このフレームワークでは、トークンレベルのタスク関連性により、どの圧縮画像ラテントが送信されるかが決定され、トークン埋め込みを直接送信することなく、トークン粒界の送信が可能となる。 このフレームワークはモジュール式で、3つの事前トレーニング済みコンポーネントをコーディネートする - 軽量クライアントサイドのビジョントランスフォーマー(ViT)、学習された画像圧縮(lic)モデル、大規模なサーバサイドのViT - エンドツーエンドのトレーニングなしで。 鍵となるイネーブルは、ViTパッチトークンとlic遅延ベクトルとの1対1の空間アライメントであり、トークンレベルのタスク関連性により、どの潜在ベクトルが送信されたかを直接決定できる。 このアライメントに基づいて、トークンアライメントのlicは、タスク関連潜伏剤を選択的に送信し、単一のフォワードパスにおいて選択されたアテンション層から、層選択されたアテンションロールアウト推定トークン関連性を推定し、サロゲートトークン置換は、単一の学習可能なトークンを最適化することにより、フリーズサーバモデルに適応する。 ImageNetの実験によると、提案フレームワークは、最近のセマンティック通信方式、手作りコーデック、タスクに依存しないlicモデルよりも、より良好なレート-精度のトレードオフを実現する。

関連論文リスト

• Ada-TokenCom: Rate-Adaptive Token Communications via Large-Model-Driven Token Compression and Generation [52.99258064220833]
  Ada-TokenComは、大規模な自己回帰モデルに基づくレート適応型TokenComフレームワークである。 本稿では,送信者が高情報トークンを符号化し,送信する混合再構成・生成方式を提案する。 提案するAda-TokenComフレームワークは,デジタルおよびディープ・ジョイント・ソース・チャネル・コーディングに基づくセマンティック・コミュニケーション・ベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2026-08-28T08:54:28Z)
• Explainable Task-Oriented Token Communication for AI-Native 6G Networks [66.32351608034986]
  ファンデーションモデル(FM)と無線通信の統合は、ビット精度の伝送からタスク指向の伝送への画像通信の進化を促している。 既存のタスク指向の画像通信手法は、タスク指向のトークン表現が不十分なこと、ビジュアルトークンとタスクトークンのコラボレーションが不十分であること、タスク決定の解釈可能性の制限という3つの大きな課題に直面している。 本稿では,これらの課題に対処するための説明可能なタスク指向トークンコミュニケーション(ET-TokenCom)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-12T05:52:08Z)
• Representative Attention For Vision Transformers [11.0298065364767]
  直線的注意は、高密度自己注意の二次コストを超えてビジョントランスフォーマーをスケールするための有望な方向として現れている。 本稿では,表現空間内で直接トークン圧縮を行う線形グローバルアテンション機構である代表注意(Representive Attention, RPAttention)を提案する。 RPAttentionは、空間トークンの数に関して、支配的なトークン相互作用の複雑さを2次から線形スケーリングに還元する。
  論文  参考訳（メタデータ） (2026-05-14T14:48:20Z)
• Context-Aware Wireless Token Communication via Joint Token Masking and Detection [23.50554014275582]
  本稿では,送信機(Tx)と受信機(Rx)の共用文脈モデルとして,マスキング言語モデル(MLM)を利用するコンテキスト対応トークン通信フレームワークを提案する。 ベイズ的定式化の下で, チャネルの確率を文脈的先行値と統合し, ノイズの多いチャネル上での堅牢なトークン推論を可能にする, コンテキスト対応トークン検出手法を開発した。 提案手法は,従来のトークン通信方式と比較して,再建性能を著しく向上することを示す。
  論文  参考訳（メタデータ） (2026-05-04T01:06:04Z)
• Wireless TokenCom: RL-Based Tokenizer Agreement for Multi-User Wireless Token Communications [59.84545048095092]
  Token Communications (TokenCom) は、トークンが通信計算の統一単位である効果的な新しいパラダイムとして最近登場した。 基地局が複数のユーザを送信するマルチユーザダウンリンク無線TokenComシナリオについて検討する。
  論文  参考訳（メタデータ） (2026-02-12T19:00:33Z)
• SC-GIR: Goal-oriented Semantic Communication via Invariant Representation Learning [59.45312293893698]
  目標指向セマンティックコミュニケーション(SC)は,タスクの意味情報のみを伝達することで,コミュニケーションシステムに革命をもたらすことを目的としている。 画像伝送のためのSC-GIR(Goal-oriented Invariant Representation-based SC)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-01T04:29:43Z)
• Token Communication in the Era of Large Models: An Information Bottleneck-Based Approach [55.861432910722186]
  UniToComは、トークンを処理と無線通信の両方の基本的な単位として扱う統一トークン通信パラダイムである。 本稿では,重要な情報を保持するトークンの学習を容易にする生成情報ボトルネック(GenIB)の原理を提案する。 我々は、離散トークンと連続トークンの両方の処理を統合するために、因果変換器に基づくマルチモーダル言語モデル(MLLM)を受信機に採用する。
  論文  参考訳（メタデータ） (2025-07-02T14:03:01Z)
• Adaptive Semantic Token Communication for Transformer-based Edge Inference [15.405730528104113]
  本稿では,動的変換器を用いたディープジョイントソースチャネル符号化アーキテクチャに基づくエッジ推論のための適応的フレームワークを提案する。 我々は,情報的特徴を1サンプルあたりのユーザ指定トークン数に適応的に圧縮するセマンティックトークン選択機構を採用している。 動的ネットワーク条件下でのロバスト性を高めるために, Lyapunov 最適化に基づく資源配分アルゴリズムを組み込んだ。
  論文  参考訳（メタデータ） (2025-05-23T08:15:05Z)
• Token Communications: A Large Model-Driven Framework for Cross-modal Context-aware Semantic Communications [78.80966346820553]
  我々は、生成意味コミュニケーション(GenSC)において、クロスモーダルなコンテキスト情報を活用するための大規模なモデル駆動フレームワークであるトークン通信(TokCom)を紹介する。 本稿では,GFM/MLLMをベースとしたトークン処理をセマンティック通信システムに組み込む方法について検討し,将来無線ネットワークの様々な層において効率的なTokComを実現する上での鍵となる原則について述べる。
  論文  参考訳（メタデータ） (2025-02-17T18:14:18Z)
• Adaptive Semantic Token Selection for AI-native Goal-oriented Communications [11.92172357956248]
  本稿では,AIネイティブな目標指向通信のための新しい設計を提案する。 我々は、帯域幅と計算量に対する動的推論制約の下でトランスフォーマーニューラルネットワークを利用する。 提案手法は,最先端のトークン選択機構よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-25T13:49:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。