論文の概要: Task-Oriented Low-Label Semantic Communication With Self-Supervised Learning
- arxiv url: http://arxiv.org/abs/2505.19940v1
- Date: Mon, 26 May 2025 13:06:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-27 16:58:43.444052
- Title: Task-Oriented Low-Label Semantic Communication With Self-Supervised Learning
- Title（参考訳）: 自己教師付き学習によるタスク指向低ラベルセマンティックコミュニケーション
- Authors: Run Gu, Wei Xu, Zhaohui Yang, Dusit Niyato, Aylin Yener,
- Abstract要約: タスク指向の意味コミュニケーションは、正確なメッセージではなく意味情報を伝達することで伝達効率を高める。
深層学習(DL)に基づく意味コミュニケーションは、意味抽出、伝達、解釈に不可欠な意味知識を効果的に育むことができる。
タスク推論性能を向上させるための自己教師付き学習ベースセマンティックコミュニケーションフレームワーク(SLSCom)を提案する。
- 参考スコア（独自算出の注目度）: 67.06363342414397
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Task-oriented semantic communication enhances transmission efficiency by conveying semantic information rather than exact messages. Deep learning (DL)-based semantic communication can effectively cultivate the essential semantic knowledge for semantic extraction, transmission, and interpretation by leveraging massive labeled samples for downstream task training. In this paper, we propose a self-supervised learning-based semantic communication framework (SLSCom) to enhance task inference performance, particularly in scenarios with limited access to labeled samples. Specifically, we develop a task-relevant semantic encoder using unlabeled samples, which can be collected by devices in real-world edge networks. To facilitate task-relevant semantic extraction, we introduce self-supervision for learning contrastive features and formulate the information bottleneck (IB) problem to balance the tradeoff between the informativeness of the extracted features and task inference performance. Given the computational challenges of the IB problem, we devise a practical and effective solution by employing self-supervised classification and reconstruction pretext tasks. We further propose efficient joint training methods to enhance end-to-end inference accuracy over wireless channels, even with few labeled samples. We evaluate the proposed framework on image classification tasks over multipath wireless channels. Extensive simulation results demonstrate that SLSCom significantly outperforms conventional digital coding methods and existing DL-based approaches across varying labeled data set sizes and SNR conditions, even when the unlabeled samples are irrelevant to the downstream tasks.
- Abstract（参考訳）: タスク指向の意味コミュニケーションは、正確なメッセージではなく意味情報を伝達することで伝達効率を高める。
ディープラーニング(DL)に基づくセマンティックコミュニケーションは、大量のラベル付きサンプルを下流タスクトレーニングに活用することにより、意味抽出、伝達、解釈に不可欠なセマンティック知識を効果的に育むことができる。
本稿では、特にラベル付きサンプルへのアクセスに制限のあるシナリオにおいて、タスク推論性能を向上させるための自己教師付き学習ベースセマンティック・コミュニケーション・フレームワーク(SLSCom)を提案する。
具体的には、実世界のエッジネットワークのデバイスで収集できる未ラベルサンプルを用いたタスク関連セマンティックエンコーダを開発する。
タスク関連セマンティック抽出を容易にするために、コントラスト特徴の学習のための自己最適化を導入し、情報ボトルネック(IB)問題を定式化し、抽出した特徴の情報量とタスク推論性能のトレードオフをバランスさせる。
IB問題の計算的課題を考慮し、自己教師付き分類と再構築の前提課題を取り入れて、実用的で効果的な解法を考案する。
さらに,ラベル付きサンプルが少ない場合でも,無線チャネル上でのエンドツーエンドの推論精度を向上させるための効率的な共同学習手法を提案する。
マルチパス無線チャネルを用いた画像分類タスクの枠組みについて検討する。
SLSComは, 従来のデジタル符号化手法や既存のDLベースの手法よりも, ラベル付きデータセットのサイズやSNR条件を多用している。
関連論文リスト
- Multi-Modal Self-Supervised Semantic Communication [52.76990720898666]
本稿では,マルチモーダルな自己教師型学習を活用し,タスク非依存の特徴抽出を強化するマルチモーダルセマンティックコミュニケーションシステムを提案する。
提案手法は,訓練関連通信オーバーヘッドを最小限に抑えつつ,モダリティの不変性とモダリティ特有の特徴の両方を効果的に捉えている。
この結果は、セマンティックコミュニケーションにおけるマルチモーダルな自己教師型学習の利点を浮き彫りにし、より効率的でスケーラブルなエッジ推論システムへの道を開いた。
論文 参考訳（メタデータ） (2025-03-18T06:13:02Z) - Underlying Semantic Diffusion for Effective and Efficient In-Context Learning [113.4003355229632]
Underlying Semantic Diffusion (US-Diffusion)は、セマンティック学習、計算効率、文脈内学習能力を高める拡張拡散モデルである。
本稿では,フィードバック信号を利用したフィードバック支援学習(FAL)フレームワークを提案する。
また,高雑音レベルの時間ステップで高密度サンプリングを行うためのプラグイン・アンド・プレイの効率的なサンプリング戦略(ESS)を提案する。
論文 参考訳（メタデータ） (2025-03-06T03:06:22Z) - Task-Driven Semantic Quantization and Imitation Learning for Goal-Oriented Communications [44.330805289033]
GOS-VAE(Goal-Oriented Semantic Variational Autoencoder)という,新たな目標指向通信(GO-COM)フレームワークを提案する。
データ再構成における関連する意味的特徴を捉えるために、データ再生品質を測定するために模倣学習を採用する。
実験により,提案したGOS-VAEの目的指向意味論と帯域幅効率を特徴付ける上で,模倣学習の能力を示す。
論文 参考訳（メタデータ） (2025-02-25T04:43:16Z) - Learning Task Representations from In-Context Learning [73.72066284711462]
大規模言語モデル(LLM)は、文脈内学習において顕著な習熟性を示している。
ICLプロンプトにおけるタスク情報をアテンションヘッドの関数として符号化するための自動定式化を導入する。
提案手法の有効性は,最後の隠れ状態の分布と最適に実行されたテキスト内学習モデルとの整合性に起因していることを示す。
論文 参考訳（メタデータ） (2025-02-08T00:16:44Z) - Semantic Meta-Split Learning: A TinyML Scheme for Few-Shot Wireless Image Classification [50.28867343337997]
本研究は,TinyMLを用いた無線画像分類のためのセマンティック・コミュニケーション・フレームワークを提案する。
我々は、プライバシ保護を確保しつつ、エンドユーザーによって実行される計算を制限するために分割学習を利用する。
メタ学習は、データ可用性の懸念を克服し、同様のトレーニングされたタスクを利用することで、トレーニングを高速化する。
論文 参考訳（メタデータ） (2024-09-03T05:56:55Z) - Contrastive Augmentation: An Unsupervised Learning Approach for Keyword Spotting in Speech Technology [4.080686348274667]
教師なしコントラスト学習と拡張一意的手法を組み合わせた新しい手法を提案する。
我々の方法では、ニューラルネットワークがラベルのないデータセットでトレーニングすることができ、下流タスクのパフォーマンスが向上する可能性がある。
本稿では,ボトルネック層の特徴と音声再構成情報との類似性を利用した音声強化に基づく教師なし学習手法を提案する。
論文 参考訳（メタデータ） (2024-08-31T05:40:37Z) - Trustworthy Image Semantic Communication with GenAI: Explainablity, Controllability, and Efficiency [59.15544887307901]
画像意味コミュニケーション(ISC)は,高効率な映像コンテンツ伝送を実現する可能性に注目されている。
既存のISCシステムは、解釈可能性、操作性、互換性の課題に直面している。
我々は、複数の下流推論タスクにGenerative Artificial Intelligence(GenAI)を利用する新しい信頼できるISCフレームワークを提案する。
論文 参考訳（メタデータ） (2024-08-07T14:32:36Z) - Tackling Distribution Shifts in Task-Oriented Communication with Information Bottleneck [28.661084093544684]
本稿では,情報ボトルネック(IB)原理と不変リスク最小化(IRM)フレームワークに基づく新しいアプローチを提案する。
提案手法は,効率的な領域シフト一般化のための高機能を有するコンパクトかつ情報的特徴を抽出することを目的としている。
提案手法は最先端の手法より優れ、より優れたレート歪みトレードオフを実現することを示す。
論文 参考訳（メタデータ） (2024-05-15T17:07:55Z) - Learning Task-Oriented Communication for Edge Inference: An Information
Bottleneck Approach [3.983055670167878]
ローエンドエッジ装置は、ローカルデータサンプルの抽出された特徴ベクトルを強力なエッジサーバに送信して処理する。
帯域幅が限られているため、データを低遅延推論のための情報的かつコンパクトな表現に符号化することが重要である。
特徴抽出,ソース符号化,チャネル符号化を協調的に最適化する学習型通信方式を提案する。
論文 参考訳（メタデータ） (2021-02-08T12:53:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。