論文の概要: Attention to Entropic Communication

• arxiv url: http://arxiv.org/abs/2307.11423v2
• Date: Tue, 9 Jan 2024 17:31:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-10 20:08:53.900770
• Title: Attention to Entropic Communication
• Title（参考訳）: エントロピーコミュニケーションへの注意
• Authors: Torsten En{\ss}lin, Carolin Weidinger, Philipp Frank
• Abstract要約: 相対エントロピー(relative entropy, RE)は、通信理論において中心的な役割を果たす。 我々はこれらの概念と注意とREを組み合わせ、帯域幅制限通信におけるメッセージの最適な符号化を導出する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The concept of attention, numerical weights that emphasize the importance of particular data, has proven to be very relevant in artificial intelligence. Relative entropy (RE, aka Kullback-Leibler divergence) plays a central role in communication theory. Here we combine these concepts, attention and RE. RE guides optimal encoding of messages in bandwidth-limited communication as well as optimal message decoding via the maximum entropy principle (MEP). In the coding scenario, RE can be derived from four requirements, namely being analytical, local, proper, and calibrated. Weighted RE, used for attention steering in communications, turns out to be improper. To see how proper attention communication can emerge, we analyze a scenario of a message sender who wants to ensure that the receiver of the message can perform well-informed actions. If the receiver decodes the message using the MEP, the sender only needs to know the receiver's utility function to inform optimally, but not the receiver's initial knowledge state. In case only the curvature of the utility function maxima are known, it becomes desirable to accurately communicate an attention function, in this case a by this curvature weighted and re-normalized probability function. Entropic attention communication is here proposed as the desired generalization of entropic communication that permits weighting while being proper, thereby aiding the design of optimal communication protocols in technical applications and helping to understand human communication. For example, our analysis shows how to derive the level of cooperation expected under misaligned interests of otherwise honest communication partners.
• Abstract（参考訳）: 特定のデータの重要性を強調する数値重みの概念は、人工知能に非常に関係があることが証明されている。 相対エントロピー(re、別名kullback-leibler divergence)はコミュニケーション理論において中心的な役割を果たす。 ここではこれらの概念と注意と再評価を組み合わせる。 REは、帯域幅制限通信におけるメッセージの最適符号化と、最大エントロピー原理(MEP)による最適なメッセージ復号を導く。 コーディングシナリオでは、reは分析、局所、固有、校正という4つの要件から導出することができる。 コミュニケーションにおける注意制御に使用される重み付きREは、不適切であることが判明した。 適切な注意コミュニケーションが生じるかを確認するため、メッセージ受信者が適切に情報交換を行うことができることを確実にしたいメッセージ送信者のシナリオを分析します。 受信側がMEPを使用してメッセージをデコードした場合、送信側は受信側のユーティリティ機能を知るだけで、受信側の初期知識状態は知らせられる。 実用機能最大値の曲率しか分かっていない場合には、この曲率重み付き再正規化確率関数により、注意関数を正確に伝達することが望ましい。 エントロピック・アテンション・コミュニケーションは、適切な方法で重み付けを可能にするエントロピック・コミュニケーションの望ましい一般化として提案され、技術的応用における最適な通信プロトコルの設計を支援し、ヒューマン・コミュニケーションの理解を支援する。 例えば、我々の分析は、非正直なコミュニケーションパートナーの利益の相違により期待される協力のレベルを導出する方法を示している。

関連論文リスト

• Rate-Distortion-Perception Theory for Semantic Communication [73.04341519955223]
  シンボル歪みおよび意味知覚制約下での意味コミュニケーションの達成可能なデータレートについて検討する。 我々は、受信者が特定の歪みや知覚の制約を満たす意味情報ソースを直接推測できるケースが存在することを観察する。
  論文  参考訳（メタデータ） (2023-12-09T02:04:32Z)
• Reasoning with the Theory of Mind for Pragmatic Semantic Communication [62.87895431431273]
  本稿では,実用的な意味コミュニケーションフレームワークを提案する。 2つの知性エージェント間の効果的な目標指向情報共有を可能にする。 数値的な評価は、少ないビット量で効率的な通信を実現するためのフレームワークの能力を示している。
  論文  参考訳（メタデータ） (2023-11-30T03:36:19Z)
• Reasoning over the Air: A Reasoning-based Implicit Semantic-Aware Communication Framework [124.6509194665514]
  ソースユーザと宛先ユーザの間で暗黙的な意味を表現し,伝達し,解釈するために,新しい暗黙的意味コミュニケーション(iSAC)アーキテクチャを提案する。 プロジェクションベースセマンティックエンコーダは, 明示的セマンティックスの高次元グラフィカル表現を低次元セマンティックコンステレーション空間に変換し, 効率的な物理チャネル伝送を実現する。 ソースユーザの暗黙的意味推論過程を学習し、模倣できるようにするため、G-RMLと呼ばれる生成逆模倣学習ベースのソリューションが提案されている。
  論文  参考訳（メタデータ） (2023-06-20T01:32:27Z)
• Semantic Communication of Learnable Concepts [16.373044313375782]
  我々は、例を通してのみ観察できる、未知および潜在的マップという一連の概念を伝達する問題を考える。 送信機は利用可能な例に学習アルゴリズムを適用し、データから知識を抽出する。 その後、送信機は学習したモデルをレート制限チャンネルを介してリモート受信機に通信する必要がある。
  論文  参考訳（メタデータ） (2023-05-14T11:16:17Z)
• Knowledge Enhanced Semantic Communication Receiver [7.171974845607281]
  本稿では,意味的推論と復号化のための知識ベースにおける事実をより積極的に活用できる知識強化セマンティックコミュニケーションフレームワークを提案する。 具体的には、受信した雑音信号に関連性のある事実三重項を求めるための変圧器に基づく知識抽出器を設計する。 WebNLGデータセットの大規模なシミュレーション結果から,提案した受信機は,知識グラフのデコーディングを向上した上で,優れた性能が得られることが示された。
  論文  参考訳（メタデータ） (2023-02-13T01:49:51Z)
• Adversarial Learning for Implicit Semantic-Aware Communications [104.08383219177557]
  対戦型学習に基づく暗黙的意味認識通信アーキテクチャ(iSAC)を開発した。 我々は、iSACを適用することで、送信先のユーザは、ソースメッセージの真の推論ルールと一致する推論ルールを常に学習できることを示す。 実験結果から,提案したiSACは,既存の非推論通信ソリューションよりも最大19.69dB向上できることがわかった。
  論文  参考訳（メタデータ） (2023-01-27T08:28:12Z)
• Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent Semantic Communications [71.63189900803623]
  創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。 ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
  論文  参考訳（メタデータ） (2022-10-21T15:33:37Z)
• Adaptive advantage in entanglement-assisted communications [0.0]
  絡み合い支援型古典的通信プロトコルは通常、2つの連続するラウンドで構成される。 適応プロトコルがランダムアクセス符号の成功確率を向上させることを示す。 量子通信を含むシナリオへのこれらのアイデアの拡張について、簡単に論じる。
  論文  参考訳（メタデータ） (2022-03-10T13:54:02Z)
• Learning Semantics: An Opportunity for Effective 6G Communications [8.262718096663077]
  セマンティック通信は、将来の6Gネットワークの重要な実現手段として考えられている。 本研究は,5Gネットワークを越えたセマンティックコミュニケーションの機会を探究するものである。 本稿では,効果的な意味コミュニケーションのための意味記号の表現学習を可能にする新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-10-14T08:00:54Z)
• Quasi-Equivalence Discovery for Zero-Shot Emergent Communication [63.175848843466845]
  ゼロショットコーディネーション(ZSC)を実現するための新しい問題設定と準等価探索アルゴリズムを提案する。 これらの2つの要因が参照ゲームにおいて一意に最適なZSCポリシーをもたらすことを示す。 QEDはこの設定における対称性を反復的に発見することができ、最適なZSCポリシーに収束する。
  論文  参考訳（メタデータ） (2021-03-14T23:42:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。