論文の概要: Semantic Rate Distortion and Posterior Design: Compute Constraints, Multimodality, and Strategic Inference

• arxiv url: http://arxiv.org/abs/2602.03949v1
• Date: Tue, 03 Feb 2026 19:12:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-05 19:45:11.242297
• Title: Semantic Rate Distortion and Posterior Design: Compute Constraints, Multimodality, and Strategic Inference
• Title（参考訳）: 意味的速度歪みと後部設計:計算制約,多モード性,戦略的推論
• Authors: Emrah Akyol,
• Abstract要約: 本研究では,エンコーダとデコーダが異なる二次目的を最適化する戦略ガウス意味圧縮を,レートおよび計算制約下で研究する。 直接的, 遠隔的, 完全情報体制における戦略速度歪み関数を特徴付け, セマンティック・ウォーターフィルとレート制約付きガウス的説得解を導出し, ミスアライズされた目的の下でガウス的最適性を確立する。 これらの結果は、データとエネルギー効率のよいAIのための情報理論の基礎を提供し、リソース制約下での後設計メカニズムとして、現代の多モーダル言語モデルの原則的な解釈を提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study strategic Gaussian semantic compression under rate and compute constraints, where an encoder and decoder optimize distinct quadratic objectives. A latent Gaussian state generates a task dependent semantic variable, and the decoder best responds via MMSE estimation, reducing the encoder's problem to posterior covariance design under an information rate constraint. We characterize the strategic rate distortion function in direct, remote, and full information regimes, derive semantic waterfilling and rate constrained Gaussian persuasion solutions, and establish Gaussian optimality under misaligned objectives. We further show that architectural compute limits act as implicit rate constraints, yielding exponential improvements in semantic accuracy with model depth and inference time compute, while multimodal observation eliminates the geometric mean penalty inherent to remote encoding. These results provide information theoretic foundations for data and energy efficient AI and offer a principled interpretation of modern multimodal language models as posterior design mechanisms under resource constraints.
• Abstract（参考訳）: 本研究では,エンコーダとデコーダが異なる二次目的を最適化する戦略ガウス意味圧縮を,レートおよび計算制約下で研究する。 潜在ガウス状態はタスク依存セマンティック変数を生成し、デコーダはMMSE推定により最もよく応答し、エンコーダの問題を情報レート制約の下で後部共分散設計に還元する。 直接的, 遠隔的, 完全情報体制における戦略速度歪み関数を特徴付け, セマンティック・ウォーターフィルとレート制約付きガウス的説得解を導出し, ミスアライズされた目的の下でガウス的最適性を確立する。 さらに、アーキテクチャの計算限界が暗黙的なレート制約として機能し、モデル深度と推論時間計算による意味的精度が指数関数的に向上することを示し、マルチモーダル観測はリモート符号化に固有の幾何学的平均値のペナルティを排除している。 これらの結果は、データとエネルギー効率のよいAIのための情報理論の基礎を提供し、リソース制約下での後設計メカニズムとして、現代の多モーダル言語モデルの原則的な解釈を提供する。

関連論文リスト

• Unlocking Symbol-Level Precoding Efficiency Through Tensor Equivariant Neural Network [84.22115118596741]
  シンボルレベルのプリコーディングにおいて,推論の複雑さの低いエンドツーエンドディープラーニング(DL)フレームワークを提案する。 提案手法は,従来の手法よりも約80倍の高速化を実現しつつ,SLPの大幅な性能向上を達成できることを示す。
  論文  参考訳（メタデータ） (2025-10-02T15:15:50Z)
• Alternating Minimization Schemes for Computing Rate-Distortion-Perception Functions with $f$-Divergence Perception Constraints [9.788112471288057]
  離散メモリレスソースに対するRDPF(Ralse-Distortion-Perception Function)の計算について検討した。 凸プログラミング問題に対する最適パラメトリック解を特徴付ける。 必要かつ十分な条件を導出することにより、両スキームがグローバルな最適解を保証できることが示される。
  論文  参考訳（メタデータ） (2024-08-27T12:50:12Z)
• Neural variational Data Assimilation with Uncertainty Quantification using SPDE priors [28.804041716140194]
  ディープラーニングコミュニティの最近の進歩は、ニューラルネットワークと変分データ同化フレームワークを通じて、この問題に対処することができる。 本研究では、部分微分方程式(SPDE)とガウス過程(GP)の理論を用いて状態の空間的および時間的共分散を推定する。
  論文  参考訳（メタデータ） (2024-02-02T19:18:12Z)
• Dynamic Semantic Compression for CNN Inference in Multi-access Edge Computing: A Graph Reinforcement Learning-based Autoencoder [82.8833476520429]
  部分オフロードにおける効果的な意味抽出と圧縮のための新しい意味圧縮手法であるオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。 セマンティックエンコーダでは、CNNのチャネルアテンション機構に基づく特徴圧縮モジュールを導入し、最も情報性の高い特徴を選択して中間データを圧縮する。 セマンティックデコーダでは、受信した圧縮データから学習して中間データを再構築し、精度を向上させる軽量デコーダを設計する。
  論文  参考訳（メタデータ） (2024-01-19T15:19:47Z)
• Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
  我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。 EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。 得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
  論文  参考訳（メタデータ） (2023-12-10T15:22:30Z)
• Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent Signals: Application to Hyperspectral Imaging [71.57324258813675]
  相互依存信号のデータセットは、列が強い依存を示す行列として定義される。 ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。 ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
  論文  参考訳（メタデータ） (2022-03-29T21:00:39Z)
• Deep Capsule Encoder-Decoder Network for Surrogate Modeling and Uncertainty Quantification [0.0]
  提案するフレームワークは,Capsule Network (CapsNet) アーキテクチャを画像から画像への回帰エンコーダ・デコーダネットワークに適応させることにより開発されている。 性能評価の結果,提案手法は正確で効率的で頑健であることが示唆された。
  論文  参考訳（メタデータ） (2022-01-19T17:45:01Z)
• Distributed Learning and Democratic Embeddings: Polynomial-Time Source Coding Schemes Can Achieve Minimax Lower Bounds for Distributed Gradient Descent under Communication Constraints [46.17631511884969]
  我々は、n次元ユークリッド空間においてベクトルを圧縮する問題を考える。 数値化器の被覆効率が次元独立であるか、あるいは非常に弱い対数依存であるという意味では、民主主義的および民主的に近いソースコーディングスキームが(ほぼ)最適であることを示す。 分散最適化アルゴリズムDGD-DEFを提案する。このアルゴリズムは,提案した符号化戦略を用いて,(ほぼ)定数要素内における最小収束率を実現する。
  論文  参考訳（メタデータ） (2021-03-13T00:04:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。