Fugu-MT 論文翻訳(概要): On the R\'{e}nyi Cross-Entropy

論文の概要: On the R\'{e}nyi Cross-Entropy

arxiv url: http://arxiv.org/abs/2206.14329v1
Date: Tue, 28 Jun 2022 23:48:19 GMT
ステータス: 処理完了
システム内更新日: 2022-07-01 05:46:43.587624
Title: On the R\'{e}nyi Cross-Entropy
Title（参考訳）: R'{e}nyiクロスエントロピーについて
Authors: Ferenc Cole Thierrin, Fady Alajaji, Tam\'as Linder
Abstract要約: 2つの分布間のR'enyiクロスエントロピー測度は、最近、生成的対向ネットワークの設計改善のための損失関数として使用された。本研究では,この測度の性質について検討し,その分布の一方が固定されたときと,双方の分布が指数族に属するときの閉形式式を導出する。
参考スコア（独自算出の注目度）: 5.886986014593718
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The R\'{e}nyi cross-entropy measure between two distributions, a generalization of the Shannon cross-entropy, was recently used as a loss function for the improved design of deep learning generative adversarial networks. In this work, we examine the properties of this measure and derive closed-form expressions for it when one of the distributions is fixed and when both distributions belong to the exponential family. We also analytically determine a formula for the cross-entropy rate for stationary Gaussian processes and for finite-alphabet Markov sources.
Abstract（参考訳）: 2つの分布間のr\'{e}nyiクロスエントロピー測度(シャノンクロスエントロピーの一般化)は、ディープラーニング生成逆ネットワークの設計を改善するための損失関数として最近用いられた。本研究では,この測度の性質を考察し,分布の1つが固定され,両分布が指数関数族に属する場合の閉形式表現を導出する。また、定常ガウス過程および有限アルファベットマルコフ源に対するクロスエントロピー率の式を解析的に決定する。

関連論文リスト

A Stein Gradient Descent Approach for Doubly Intractable Distributions [5.63014864822787]
そこで本研究では,2重に抽出可能な分布を推定するために,モンテカルロ・スタイン変分勾配勾配(MC-SVGD)法を提案する。提案手法は,後続分布に匹敵する推論性能を提供しながら,既存のアルゴリズムよりもかなりの計算ゲインを達成する。
論文参考訳（メタデータ） (2024-10-28T13:42:27Z)
Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文参考訳（メタデータ） (2024-10-03T09:07:13Z)
In-and-Out: Algorithmic Diffusion for Sampling Convex Bodies [7.70133333709347]
高次元凸体を一様にサンプリングするための新しいランダムウォークを提案する。出力をより強力な保証で、最先端のランタイムの複雑さを実現する。
論文参考訳（メタデータ） (2024-05-02T16:15:46Z)
Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文参考訳（メタデータ） (2023-06-27T08:15:28Z)
Wrapped Distributions on homogeneous Riemannian manifolds [58.720142291102135]
パラメータ、対称性、モダリティなどの分布の性質の制御は、フレキシブルな分布の族を生み出す。変動型オートエンコーダと潜在空間ネットワークモデル内で提案した分布を利用して,我々のアプローチを実証的に検証する。
論文参考訳（メタデータ） (2022-04-20T21:25:21Z)
Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文参考訳（メタデータ） (2022-02-02T20:11:33Z)
Learn Quasi-stationary Distributions of Finite State Markov Chain [2.780408966503282]
準定常分布の表現を計算するための強化学習(RL)手法を提案する。候補分布と真の目標分布によって誘導される2つのマルコフ経路分布のKL偏差を最小化する。対応する政策勾配定理を導出し,最適な解法と値関数を学習するためのアクター・クリティカルなアルゴリズムを設計する。
論文参考訳（メタデータ） (2021-11-19T02:56:34Z)
Distributional Reinforcement Learning with Unconstrained Monotonic Neural Networks [7.907645828535088]
本稿では,ランダムリターン分布の異なる表現を学習するための方法論を提案する。制約のない単調深Q-network (UMDQN) と呼ばれる新しい分布RLアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-06-06T20:03:50Z)
Abstraction-Guided Truncations for Stationary Distributions of Markov Population Models [0.9558392439655015]
グリッド構造における状態のアグリゲーションである状態空間ラッピングスキームを用いるトラニケーションに基づく近似を提案する。複雑な定常挙動を持つ非線形問題に対して,本手法の適用性を示す。
論文参考訳（メタデータ） (2021-05-03T08:53:36Z)
Determination of the critical exponents in dissipative phase transitions: Coherent anomaly approach [51.819912248960804]
オープン量子多体系の定常状態に存在する相転移の臨界指数を抽出するコヒーレント異常法の一般化を提案する。
論文参考訳（メタデータ） (2021-03-12T13:16:18Z)
Profile Entropy: A Fundamental Measure for the Learnability and Compressibility of Discrete Distributions [63.60499266361255]
離散分布のサンプルに対して、プロファイルエントロピーは推定、推論、圧縮の概念を統一する基本的な尺度であることを示す。具体的には、プロファイルエントロピー a) は、最適自然推定器に対する分布を推定する速度を決定する; b) 任意のラベル不変分布コレクションに対する最適推定器と比較して全ての対称特性を推定する速度を特徴付ける; c) プロファイル圧縮の限界として機能する。
論文参考訳（メタデータ） (2020-02-26T17:49:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。