論文の概要: On the Practical Estimation and Interpretation of Rényi Transfer Entropy
- arxiv url: http://arxiv.org/abs/2601.01497v1
- Date: Sun, 04 Jan 2026 11:53:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-06 16:25:22.446073
- Title: On the Practical Estimation and Interpretation of Rényi Transfer Entropy
- Title(参考訳): Rényi転送エントロピーの実用的推定と解釈について
- Authors: Zlata Tabachová, Petr Jizba, Hynek Lavička, Milan Paluš,
- Abstract要約: レニイ移動エントロピー (Rényi transfer entropy, RTE) は、レニイの情報測度による古典的移動エントロピーの一般化である。
RTEは複雑な非ガウス系の因果関係を解析する強い可能性を示す。
信頼性条件が満たされパラメータが調整された場合、実効的なRTE推定は方向情報の流れを正確に把握する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Rényi transfer entropy (RTE) is a generalization of classical transfer entropy that replaces Shannon's entropy with Rényi's information measure. This, in turn, introduces a new tunable parameter $α$, which accounts for sensitivity to low- or high-probability events. Although RTE shows strong potential for analyzing causal relations in complex, non-Gaussian systems, its practical use is limited, primarily due to challenges related to its accurate estimation and interpretation. These difficulties are especially pronounced when working with finite, high-dimensional, or heterogeneous datasets. In this paper, we systematically study the performance of a k-nearest neighbor estimator for both Rényi entropy (RE) and RTE using various synthetic data sets with clear cause-and-effect relationships inherent to their construction. We test the estimator across a broad range of parameters, including sample size, dimensionality, memory length, and Rényi order $α$. In particular, we apply the estimator to a set of simulated processes with increasing structural complexity, ranging from linear dynamics to nonlinear systems with multi-source couplings. To address interpretational challenges arising from potentially negative RE and RTE values, we introduce three reliability conditions and formulate practical guidelines for tuning the estimator parameters. We show that when the reliability conditions are met and the parameters are calibrated accordingly, the resulting effective RTE estimates accurately capture directional information flow across a broad range of scenarios. Results obtained show that the explanatory power of RTE depends sensitively on the choice of the Rényi parameter $α$. This highlights the usefulness of the RTE framework for identifying the drivers of extreme behavior in complex systems.
- Abstract(参考訳): レニイ移動エントロピー (Rényi transfer entropy, RTE) は、シャノンのエントロピーをレニイの情報測度に置き換える古典的移動エントロピーの一般化である。
これは代わりに、新しい調整可能なパラメータ$α$を導入し、低確率または高確率イベントに対する感度を考慮に入れている。
RTEは複雑な非ガウス系の因果関係を解析する強力な可能性を示しているが、その正確な推定と解釈に関する問題によって、その実用性は限られている。
これらの困難は、有限、高次元、不均一なデータセットを扱うときに特に顕著である。
本稿では, Rényi entropy (RE) と RTE の両方に対するk-nearest 近傍推定器の性能を, その構成に固有の明確な因果関係を持つ様々な合成データセットを用いて体系的に検討する。
サンプルサイズ,次元,メモリ長,Rényi次数$α$など,幅広いパラメータで推定器をテストする。
特に、線形力学から多ソース結合を持つ非線形系まで、構造的複雑性が増大するシミュレーションプロセスの集合に推定器を適用する。
潜在的負のRE値とRTE値から生じる解釈的課題に対処するために,3つの信頼性条件を導入し,推定器パラメータをチューニングするための実践的ガイドラインを定式化する。
信頼性条件が満たされパラメータが調整された場合、実効的なRTE推定は、幅広いシナリオにわたる方向情報の流れを正確に把握する。
その結果、RTE の説明力は、レニイパラメータ $α$ の選択に敏感に依存することが示された。
このことは、複雑なシステムにおける極端な振る舞いのドライバを特定するためのRTEフレームワークの有用性を強調している。
関連論文リスト
- VIKING: Deep variational inference with stochastic projections [48.946143517489496]
変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。
パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。
これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
論文 参考訳(メタデータ) (2025-10-27T15:38:35Z) - Unlocking Symbol-Level Precoding Efficiency Through Tensor Equivariant Neural Network [84.22115118596741]
シンボルレベルのプリコーディングにおいて,推論の複雑さの低いエンドツーエンドディープラーニング(DL)フレームワークを提案する。
提案手法は,従来の手法よりも約80倍の高速化を実現しつつ,SLPの大幅な性能向上を達成できることを示す。
論文 参考訳(メタデータ) (2025-10-02T15:15:50Z) - Canonical Bayesian Linear System Identification [2.9250839865200846]
ベイズフレームワーク内のLTIシステムの標準形式を紹介する。
我々は、これらの最小パラメータ化における推論がすべての不変系の力学を完全に捉えることを厳格に証明する。
このアプローチは、意味のある構造を意識した事前の使用を解放する。
論文 参考訳(メタデータ) (2025-07-15T17:58:55Z) - The Sample Complexity of Online Reinforcement Learning: A Multi-model Perspective [55.15192437680943]
連続状態と行動空間を持つ非線形力学系の一般設定におけるオンライン強化学習のサンプル複雑性について検討した。
我々のアルゴリズムは、$mathcalO(N epsilon2 + Mathrmln(m(epsilon)/epsilon2)$のポリシーを後悔する。
力学がコンパクトで実数値のパラメータ集合によってパラメータ化される特別な場合、$mathcalO(sqrt)のポリシー後悔を証明する。
論文 参考訳(メタデータ) (2025-01-27T10:01:28Z) - Bounds in Wasserstein Distance for Locally Stationary Processes [0.29771206318712146]
本研究では,局所定常(LSP)データに適した条件付き確率分布推定器を提案する。
我々は、ワーッサーシュタイン計量の下で、NWに基づく条件付き確率推定器の収束率を厳格に設定する。
合成データセットの広範な数値シミュレーションを行い,実世界のデータを用いた実証検証を行った。
論文 参考訳(メタデータ) (2024-12-04T15:51:22Z) - Addressing Misspecification in Simulation-based Inference through Data-driven Calibration [43.811367860375825]
本研究は, モデル不特定性を克服するフレームワークであるロPEを導入し, 実世界の小キャリブレーションによる地下構造パラメータの測定を行った。
4つの合成課題と2つの実世界の問題により、RoPEはベースラインを上回り、情報的およびキャリブレーションされた信頼区間を一貫して返却することを示した。
論文 参考訳(メタデータ) (2024-05-14T16:04:39Z) - Efficient CNN-LSTM based Parameter Estimation of Levy Driven Stochastic
Differential Equations [0.0]
本研究では,非ガウス雑音による微分方程式のパラメータ推定の課題に対処する。
従来の研究は、アルファ安定レヴィ駆動SDEのパラメータ推定におけるLSTMネットワークの可能性を強調していた。
本稿では,CNN-LSTMに基づく新しい3段階モデルPEnetを紹介する。
論文 参考訳(メタデータ) (2024-03-07T06:07:31Z) - Towards Convergence Rates for Parameter Estimation in Gaussian-gated
Mixture of Experts [40.24720443257405]
ガウスゲートMOEモデルにおける最大推定値(MLE)の収束解析を行う。
以上の結果から,MLEはガウスゲーティング関数の位置パラメータの2つの相補的な設定の下で異なる挙動を示すことが明らかとなった。
特に、これらの挙動は2つの異なる方程式系の可解性によって特徴づけられる。
論文 参考訳(メタデータ) (2023-05-12T16:02:19Z) - Joint Sensing, Communication, and AI: A Trifecta for Resilient THz User
Experiences [118.91584633024907]
テラヘルツ(THz)無線システムに対する拡張現実(XR)体験を最適化するために、新しい共同センシング、通信、人工知能(AI)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-04-29T00:39:50Z) - Online Parameter Estimation for Safety-Critical Systems with Gaussian
Processes [6.122161391301866]
オンラインパラメータ推定のためのガウス過程(GP)に基づくベイズ最適化フレームワークを提案する。
パラメータ空間の応答面上の効率的な探索戦略を用いて、最小限の機能評価で大域最適解を求める。
我々は,パラメータの変化を考慮したシミュレーションにおいて,アクティベートされた平面振子と安全臨界振子について実演する。
論文 参考訳(メタデータ) (2020-02-18T20:38:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。