論文の概要: Coupled Entropy: A Goldilocks Generalization?
- arxiv url: http://arxiv.org/abs/2506.17229v1
- Date: Sat, 17 May 2025 19:00:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-07 02:47:44.255924
- Title: Coupled Entropy: A Goldilocks Generalization?
- Title(参考訳): Coupled Entropy: Goldilocksの一般化?
- Authors: Kenric P. Nelson,
- Abstract要約: NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
- 参考スコア(独自算出の注目度): 2.1756081703276
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Nonextensive Statistical Mechanics (NSM) has developed into a powerful toolset for modeling and analyzing complex systems. Despite its many successes, a puzzle arose early in its development. The constraints on the Tsallis entropy are in the form of an escort distribution with elements proportional to $p_i^q$, but this same factor within the Tsallis entropy function is not normalized. This led to consideration of the Normalized Tsallis Entropy (NTE); however, the normalization proved to make the function unstable. I will provide evidence that the coupled entropy, which divides NTE by $1 + d\kappa$, where $d$ is the dimension and $\kappa$ is the coupling, may provide the necessary robustness necessary for applications like machine learning. The definition for the coupled entropy and its maximizing distributions, the coupled exponential family, arises from clarifying how the number of independent random variables $(q)$ is composed of the nonlinear properties of complex systems, $q=1+\frac{\alpha\kappa}{1+d\kappa}$, where $\alpha$ is the nonlinear parameter governing the shape of distributions near their location and $\kappa$ is the parameter determining the asymptotic tail decay. Foundationally, for complex systems, the coupling is the measure of nonlinearity inducing non-exponential distributions and the degree of nonadditivity entropy. As such, the coupling is a strong candidate as a measure of statistical complexity.
- Abstract(参考訳): 非集中統計力学(NSM)は、複雑なシステムのモデリングと解析のための強力なツールセットとして発展してきた。
多くの成功にもかかわらず、その発展の初期にパズルが生じた。
Tsallisエントロピー上の制約は、$p_i^q$に比例する要素を持つ保護分布の形で定義されるが、Tsallisエントロピー関数内のこの同じ因子は正規化されない。
これにより正規化ツァリスエントロピー (NTE) が検討されたが、正規化は関数を不安定にすることを証明した。
NTEを1+d\kappa$で割った結合エントロピー($d$が次元、$\kappa$が結合)は、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
結合エントロピーとその最大化分布の定義は、独立確率変数の個数$(q)$が複素系の非線形特性$q=1+\frac{\alpha\kappa}{1+d\kappa}$でどのように構成されているかを明確にすることから生じる。
基本的には、複素系において、カップリングは非指数分布を誘導する非線形性の尺度であり、非加法エントロピーの次数である。
このように、結合は統計複雑性の尺度として強い候補である。
関連論文リスト
- Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。
我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
論文 参考訳(メタデータ) (2024-08-25T10:28:31Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Symmetry shapes thermodynamics of macroscopic quantum systems [0.0]
系のエントロピーは群理論量の観点から記述できることを示す。
我々はこの手法を一般の$N$と同一の相互作用を持つ$d$レベルの量子システムに適用する。
論文 参考訳(メタデータ) (2024-02-06T18:13:18Z) - Microscopic Legendre Transform, Canonical Ensemble and Jaynes' Maximum Entropy Principle [0.0]
ヘルムホルツ自由エネルギーやエントロピーのような熱力学量の間の伝説的な変換は、標準アンサンブルの定式化に重要な役割を果たしている。
本稿では,系の自由エネルギーとシャノンエントロピーの間の変換の顕微鏡版を定式化する。
シャノンエントロピーの正確な微分特性に着目し、正準アンサンブル内の中心関係を導出する。
論文 参考訳(メタデータ) (2023-12-21T11:41:01Z) - Eigenstate entanglement entropy in the integrable spin-$\rac{1}{2}$ XYZ
model [0.0]
積分可能なスピン-$frac12$XYZ鎖の高励起固有状態のエンタングルメントエントロピーの平均と標準偏差について検討した。
平均固有状態絡み合いエントロピーは、量子カオス相互作用モデルの普遍的よりも小さい体積-法則係数を示す。
論文 参考訳(メタデータ) (2023-11-17T19:00:09Z) - Lower Complexity Adaptation for Empirical Entropic Optimal Transport [0.0]
エントロピック最適輸送(EOT)は、非正規化最適輸送(OT)に代わる有効で計算可能な代替手段を示す
EOTコストの実証的なプラグイン推定のための新しい統計的境界を導出する。
この手法は経験的プロセス理論を用いており、単一関数クラス上の EOT の二重定式化に依存している。
論文 参考訳(メタデータ) (2023-06-23T16:06:13Z) - On Entropy Growth in Perturbative Scattering [0.0]
バイパルタイト系における製品状態の動的ユニタリ進化によって生じるサブシステムエントロピーの変化について検討する。
注目すべきは、粒子散乱の場合、$n$-Tsallisエントロピーに対応する回路図はオンシェル図と同じである。
論文 参考訳(メタデータ) (2023-04-25T18:00:01Z) - Local Intrinsic Dimensional Entropy [29.519376857728325]
ほとんどのエントロピー測度は、サンプル空間 $mathcalX|$ 上の確率分布の拡散に依存する。
本研究では,連続空間に対するエントロピー測度の定義において,濃度と分布の拡散が果たす役割について考察する。
分布の局所固有次元の平均値は、ID-エントロピー(ID-Entropy)と呼ばれ、連続空間の強エントロピー測度として機能する。
論文 参考訳(メタデータ) (2023-04-05T04:36:07Z) - Average entanglement entropy of midspectrum eigenstates of
quantum-chaotic interacting Hamiltonians [0.0]
正の$O(1)$補正の大きさは、ランダムな純状態の予測値よりもわずかに大きい。
我々は、ランダムな純粋状態の予測から、$O(1)$の偏差の数値的に観測された$nu$依存性を記述する単純な式を導出する。
論文 参考訳(メタデータ) (2023-03-23T18:00:02Z) - Statistical Properties of the Entropy from Ordinal Patterns [55.551675080361335]
大規模な時系列モデルに対するエントロピー・統計複雑性の連立分布を知っていれば、今日まで利用できない統計テストが可能になるだろう。
実正規化エントロピーが零でも1でもないモデルに対して、経験的シャノンのエントロピーの分布を特徴づける。
2つの信号が同じシャノンのエントロピーを持つ順序パターンを生成するという仮説を否定するのに十分な証拠があるかどうかを検証する。
論文 参考訳(メタデータ) (2022-09-15T23:55:58Z) - Self-healing of Trotter error in digital adiabatic state preparation [52.77024349608834]
完全断熱進化の1次トロッター化は、一般的なトロッター誤差境界から期待される$mathcal O(T-2 delta t2)$の代わりに$mathcal O(T-2 delta t2)$にスケールする累積不整性を持つことを示す。
この結果は自己修復機構を示唆し、T$の増大にもかかわらず、固定$$delta t$のデジタル化進化の不完全性が、多種多様なハミルトニアンに対して依然として減少している理由を説明する。
論文 参考訳(メタデータ) (2022-09-13T18:05:07Z) - Scaling of finite size effect of $\alpha$-R\'enyi entropy in disjointed
intervals under dilation [15.117387969269373]
解離区間のエントロピーを、XYモデルにおける一様拡張$lambda A$で、$A = cup_i A_i$で計算する。
分離区間では,外在性FSEと内在性FSEと呼ばれる2つのFSEが,エントロピーのFSEを完全に考慮する必要がある。
本研究は,多体系における絡み合いのエントロピーを包括的に把握する。
論文 参考訳(メタデータ) (2022-03-19T08:41:20Z) - Entanglement entropy production in deep inelastic scattering [6.359294579761927]
深部非弾性散乱(DIS)は、光円錐近傍のハドロンの波動関数の一部をサンプリングする。
結果の絡み合いエントロピーは時間対数的に、$mathcal S(t)=1/3 ln(t/tau)$ with $tau = 1/m$ for $1/m le tle (mx)-1$, where $m$ is the proton mass and $x$ is Bjorken $x$。
論文 参考訳(メタデータ) (2021-10-10T19:05:19Z) - Modular Nuclearity and Entanglement Entropy [0.0]
この研究で、モジュラー$p$核状態を検証する任意の局所 QFT において、Longo の正準絡みエントロピーが有限であることを示す。
応用として、S-行列を分解する1+1$次元可積分モデルにおいて、2つの因果解離ウェッジ間の距離として標準エンタングルメントエントロピーの挙動を研究する。
論文 参考訳(メタデータ) (2021-08-20T09:01:59Z) - Maximum Entropy Reinforcement Learning with Mixture Policies [54.291331971813364]
MaxEntアルゴリズムを用いて混合エントロピーのトラクタブル近似を構築する。
我々は、それが限界エントロピーの合計と密接に関連していることを示しています。
我々は, 混合ポリシーケースに対するsoft actor-critic (sac) のアルゴリズム的変種を導出し, 一連の連続制御タスクで評価する。
論文 参考訳(メタデータ) (2021-03-18T11:23:39Z) - Shannon entropy in confined He-like ions within a density functional
formalism [0.0]
位置におけるシャノンエントロピー(S_rvec$)および運動量(S_pvec$)空間とその和(S_t$)を示す。
一般化擬似スペクトル(GPS)法を用いて最適空間離散化スキームを用いて放射状コーン・シャム方程式を解く。
論文 参考訳(メタデータ) (2021-02-26T16:29:07Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳(メタデータ) (2020-06-03T23:06:02Z) - Generalized Entropy Regularization or: There's Nothing Special about
Label Smoothing [83.78668073898001]
本稿では, ラベル平滑化を含むエントロピー正則化器群を紹介する。
モデル性能のばらつきはモデルのエントロピーによって大きく説明できる。
我々は,他のエントロピー正規化手法の使用を推奨する。
論文 参考訳(メタデータ) (2020-05-02T12:46:28Z) - Anisotropy-mediated reentrant localization [62.997667081978825]
2次元双極子系、$d=2$、一般化双極子-双極子相互作用$sim r-a$、トラップイオン系やリドバーグ原子系で実験的に制御されたパワー$a$を考える。
異方性双極子交換を引き起こす双極子の空間的に均質な傾き$$beta$は、ロケータ展開を超えた非自明な再帰的局在をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-31T19:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。