論文の概要: Coupled Entropy: A Goldilocks Generalization?
- arxiv url: http://arxiv.org/abs/2506.17229v1
- Date: Sat, 17 May 2025 19:00:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-07 02:47:44.255924
- Title: Coupled Entropy: A Goldilocks Generalization?
- Title(参考訳): Coupled Entropy: Goldilocksの一般化?
- Authors: Kenric P. Nelson,
- Abstract要約: NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
- 参考スコア(独自算出の注目度): 2.1756081703276
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Nonextensive Statistical Mechanics (NSM) has developed into a powerful toolset for modeling and analyzing complex systems. Despite its many successes, a puzzle arose early in its development. The constraints on the Tsallis entropy are in the form of an escort distribution with elements proportional to $p_i^q$, but this same factor within the Tsallis entropy function is not normalized. This led to consideration of the Normalized Tsallis Entropy (NTE); however, the normalization proved to make the function unstable. I will provide evidence that the coupled entropy, which divides NTE by $1 + d\kappa$, where $d$ is the dimension and $\kappa$ is the coupling, may provide the necessary robustness necessary for applications like machine learning. The definition for the coupled entropy and its maximizing distributions, the coupled exponential family, arises from clarifying how the number of independent random variables $(q)$ is composed of the nonlinear properties of complex systems, $q=1+\frac{\alpha\kappa}{1+d\kappa}$, where $\alpha$ is the nonlinear parameter governing the shape of distributions near their location and $\kappa$ is the parameter determining the asymptotic tail decay. Foundationally, for complex systems, the coupling is the measure of nonlinearity inducing non-exponential distributions and the degree of nonadditivity entropy. As such, the coupling is a strong candidate as a measure of statistical complexity.
- Abstract(参考訳): 非集中統計力学(NSM)は、複雑なシステムのモデリングと解析のための強力なツールセットとして発展してきた。
多くの成功にもかかわらず、その発展の初期にパズルが生じた。
Tsallisエントロピー上の制約は、$p_i^q$に比例する要素を持つ保護分布の形で定義されるが、Tsallisエントロピー関数内のこの同じ因子は正規化されない。
これにより正規化ツァリスエントロピー (NTE) が検討されたが、正規化は関数を不安定にすることを証明した。
NTEを1+d\kappa$で割った結合エントロピー($d$が次元、$\kappa$が結合)は、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
結合エントロピーとその最大化分布の定義は、独立確率変数の個数$(q)$が複素系の非線形特性$q=1+\frac{\alpha\kappa}{1+d\kappa}$でどのように構成されているかを明確にすることから生じる。
基本的には、複素系において、カップリングは非指数分布を誘導する非線形性の尺度であり、非加法エントロピーの次数である。
このように、結合は統計複雑性の尺度として強い候補である。
関連論文リスト
- Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Symmetry shapes thermodynamics of macroscopic quantum systems [0.0]
系のエントロピーは群理論量の観点から記述できることを示す。
我々はこの手法を一般の$N$と同一の相互作用を持つ$d$レベルの量子システムに適用する。
論文 参考訳(メタデータ) (2024-02-06T18:13:18Z) - Microscopic Legendre Transform, Canonical Ensemble and Jaynes' Maximum Entropy Principle [0.0]
ヘルムホルツ自由エネルギーやエントロピーのような熱力学量の間の伝説的な変換は、標準アンサンブルの定式化に重要な役割を果たしている。
本稿では,系の自由エネルギーとシャノンエントロピーの間の変換の顕微鏡版を定式化する。
シャノンエントロピーの正確な微分特性に着目し、正準アンサンブル内の中心関係を導出する。
論文 参考訳(メタデータ) (2023-12-21T11:41:01Z) - Eigenstate entanglement entropy in the integrable spin-$\rac{1}{2}$ XYZ
model [0.0]
積分可能なスピン-$frac12$XYZ鎖の高励起固有状態のエンタングルメントエントロピーの平均と標準偏差について検討した。
平均固有状態絡み合いエントロピーは、量子カオス相互作用モデルの普遍的よりも小さい体積-法則係数を示す。
論文 参考訳(メタデータ) (2023-11-17T19:00:09Z) - Lower Complexity Adaptation for Empirical Entropic Optimal Transport [0.0]
エントロピック最適輸送(EOT)は、非正規化最適輸送(OT)に代わる有効で計算可能な代替手段を示す
EOTコストの実証的なプラグイン推定のための新しい統計的境界を導出する。
この手法は経験的プロセス理論を用いており、単一関数クラス上の EOT の二重定式化に依存している。
論文 参考訳(メタデータ) (2023-06-23T16:06:13Z) - On Entropy Growth in Perturbative Scattering [0.0]
バイパルタイト系における製品状態の動的ユニタリ進化によって生じるサブシステムエントロピーの変化について検討する。
注目すべきは、粒子散乱の場合、$n$-Tsallisエントロピーに対応する回路図はオンシェル図と同じである。
論文 参考訳(メタデータ) (2023-04-25T18:00:01Z) - Average entanglement entropy of midspectrum eigenstates of
quantum-chaotic interacting Hamiltonians [0.0]
正の$O(1)$補正の大きさは、ランダムな純状態の予測値よりもわずかに大きい。
我々は、ランダムな純粋状態の予測から、$O(1)$の偏差の数値的に観測された$nu$依存性を記述する単純な式を導出する。
論文 参考訳(メタデータ) (2023-03-23T18:00:02Z) - Self-healing of Trotter error in digital adiabatic state preparation [52.77024349608834]
完全断熱進化の1次トロッター化は、一般的なトロッター誤差境界から期待される$mathcal O(T-2 delta t2)$の代わりに$mathcal O(T-2 delta t2)$にスケールする累積不整性を持つことを示す。
この結果は自己修復機構を示唆し、T$の増大にもかかわらず、固定$$delta t$のデジタル化進化の不完全性が、多種多様なハミルトニアンに対して依然として減少している理由を説明する。
論文 参考訳(メタデータ) (2022-09-13T18:05:07Z) - Maximum Entropy Reinforcement Learning with Mixture Policies [54.291331971813364]
MaxEntアルゴリズムを用いて混合エントロピーのトラクタブル近似を構築する。
我々は、それが限界エントロピーの合計と密接に関連していることを示しています。
我々は, 混合ポリシーケースに対するsoft actor-critic (sac) のアルゴリズム的変種を導出し, 一連の連続制御タスクで評価する。
論文 参考訳(メタデータ) (2021-03-18T11:23:39Z) - Shannon entropy in confined He-like ions within a density functional
formalism [0.0]
位置におけるシャノンエントロピー(S_rvec$)および運動量(S_pvec$)空間とその和(S_t$)を示す。
一般化擬似スペクトル(GPS)法を用いて最適空間離散化スキームを用いて放射状コーン・シャム方程式を解く。
論文 参考訳(メタデータ) (2021-02-26T16:29:07Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳(メタデータ) (2020-06-03T23:06:02Z) - Generalized Entropy Regularization or: There's Nothing Special about
Label Smoothing [83.78668073898001]
本稿では, ラベル平滑化を含むエントロピー正則化器群を紹介する。
モデル性能のばらつきはモデルのエントロピーによって大きく説明できる。
我々は,他のエントロピー正規化手法の使用を推奨する。
論文 参考訳(メタデータ) (2020-05-02T12:46:28Z) - Anisotropy-mediated reentrant localization [62.997667081978825]
2次元双極子系、$d=2$、一般化双極子-双極子相互作用$sim r-a$、トラップイオン系やリドバーグ原子系で実験的に制御されたパワー$a$を考える。
異方性双極子交換を引き起こす双極子の空間的に均質な傾き$$beta$は、ロケータ展開を超えた非自明な再帰的局在をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-31T19:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。