論文の概要: Coupled Entropy: A Goldilocks Generalization?
- arxiv url: http://arxiv.org/abs/2506.17229v1
- Date: Sat, 17 May 2025 19:00:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-07 02:47:44.255924
- Title: Coupled Entropy: A Goldilocks Generalization?
- Title(参考訳): Coupled Entropy: Goldilocksの一般化?
- Authors: Kenric P. Nelson,
- Abstract要約: NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
NTEを1+dkappa$で分割する結合エントロピーが、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
- 参考スコア(独自算出の注目度): 2.1756081703276
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Nonextensive Statistical Mechanics (NSM) has developed into a powerful toolset for modeling and analyzing complex systems. Despite its many successes, a puzzle arose early in its development. The constraints on the Tsallis entropy are in the form of an escort distribution with elements proportional to $p_i^q$, but this same factor within the Tsallis entropy function is not normalized. This led to consideration of the Normalized Tsallis Entropy (NTE); however, the normalization proved to make the function unstable. I will provide evidence that the coupled entropy, which divides NTE by $1 + d\kappa$, where $d$ is the dimension and $\kappa$ is the coupling, may provide the necessary robustness necessary for applications like machine learning. The definition for the coupled entropy and its maximizing distributions, the coupled exponential family, arises from clarifying how the number of independent random variables $(q)$ is composed of the nonlinear properties of complex systems, $q=1+\frac{\alpha\kappa}{1+d\kappa}$, where $\alpha$ is the nonlinear parameter governing the shape of distributions near their location and $\kappa$ is the parameter determining the asymptotic tail decay. Foundationally, for complex systems, the coupling is the measure of nonlinearity inducing non-exponential distributions and the degree of nonadditivity entropy. As such, the coupling is a strong candidate as a measure of statistical complexity.
- Abstract(参考訳): 非集中統計力学(NSM)は、複雑なシステムのモデリングと解析のための強力なツールセットとして発展してきた。
多くの成功にもかかわらず、その発展の初期にパズルが生じた。
Tsallisエントロピー上の制約は、$p_i^q$に比例する要素を持つ保護分布の形で定義されるが、Tsallisエントロピー関数内のこの同じ因子は正規化されない。
これにより正規化ツァリスエントロピー (NTE) が検討されたが、正規化は関数を不安定にすることを証明した。
NTEを1+d\kappa$で割った結合エントロピー($d$が次元、$\kappa$が結合)は、機械学習のようなアプリケーションに必要な堅牢性を提供するかもしれないという証拠を提供する。
結合エントロピーとその最大化分布の定義は、独立確率変数の個数$(q)$が複素系の非線形特性$q=1+\frac{\alpha\kappa}{1+d\kappa}$でどのように構成されているかを明確にすることから生じる。
基本的には、複素系において、カップリングは非指数分布を誘導する非線形性の尺度であり、非加法エントロピーの次数である。
このように、結合は統計複雑性の尺度として強い候補である。
関連論文リスト
- Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Symmetry shapes thermodynamics of macroscopic quantum systems [0.0]
系のエントロピーは群理論量の観点から記述できることを示す。
我々はこの手法を一般の$N$と同一の相互作用を持つ$d$レベルの量子システムに適用する。
論文 参考訳(メタデータ) (2024-02-06T18:13:18Z) - Microscopic Legendre Transform, Canonical Ensemble and Jaynes' Maximum Entropy Principle [0.0]
ヘルムホルツ自由エネルギーやエントロピーのような熱力学量の間の伝説的な変換は、標準アンサンブルの定式化に重要な役割を果たしている。
本稿では,系の自由エネルギーとシャノンエントロピーの間の変換の顕微鏡版を定式化する。
シャノンエントロピーの正確な微分特性に着目し、正準アンサンブル内の中心関係を導出する。
論文 参考訳(メタデータ) (2023-12-21T11:41:01Z) - On Entropy Growth in Perturbative Scattering [0.0]
バイパルタイト系における製品状態の動的ユニタリ進化によって生じるサブシステムエントロピーの変化について検討する。
注目すべきは、粒子散乱の場合、$n$-Tsallisエントロピーに対応する回路図はオンシェル図と同じである。
論文 参考訳(メタデータ) (2023-04-25T18:00:01Z) - Shannon entropy in confined He-like ions within a density functional
formalism [0.0]
位置におけるシャノンエントロピー(S_rvec$)および運動量(S_pvec$)空間とその和(S_t$)を示す。
一般化擬似スペクトル(GPS)法を用いて最適空間離散化スキームを用いて放射状コーン・シャム方程式を解く。
論文 参考訳(メタデータ) (2021-02-26T16:29:07Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳(メタデータ) (2020-06-03T23:06:02Z) - Anisotropy-mediated reentrant localization [62.997667081978825]
2次元双極子系、$d=2$、一般化双極子-双極子相互作用$sim r-a$、トラップイオン系やリドバーグ原子系で実験的に制御されたパワー$a$を考える。
異方性双極子交換を引き起こす双極子の空間的に均質な傾き$$beta$は、ロケータ展開を超えた非自明な再帰的局在をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-31T19:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。