論文の概要: Maximum Tsallis Entropy Distributions for Robust and Efficient Sparse Learning from Correlated Data
- arxiv url: http://arxiv.org/abs/2608.17244v1
- Date: Tue, 18 Aug 2026 00:59:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.172623
- Title: Maximum Tsallis Entropy Distributions for Robust and Efficient Sparse Learning from Correlated Data
- Title(参考訳): 相関データを用いたロバストかつ効率的なスパース学習のための最大ツァリエントロピー分布
- Abstract要約: 本稿では,統計的スパース学習におけるガウス分布仮定の限界に対処する。
本稿では,Tsallisエントロピーから派生した$q$Gaussian分布をガウス的手法の代替として提案する。
本稿では,統計的分布と最適化手法の理論的理解に寄与し,実用的なデータ解析の道を開く。
- 参考スコア(独自算出の注目度): 4.25193000812457
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper addresses the limitations of Gaussian distribution assumptions in statistical sparse learning, particularly in modeling correlated and heterogeneous data. Conventional Gaussian models often lack robustness towards outliers and underlying distribution assumptions. To overcome these limitations, we propose the use of the $q$Gaussian distribution, derived from Tsallis entropy maximization, as a robust alternative. This is notably relevant in biostatistics, where the presence of correlated observations and heterogeneity, such as in genetic and longitudinal studies, is prevalent. Our contributions include modeling of correlated data through the re-derived multivariate probability density function from Tsallis entropy maximization, thereby addressing the limitations inherent in conventional Gaussian models. Furthermore, we introduce a novel framework that adapts numerical methods designed to find equilibria in flows to tackle composite optimization problems prevalent in statistical sparse learning. Applying this framework to the Hager-Zhang conjugate gradient algorithm \cite{Hager2005}, we develop a numerically stable and efficient algorithm for sparse statistical learning. The $q$Gaussian distribution, informed by the principle of maximizing Tsallis entropy, presents a viable and flexible alternative to Gaussian-based methods. This paper not only contributes to the theoretical understanding of statistical distributions and optimization techniques, but also paves the way for practical data analysis.
- Abstract(参考訳): 本稿では,統計的スパース学習におけるガウス分布仮定の限界,特に相関データとヘテロジニアスデータのモデル化について論じる。
従来のガウスモデルは、しばしば外れ値や基礎となる分布仮定に対する堅牢性に欠ける。
これらの制限を克服するために、Tsallisエントロピー最大化から導かれる$q$Gaussian分布をロバストな代替として用いることを提案する。
これは、遺伝学や縦断研究など、相関した観察や異種性の存在が一般的である生統計学に特に関係している。
我々の貢献は、Tsallisエントロピー最大化から再帰的に導出される多変量確率密度関数による相関データのモデリングであり、その結果、ガウスモデルに固有の制限に対処することである。
さらに,統計的スパース学習でよく見られる合成最適化問題に対処するために,流れの平衡を求める数値的手法を適用する新しい枠組みを提案する。
このフレームワークをHager-Zhang共役勾配アルゴリズム \cite{Hager2005} に適用し、スパース統計学習のための数値的に安定かつ効率的なアルゴリズムを開発する。
ツァリスエントロピーの最大化の原理によって知らされる$q$Gaussian 分布は、ガウス的手法の代替として可能で柔軟なものである。
本稿では,統計分布と最適化手法の理論的理解に寄与するだけでなく,実用的なデータ解析の道を開く。
関連論文リスト
- Diffusion Model for Manifold Data: Score Decomposition, Curvature, and Statistical Complexity [93.52679474816728]
拡散モデルは、生成モデリングにおける主要なフレームワークとなっている。
本稿では,拡散モデルが構造データをどのように学習するかを,統計的複雑性とデータ幾何学的性質の影響の2つの重要な側面に焦点をあてる。
また、スコア関数の構造と多様体曲率の相互作用も強調する。
論文 参考訳(メタデータ) (2026-03-21T04:40:19Z) - Non-asymptotic error bounds for probability flow ODEs under weak log-concavity [6.661419982187023]
この研究は、確率フローODEの一般クラスに対して、2-ワッサーシュタイン距離における非漸近収束境界を確立する。
この結果は収束理論を、より現実的なデータ分布と実用的なODEソルバに拡張する。
論文 参考訳(メタデータ) (2025-10-20T14:54:38Z) - Contributions to Robust and Efficient Methods for Analysis of High Dimensional Data [3.8590360275860767]
この論文は、高次元データを解析するための頑健で計算学的に効率的な手法を開発する。
Tsallisパワースパースルーエントロピーに基づく混合効果モデルの開発により,高次元相関観測のロバストなモデリングに寄与する。
数値安定性を維持しつつ非線形収束を加速する新しい共役アルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-09-09T21:30:01Z) - Overcoming Dimensional Factorization Limits in Discrete Diffusion Models through Quantum Joint Distribution Learning [79.65014491424151]
量子離散化拡散確率モデル(QD3PM)を提案する。
これは、指数関数的に大きなヒルベルト空間における拡散と denoising を通じて合同確率学習を可能にする。
本稿では,共同分布学習における量子的優位性を生かして,生成モデルの新たな理論的パラダイムを確立する。
論文 参考訳(メタデータ) (2025-05-08T11:48:21Z) - Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳(メタデータ) (2024-03-18T17:08:24Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳(メタデータ) (2021-12-02T14:45:16Z) - Low-rank statistical finite elements for scalable model-data synthesis [0.8602553195689513]
statFEMは、支配方程式に強制を埋め込むことによって、事前モデルの誤特定を認める。
この方法は、観測されたデータ生成過程を最小限の情報損失で再構築する。
本稿では、下層の密度共分散行列の低ランク近似を埋め込むことで、このハードルを克服する。
論文 参考訳(メタデータ) (2021-09-10T09:51:43Z) - Statistical optimality and stability of tangent transform algorithms in
logit models [6.9827388859232045]
我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。
特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。
我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
論文 参考訳(メタデータ) (2020-10-25T05:15:13Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。