論文の概要: All you need is log
- arxiv url: http://arxiv.org/abs/2606.27349v1
- Date: Thu, 25 Jun 2026 17:54:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.394139
- Title: All you need is log
- Title(参考訳): 必要なのはログだけだ。
- Abstract要約: 次数 $in[0,infty]$ の Rényi の発散は、データ処理および独立製品への添加物の下でのユニークな族単調であることを示す。
マルチポピュレーションフェアネス、マルチプライオリティのPAC-Bayes境界、マルチハイプテシステスト、そして正しいマルチディストリビューションの一般化という2つ以上の分布を一度に比較することは、オープンな問題である。
カルモゴロフ=ナグモ(Kolmogorov-Nagumo)は、レニイのエントロピー公理学、古典的エントロピー的特徴、マルチヒポテシステスト誤差指数を持つことを意味する。
- 参考スコア(独自算出の注目度): 0.42671348654734564
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Comparing two probability distributions is a basic building block of statistics and machine learning, and the right family is well understood: the Rényi divergences of order $α\in[0,\infty]$ are the unique family monotone under data processing and additive on independent products. Many problems instead compare more than two distributions at once -- multi-population fairness, multi-prior PAC-Bayes bounds, multi-hypothesis testing -- and the right multi-distribution generalization of the Rényi family has been an open question. We characterize it. Every functional of $W$-tuples of distributions that is monotone under data processing and additive on independent products is a positive integral of multi-way coincidence divergences $C_α(π_1,\dots,π_W) := -\log\int π_1^{α_1}\cdotsπ_W^{α_W}$ (with $\sum_k α_k = 1$) over a parameter space with four strata: the simplex interior; mixed-sign exponent cones (the analogue of Rényi orders $>1$); a tropical boundary at infinity carrying max-divergences; and pairwise Kullback-Leibler edges at the simplex vertices. Each stratum is necessary -- the destination of an explicit data-processing-monotone, product-additive divergence the others cannot reproduce -- and each is a clean limit of simplex-interior atoms. The same family arises from five independent routes -- the structural axioms, Kolmogorov-Nagumo means with Rényi's entropy axiomatics, classical entropy characterizations, multi-hypothesis testing error exponents, and a multi-lottery betting interpretation -- structural evidence that this is the canonical multi-distribution Rényi calculus rather than an artefact of any one axiomatic input. The two-prior case recovers the standard Rényi result; a worked $W=3$ instance, numerical verification, and a conditional extension round out the treatment.
- Abstract(参考訳): 2つの確率分布を比較することは統計学と機械学習の基本的な構成要素であり、正しいファミリーはよく理解されている。
多くの問題は同時に2つ以上の分布(マルチポピュレーションフェアネス、マルチプライオリティPAC-Bayes境界、マルチハイプテシステスト)を比較し、レニイ族の正しいマルチディストリビューション一般化はオープンな問題である。
私たちはそれを特徴付けます。
データ処理の下で単調で独立生成物への添加物である$W$-tuplesのすべての関数は、多方向の一致の正の積分である: $C_α(π_1,\dots,π_W) :== -\log\int π_1^{α_1}\cdotsπ_W^{α_W}$($\sum_k α_k = 1$) 四層空間上のパラメータ空間:単純体、混合符号指数錐(Rényi の次数 $>1$ の類似)、極値の無限大での熱帯境界。
各層は、明示的なデータ処理モノトーンの目的地であり、他の層は再生できない積加法分岐の目的地であり、それぞれの層は単純な原子間原子の清浄な限界である。
同じ家系は、構造公理、コルモゴロフ=ナグモという5つの独立した経路から生じており、レニイのエントロピー公理学、古典的エントロピー的特徴、多仮説テスト誤差指数、および多変数のベッティング解釈を持つ。
2つのプライマリなケースは、標準的なレニイの結果を回復する; W=3$のインスタンス、数値検証、条件付き拡張が処理を丸めている。
関連論文リスト
- A Finite Sample Analysis for Quantile Temporal Difference Learning in Distributional Reinforcement Learning [18.875039998204848]
分散強化学習における同期量子時間差分学習(QTD)のグローバル有限サンプル保証を確立する。
大域的な比較論は、報酬累積分布関数の順序単調性と分布ベルマン作用素の$W_infty$収縮に基づいて、局所近傍に任意に安定性をもたらす。
論文 参考訳(メタデータ) (2026-08-27T16:16:09Z) - Sample Complexity of Multicalibration for Multilevel Properties [52.27687531970317]
我々は、前のプロパティが固定されたときに各プロパティが識別可能な$k$プロパティの列に対する多重校正について検討する。
多対数的に多くの二元群が存在するにもかかわらず、多重校正誤差$varepsilon$を達成するには$widetilde(varepsilon-(k+2))$サンプルが必要である。
論文 参考訳(メタデータ) (2026-08-04T23:38:54Z) - Tight Information Complexity of the Coin Problem in the Broadcast Model [0.21485350418225238]
放送中の$mathrmBer()$と$mathrmBer()$の分散テスト、あるいは共有ブラックボードモデルについて検討する。
一定の優位性を持つプロトコルに対しては、各ペア$$に対して、任意の仮説の下での情報複雑性を普遍的な定数因子まで特徴づける。
論文 参考訳(メタデータ) (2026-08-03T18:21:26Z) - Information from coincidences [0.42671348654734564]
我々は、情報理論の変分結果の広い範囲を統一する1つの代数的混合偶然同一性導出を証明した。
アイデンティティは、経験的分布の集中、仮説テストエラー指数、変化測定の不等式、まれなパターンの偶然を規定する法則といった、情報理論の統一的な基盤を生み出している。
論文 参考訳(メタデータ) (2026-06-23T18:01:05Z) - Odds Law: The Decomposition Algebra On How Intelligence Organizes Itself to Solve Difficult Problems Reliably [0.5414847001704247]
信頼性は、合成によって配置された独立した情報で購入され、検証者によって拘束されることを示す。
つまり、信頼性は自由でも魔法でもなく、独立した情報で購入され、構成によって配置され、検証者によって拘束される。
論文 参考訳(メタデータ) (2026-06-14T09:53:11Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Towards a Sharp Analysis of Offline Policy Learning for $f$-Divergence-Regularized Contextual Bandits [49.96531901205305]
我々は$f$-divergence-regularized offline policy learningを分析する。
逆Kullback-Leibler (KL) の発散に対して、単極集中性の下での最初の$tildeO(epsilon-1)$サンプル複雑性を与える。
これらの結果は,$f$-divergence-regularized policy learningの包括的理解に向けて大きな一歩を踏み出したものと考えられる。
論文 参考訳(メタデータ) (2025-02-09T22:14:45Z) - The Sample Complexity of Simple Binary Hypothesis Testing [7.127829790714167]
単純な二項仮説テストのサンプルの複雑さは、いずれの設定でも$p$と$q$の2つの分布を区別するのに必要となる最小のi.d.サンプルである。
i) all $0 le alpha, beta le 1/8$ in the pre-free set, and (ii) all $delta le pi/4$ in the Bayesian set。
論文 参考訳(メタデータ) (2024-03-25T17:42:32Z) - Distributed Extra-gradient with Optimal Complexity and Communication
Guarantees [60.571030754252824]
複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。
モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。
そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
論文 参考訳(メタデータ) (2023-08-17T21:15:04Z) - Global Nash Equilibrium in Non-convex Multi-player Game: Theory and
Algorithms [66.8634598612777]
ナッシュ均衡(NE)はマルチプレイヤーゲームにおいて全てのプレイヤーに受け入れられることを示す。
また、一般理論から一歩ずつ一方的に利益を得ることはできないことも示している。
論文 参考訳(メタデータ) (2023-01-19T11:36:50Z) - Matrix majorization in large samples [9.421843976231372]
あるモノトンが2つの間に厳密に順序づけられている場合、入力分布の$n$fold Kroneckerパワーを出力分布の$n$foldパワーに取る行列が存在することを示す。
このような触媒マトリックスの偏極化に必要かつ十分な条件が見つかる。
論文 参考訳(メタデータ) (2023-01-18T07:52:19Z) - On counterfactual inference with unobserved confounding [36.18241676876348]
独立だが不均一な単位を持つ観測的研究を前提として、各単位の反実分布を学習することが目的である。
我々は、すべての$n$サンプルをプールして、すべての$n$パラメータベクトルを共同で学習する凸目的を導入する。
対数的ソボレフ不等式を満たすためにコンパクトに支持された分布に対して十分な条件を導出する。
論文 参考訳(メタデータ) (2022-11-14T04:14:37Z) - Leveraged Matrix Completion with Noise [84.20092979053119]
未知の$ntimes n$ matrix of rank $r$ from just $mathcalO(nrlog2 (n))$ entry.
我々の証明は、ゴルフスキームに基づく十分な最適条件を記述する新しいアプローチによって支持されている。
論文 参考訳(メタデータ) (2020-11-11T16:25:45Z) - Robustly Learning any Clusterable Mixture of Gaussians [55.41573600814391]
本研究では,高次元ガウス混合系の対向ロバスト条件下での効率的な学習性について検討する。
理論的に最適に近い誤り証明である$tildeO(epsilon)$の情報を、$epsilon$-corrupted $k$-mixtureで学習するアルゴリズムを提供する。
我々の主な技術的貢献は、ガウス混合系からの新しい頑健な識別可能性証明クラスターであり、これは正方形の定度証明システムによって捉えることができる。
論文 参考訳(メタデータ) (2020-05-13T16:44:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。