論文の概要: New-Type Hoeffding's Inequalities and Application in Tail Bounds
- arxiv url: http://arxiv.org/abs/2101.00360v1
- Date: Sat, 2 Jan 2021 03:19:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-13 07:13:18.921129
- Title: New-Type Hoeffding's Inequalities and Application in Tail Bounds
- Title（参考訳）: ニュータイプホッフディングの不等式とテール境界への応用
- Authors: Pingyi Fan
- Abstract要約: そこで、ランダム変数の高次モーメントを考慮に入れた新しいタイプのHoeffdingの不等式を提示する。
既知の結果と比較して、テールバウンドの評価が大幅に改善される可能性がある。
- 参考スコア（独自算出の注目度）: 17.714164324169037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: It is well known that Hoeffding's inequality has a lot of applications in the
signal and information processing fields. How to improve Hoeffding's inequality
and find the refinements of its applications have always attracted much
attentions. An improvement of Hoeffding inequality was recently given by Hertz
\cite{r1}. Eventhough such an improvement is not so big, it still can be used
to update many known results with original Hoeffding's inequality, especially
for Hoeffding-Azuma inequality for martingales. However, the results in
original Hoeffding's inequality and its refinement one by Hertz only considered
the first order moment of random variables. In this paper, we present a new
type of Hoeffding's inequalities, where the high order moments of random
variables are taken into account. It can get some considerable improvements in
the tail bounds evaluation compared with the known results. It is expected that
the developed new type Hoeffding's inequalities could get more interesting
applications in some related fields that use Hoeffding's results.
- Abstract（参考訳）: ホッフディングの不等式が信号処理や情報処理の分野で多くの応用があることはよく知られている。
どのようにhoeffdingの不平等を改善し、そのアプリケーションの改良を見出すかは、常に多くの注目を集めている。
ホッフィング不等式の改善は、最近 hertz \cite{r1} によって与えられた。
このような改善はそれほど大きくないが、オリジナルのホーフディングの不平等、特にマーチンガルのホーフディング-東の不平等で多くの既知の結果の更新に使用できる。
しかし、ホッフィングの不等式とヘルツによる改良の結果は、確率変数の第一次モーメントのみを考慮したものであった。
本稿では,確率変数の高次モーメントを考慮したHoeffdingの不等式について述べる。
既知の結果と比較して、テールバウンドの評価が大幅に改善される可能性がある。
新たに開発されたHoeffdingの不等式は、Hoeffdingの結果を使用するいくつかの関連分野においてより興味深い応用が期待できる。
関連論文リスト
- What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning [52.51430732904994]
強化学習問題では、エージェントはリターンを最大化しながら長期的な公正性を考慮する必要がある。
近年の研究では様々なフェアネスの概念が提案されているが、RL問題における不公平性がどのように生じるかは定かではない。
我々は、環境力学から生じる不平等を明示的に捉える、ダイナミックスフェアネスという新しい概念を導入する。
論文 参考訳（メタデータ） (2024-04-16T22:47:59Z) - Closing the Gap Between the Upper Bound and the Lower Bound of Adam's
Iteration Complexity [51.96093077151991]
我々はAdamの新しい収束保証を導出し、$L$-smooth条件と有界雑音分散仮定のみを導出する。
本証明は,運動量と適応学習率の絡み合いを扱うために,新しい手法を利用する。
論文 参考訳（メタデータ） (2023-10-27T09:16:58Z) - Lower Bounds on the Bayesian Risk via Information Measures [17.698319441265223]
マルコフの不等式を介して双対を上界にすることで、あらゆる情報測度でリスクを低くすることができることを示す。
サンプル数における下位境界の挙動は、情報尺度の選択によって影響される。
観測結果が民営化される場合、強いデータ・プロシーシングの不等式により、強い不合理性が得られる。
論文 参考訳（メタデータ） (2023-03-22T12:09:12Z) - Exact Non-Oblivious Performance of Rademacher Random Embeddings [79.28094304325116]
本稿では,Rademacherランダムプロジェクションの性能を再検討する。
入力データに関して数値的に鋭く、曖昧でない新しい統計的保証を確立する。
論文 参考訳（メタデータ） (2023-03-21T11:45:27Z) - High-Probability Bounds for Stochastic Optimization and Variational
Inequalities: the Case of Unbounded Variance [59.211456992422136]
制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。
これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
論文 参考訳（メタデータ） (2023-02-02T10:37:23Z) - Clipped Stochastic Methods for Variational Inequalities with
Heavy-Tailed Noise [64.85879194013407]
単調なVIPと非単調なVIPの解法における信頼度に対数的依存を持つ最初の高確率結果が証明された。
この結果は光尾の場合で最もよく知られたものと一致し,非単調な構造問題に新鮮である。
さらに,多くの実用的な定式化の勾配雑音が重く,クリッピングによりSEG/SGDAの性能が向上することを示す。
論文 参考訳（メタデータ） (2022-06-02T15:21:55Z) - Tight Last-Iterate Convergence of the Extragradient Method for
Constrained Monotone Variational Inequalities [4.6193503399184275]
制約付きモノトンおよびリプシッツの変分不等式について, 過次法の最終点収束率を示す。
我々は,2乗法プログラミングのパワーと,指数関数法更新規則の低次元性を組み合わせた新しい手法を開発した。
論文 参考訳（メタデータ） (2022-04-20T05:12:11Z) - A Reverse Jensen Inequality Result with Application to Mutual
Information Estimation [27.35611916229265]
確率的設定では、ジェンセンの不等式は凸関数と期待値の関係を記述する。
最小限の制約と適切なスケーリングで、ジェンセンの不等式は逆転できることを示す。
論文 参考訳（メタデータ） (2021-11-12T11:54:17Z) - Sharp Bounds for Federated Averaging (Local SGD) and Continuous
Perspective [49.17352150219212]
Federated AveragingFedAvg(ローカルSGD)は、Federated Learning(FL)で最も人気のあるアルゴリズムの1つである。
微分方程式(SDE)の観点から、この量を解析する方法を示す。
論文 参考訳（メタデータ） (2021-11-05T22:16:11Z) - Generalized Talagrand Inequality for Sinkhorn Distance using Entropy
Power Inequality [28.676190269627828]
最適輸送写像の無限小変位凸性を利用したHWI型不等式を証明した。
式中の数値項に対応するEPIの飽和度を用いて, 2つのタラグラッド型不等式を導出する。
論文 参考訳（メタデータ） (2021-09-17T09:44:27Z) - Concentration inequality using unconfirmed knowledge [2.538209532048867]
確率変数が特定の領域内で値を取るという前提に基づいて濃度不等式を与える。
我々の不等式は他のよく知られた不等式よりも優れている。
論文 参考訳（メタデータ） (2020-02-11T13:02:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。