論文の概要: A Theory on AI Uncertainty Based on Rademacher Complexity and Shannon Entropy

• arxiv url: http://arxiv.org/abs/2011.11484v1
• Date: Thu, 19 Nov 2020 04:34:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-23 20:34:44.386298
• Title: A Theory on AI Uncertainty Based on Rademacher Complexity and Shannon Entropy
• Title（参考訳）: ラデマッハ複雑性とシャノンエントロピーに基づくAIの不確かさの理論
• Authors: Mingyong Zhou
• Abstract要約: 本稿では,古典的ラデマッハ複雑性とシャノンエントロピーに基づくAI深層学習ニューラルネットワークの不確実性調査に関する理論的議論を行う。 本稿では, 分類問題に対するAIの精度と正確性に関する理論的研究のために, シャノンエントロピーに関する0.5近い基準を導出した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, we present a theoretical discussion on AI deep learning neural network uncertainty investigation based on the classical Rademacher complexity and Shannon entropy. First it is shown that the classical Rademacher complexity and Shannon entropy is closely related by quantity by definitions. Secondly based on the Shannon mathematical theory on communication [3], we derive a criteria to ensure AI correctness and accuracy in classifications problems. Last but not the least based on Peter Barlette's work, we show both a relaxing condition and a stricter condition to guarantee the correctness and accuracy in AI classification . By elucidating in this paper criteria condition in terms of Shannon entropy based on Shannon theory, it becomes easier to explore other criteria in terms of other complexity measurements such as Vapnik-Cheronenkis, Gaussian complexity by taking advantage of the relations studies results in other references. A close to 0.5 criteria on Shannon entropy is derived in this paper for the theoretical investigation of AI accuracy and correctness for classification problems.
• Abstract（参考訳）: 本稿では,古典的ラデマッハ複雑性とシャノンエントロピーに基づくAI深層学習ニューラルネットワークの不確実性調査に関する理論的議論を行う。 まず、古典的ラデマッハ複雑性とシャノンエントロピーが定義によって量によって密接に関連していることが示される。 第2に,コミュニケーションに関するシャノンの数学的理論[3]に基づいて,分類問題におけるAIの正しさと精度を保証する基準を導出する。 最後に、Peter Barlette氏の研究に基づいて、AI分類における正確性と正確性を保証するために、緩和条件と厳密な条件の両方を示す。 本論文ではシャノン理論に基づくシャノンエントロピーの観点で条件を解明することで,vapnik-cheronenkis,gaussian complexityなどの他の複雑性測定の観点で他の基準を探索することが容易になる。 分類問題に対するAIの精度と正確性に関する理論的研究のために,シャノンエントロピーに関する0.5に近い基準を導出した。

関連論文リスト

• A Sensitivity Analysis of Cellular Automata and Heterogeneous Topology Networks: Partially-Local Cellular Automata and Homogeneous Homogeneous Random Boolean Networks [0.4893345190925178]
  初等セルラーオートマタ(プライマリセルラーオートマタ、英: elementary Cellular Automata、ECA)は、よく研究された計算宇宙である。 ECAと貯水池コンピューティング(RC)はエネルギー効率の高いAIを実現する。
  論文  参考訳（メタデータ） (2024-07-25T13:08:24Z)
• Optimal Multi-Distribution Learning [88.3008613028333]
  マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。 本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-08T16:06:29Z)
• Understanding the Generalization Ability of Deep Learning Algorithms: A Kernelized Renyi's Entropy Perspective [11.255943520955764]
  本稿では,Renyiのエントロピーをカーネル化した新しい情報理論尺度を提案する。 我々は,Renyiエントロピーのカーネル化の下で,勾配/ランジュバン降下(SGD/SGLD)学習アルゴリズムの一般化誤差境界を確立する。 我々の情報理論的境界は勾配の統計に依存しており、現在のSOTA(State-of-the-art)結果よりも厳密であることを示す。
  論文  参考訳（メタデータ） (2023-05-02T01:17:15Z)
• PAPAL: A Provable PArticle-based Primal-Dual ALgorithm for Mixed Nash Equilibrium [58.26573117273626]
  2プレイヤゼロサム連続ゲームにおける非AL平衡非漸近目的関数について考察する。 連続分布戦略のための粒子ベースアルゴリズムに関する新しい知見を述べる。
  論文  参考訳（メタデータ） (2023-03-02T05:08:15Z)
• Complexity-Theoretic Limitations on Quantum Algorithms for Topological Data Analysis [59.545114016224254]
  トポロジカルデータ解析のための量子アルゴリズムは、古典的手法よりも指数関数的に有利である。 我々は、量子コンピュータにおいても、TDA(ベッチ数の推定)の中心的なタスクが難解であることを示します。 我々は、入力データが単純さの仕様として与えられると、指数的量子優位性を取り戻すことができると論じる。
  論文  参考訳（メタデータ） (2022-09-28T17:53:25Z)
• Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
  本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。 定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。 我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
  論文  参考訳（メタデータ） (2021-06-30T18:32:46Z)
• R\'enyi divergence inequalities via interpolation, with applications to generalised entropic uncertainty relations [91.3755431537592]
  量子R'enyiエントロピー量、特に'サンドウィッチ'の発散量について検討する。 我々は、R'enyi相互情報分解規則、R'enyi条件エントロピー三部類連鎖規則に対する新しいアプローチ、より一般的な二部類比較を示す。
  論文  参考訳（メタデータ） (2021-06-19T04:06:23Z)
• From R\'{e}nyi Entropy Power to Information Scan of Quantum States [0.0]
  我々はシャノンのエントロピーパワーの概念をR'enyi-エントロピー設定に一般化する。 量子状態と関連する情報確率分布を量子状態トモグラフィーに類似したプロセスで再構成する方法を示す。
  論文  参考訳（メタデータ） (2021-02-18T15:09:57Z)
• AI Uncertainty Based on Rademacher Complexity and Shannon Entropy [0.0]
  古典的ラデマッハ複雑性とシャノンエントロピーに基づくパターン分類におけるAIの不確実性、キャパシティ、進化について論じる。 本稿では、Shannonエントロピーの1/2基準を導出し、エラー率がゼロに近づいたり、AIパターン分類問題でゼロになったりする。
  論文  参考訳（メタデータ） (2021-02-12T04:09:35Z)
• Causal Expectation-Maximisation [70.45873402967297]
  ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。 我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。 我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
  論文  参考訳（メタデータ） (2020-11-04T10:25:13Z)
• Search for Efficient Formulations for Hamiltonian Simulation of non-Abelian Lattice Gauge Theories [0.0]
  格子ゲージ理論(LGTs)のハミルトン的定式化は、量子シミュレーションのための最も自然な枠組みである。 計算学的には最も正確であるが、そのような理論におけるハミルトンの定式化(英語版)は依然として重要な課題である。 本論文は,非アベリアLGTの場合において,この問題に対処するための第一歩である。
  論文  参考訳（メタデータ） (2020-09-24T16:44:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。