論文の概要: AI Uncertainty Based on Rademacher Complexity and Shannon Entropy
- arxiv url: http://arxiv.org/abs/2102.07638v1
- Date: Fri, 12 Feb 2021 04:09:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-17 15:50:44.232826
- Title: AI Uncertainty Based on Rademacher Complexity and Shannon Entropy
- Title(参考訳): ラデマッハ複雑性とシャノンエントロピーに基づくAIの不確かさ
- Authors: Mingyong Zhou
- Abstract要約: 古典的ラデマッハ複雑性とシャノンエントロピーに基づくパターン分類におけるAIの不確実性、キャパシティ、進化について論じる。
本稿では、Shannonエントロピーの1/2基準を導出し、エラー率がゼロに近づいたり、AIパターン分類問題でゼロになったりする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper from communication channel coding perspective we are able to
present both a theoretical and practical discussion of AI's uncertainty,
capacity and evolution for pattern classification based on the classical
Rademacher complexity and Shannon entropy. First AI capacity is defined as in
communication channels. It is shown qualitatively that the classical Rademacher
complexity and Shannon entropy used in communication theory is closely related
by their definitions, given a pattern classification problem with a complexity
measured by Rademacher complexity. Secondly based on the Shannon mathematical
theory on communication coding, we derive several sufficient and necessary
conditions for an AI's error rate approaching zero in classifications problems.
A 1/2 criteria on Shannon entropy is derived in this paper so that error rate
can approach zero or is zero for AI pattern classification problems. Last but
not least, we show our analysis and theory by providing examples of AI pattern
classifications with error rate approaching zero or being zero.
- Abstract(参考訳): 本稿では,古典的ラデマッハ複雑性とシャノンエントロピーに基づくパターン分類におけるAIの不確実性,キャパシティ,進化に関する理論的および実践的な議論を,通信チャネル符号化の観点から提示する。
最初のAI能力は通信チャネルで定義されます。
古典的ラデマッハ複雑性とシャノンエントロピーは、ラデマッハ複雑性によって測定される複雑性のパターン分類問題を考えると、それらの定義と密接に関連していることが定性的に示される。
第2に、通信符号化に関するシャノンの数学的理論に基づいて、分類問題においてゼロに近づくAIの誤差率に十分な、必要な条件を導出する。
本稿では、Shannonエントロピーの1/2基準を導出し、エラー率がゼロに近づいたり、AIパターン分類問題でゼロになったりする。
最後に、誤り率がゼロに近い、またはゼロであるAIパターン分類の例を提供することで、分析と理論を示します。
関連論文リスト
- A Sensitivity Analysis of Cellular Automata and Heterogeneous Topology Networks: Partially-Local Cellular Automata and Homogeneous Homogeneous Random Boolean Networks [0.4893345190925178]
初等セルラーオートマタ(プライマリセルラーオートマタ、英: elementary Cellular Automata、ECA)は、よく研究された計算宇宙である。
ECAと貯水池コンピューティング(RC)はエネルギー効率の高いAIを実現する。
論文 参考訳(メタデータ) (2024-07-25T13:08:24Z) - XXAI: Towards eXplicitly eXplainable Artificial Intelligence [0.0]
サブシンボリックニューラルネットワークに基づく人工知能の信頼性と安全性には懸念がある。
象徴的なAIは、ホワイトボックスの性質を持ち、その決定の信頼性と安全性を保証することができる。
eXplicitly eXplainable AI (XXAI) - 決定論的論理セルオートマトンに基づく完全透明なホワイトボックスAIを提案する。
論文 参考訳(メタデータ) (2024-01-05T23:50:10Z) - The No Free Lunch Theorem, Kolmogorov Complexity, and the Role of Inductive Biases in Machine Learning [80.1018596899899]
ニューラルネットワークモデルは、Kolmogorov複雑性を使って形式化された、同じ好みを共有している、と我々は主張する。
実験の結果、事前訓練された言語モデルでも、低複雑さのシーケンスを生成するのが好まれることがわかった。
これらの観察は、ますます小さな機械学習モデルで異なるように見える問題を統一する深層学習の傾向を正当化する。
論文 参考訳(メタデータ) (2023-04-11T17:22:22Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳(メタデータ) (2022-10-14T15:01:32Z) - Explanation-by-Example Based on Item Response Theory [0.0]
本研究は, 項目応答理論(IRT)を, モデルを説明し, 説明による信頼性のレベルを測定するためのツールとして検討する。
テストセットからすると、83.8%のエラーはIRTがモデルを信頼できないと指摘しているインスタンスからのものである。
論文 参考訳(メタデータ) (2022-10-04T14:36:33Z) - Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
本稿では,ニューラルモデルによる反事実文の評価について検討する。
まず、神経因果モデル(NCM)が十分に表現可能であることを示す。
第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-09-30T18:29:09Z) - Complexity-Theoretic Limitations on Quantum Algorithms for Topological
Data Analysis [59.545114016224254]
トポロジカルデータ解析のための量子アルゴリズムは、古典的手法よりも指数関数的に有利である。
我々は、量子コンピュータにおいても、TDA(ベッチ数の推定)の中心的なタスクが難解であることを示します。
我々は、入力データが単純さの仕様として与えられると、指数的量子優位性を取り戻すことができると論じる。
論文 参考訳(メタデータ) (2022-09-28T17:53:25Z) - Oracle separations of hybrid quantum-classical circuits [68.96380145211093]
量子計算の2つのモデル: CQ_dとQC_d。
CQ_dは、d-d-deepth量子コンピュータのシナリオを何度も捉え、QC_dは測定ベースの量子計算に類似している。
CQ_dとQC_dの類似性にもかかわらず、2つのモデルは本質的にはCQ_d $nsubseteq$QC_dとQC_d $nsubseteq$CQ_dである。
論文 参考訳(メタデータ) (2022-01-06T03:10:53Z) - A Theory on AI Uncertainty Based on Rademacher Complexity and Shannon
Entropy [0.0]
本稿では,古典的ラデマッハ複雑性とシャノンエントロピーに基づくAI深層学習ニューラルネットワークの不確実性調査に関する理論的議論を行う。
本稿では, 分類問題に対するAIの精度と正確性に関する理論的研究のために, シャノンエントロピーに関する0.5近い基準を導出した。
論文 参考訳(メタデータ) (2020-11-19T04:34:45Z) - From Checking to Inference: Actual Causality Computations as
Optimization Problems [79.87179017975235]
本稿では、最適化問題として二元非巡回モデルよりも、因果推論の異なる概念を定式化するための新しいアプローチを提案する。
8000ドル以上の変数を持つモデルを用いて,MaxSAT が ILP を上回り,数秒単位でチェック処理を行う場合が多い。
論文 参考訳(メタデータ) (2020-06-05T10:56:52Z) - Random thoughts about Complexity, Data and Models [0.0]
データサイエンスと機械学習は、過去10年間強く成長してきた。
我々は「データとモデル」の微妙な関係について検討する。
アルゴリズム複雑性とアルゴリズム学習の関係性を評価する上での鍵となる課題は、圧縮性、決定性、予測可能性の概念である。
論文 参考訳(メタデータ) (2020-04-16T14:27:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。