論文の概要: A New Information Theory of Certainty for Machine Learning
- arxiv url: http://arxiv.org/abs/2304.12833v1
- Date: Tue, 25 Apr 2023 14:03:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-26 20:35:32.411828
- Title: A New Information Theory of Certainty for Machine Learning
- Title(参考訳): 機械学習のための確実性の新しい情報理論
- Authors: Arthur Jun Zhang
- Abstract要約: クロード・シャノンは、通信符号化理論のためのランダム分布の不確かさを定量化するためにエントロピーを作った。
本稿では,エントロピーの正準双対として,基礎となる分布の確実性を定量化するための新しい概念トロエンピーを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Claude Shannon coined entropy to quantify the uncertainty of a random
distribution for communication coding theory. We observe that the uncertainty
nature of entropy also limits its direct usage in mathematical modeling.
Therefore we propose a new concept troenpy,as the canonical dual of entropy, to
quantify the certainty of the underlying distribution. We demonstrate two
applications in machine learning. The first is for the classical document
classification, we develop a troenpy based weighting scheme to leverage the
document class label. The second is a self-troenpy weighting scheme for
sequential data and show that it can be easily included in neural network based
language models and achieve dramatic perplexity reduction. We also define
quantum troenpy as the dual of the Von Neumann entropy to quantify the
certainty of quantum systems.
- Abstract(参考訳): クロード・シャノンは、通信符号化理論におけるランダム分布の不確かさを定量化するためにエントロピーを考案した。
エントロピーの不確実性は、数学的モデリングにおける直接的使用を制限する。
そこで我々は,エントロピーの正準双対として,基礎となる分布の確実性を定量化する新しい概念トロエンピーを提案する。
機械学習の応用例を2つ紹介する。
まず, 古典的文書分類について, 文書クラスラベルを活用すべく, トレンピーに基づく重み付けスキームを開発した。
2つ目は、シーケンシャルデータに対する自己トロエンピー重み付け方式で、ニューラルネットワークベースの言語モデルに簡単に組み込めることを示し、劇的なパープレキシティ低減を実現する。
また、量子トレンピーをフォン・ノイマンエントロピーの双対として定義し、量子系の確実性を定量化する。
関連論文リスト
- ShadowNet for Data-Centric Quantum System Learning [188.683909185536]
本稿では,ニューラルネットワークプロトコルと古典的シャドウの強みを組み合わせたデータ中心学習パラダイムを提案する。
ニューラルネットワークの一般化力に基づいて、このパラダイムはオフラインでトレーニングされ、これまで目に見えないシステムを予測できる。
量子状態トモグラフィーおよび直接忠実度推定タスクにおいて、我々のパラダイムのインスタンス化を示し、60量子ビットまでの数値解析を行う。
論文 参考訳(メタデータ) (2023-08-22T09:11:53Z) - The Expressivity of Classical and Quantum Neural Networks on
Entanglement Entropy [0.3299672391663526]
R'enyi エントロピーのフォン・ノイマンエントロピー(Von Neumann entropy)は、場の量子論において難しい問題である。
教師付き学習を用いた古典的および量子的ニューラルネットワークを用いて,この問題に対処するための一般的な枠組みを提案する。
提案手法はフォン・ノイマンとレーニのエントロピーを数値的に正確に予測できる。
論文 参考訳(メタデータ) (2023-05-01T18:00:01Z) - Quantum Conformal Prediction for Reliable Uncertainty Quantification in
Quantum Machine Learning [47.991114317813555]
量子モデルは暗黙の確率予測器を実装し、測定ショットを通じて各入力に対して複数のランダムな決定を生成する。
本稿では、そのようなランダム性を利用して、モデルの不確実性を確実に捉えることができる分類と回帰の両方の予測セットを定義することを提案する。
論文 参考訳(メタデータ) (2023-04-06T22:05:21Z) - A new entanglement measure based dual entropy [7.95085289592294]
我々はフォン・ノイマンのエントロピーとその補双対に基づく$St$-エントロピーの絡み合いを定義する。
量子エンタングルドネットワークに対する$St$-エントロピーエンタングルメントの観点から、新しいタイプのエンタングルメント不等式を証明した。
論文 参考訳(メタデータ) (2022-04-15T10:08:12Z) - Diagnosis of information scrambling from Hamiltonian evolution under
decoherence [1.5791732557395552]
本稿では,Hayden-Preskillシンキング実験に基づく量子テレポーテーションプロトコルを適用し,量子進化のスクランブルの程度を定量化する。
我々はハミルトン形式論における2つの理論の時間進化を数値的にシミュレートする。
また, ヤン・ミルズ・イシングモデルでは, 遅延時の情報衝突の信号を示す。
論文 参考訳(メタデータ) (2021-03-09T02:14:22Z) - The Hintons in your Neural Network: a Quantum Field Theory View of Deep
Learning [84.33745072274942]
線形および非線形の層をユニタリ量子ゲートとして表現する方法を示し、量子モデルの基本的な励起を粒子として解釈する。
ニューラルネットワークの研究のための新しい視点と技術を開くことに加えて、量子定式化は光量子コンピューティングに適している。
論文 参考訳(メタデータ) (2021-03-08T17:24:29Z) - Single-Atom Verification of the Information-Theoretical Bound of
Irreversibility at the Quantum Level [0.11242503819703256]
量子力学的な方法で、エントロピー生成に関する情報理論境界の第一の理論予測と実験的探索を報告する。
我々の発見は、あらゆる量子熱力学過程の基本であり、従来の古典的熱力学に対する量子熱力学の多くの違いと複雑さを示している。
論文 参考訳(メタデータ) (2020-07-04T07:20:31Z) - Parsimonious neural networks learn interpretable physical laws [77.34726150561087]
本稿では、ニューラルネットワークと進化的最適化を組み合わせたパシモニクスニューラルネットワーク(PNN)を提案し、精度とパシモニクスのバランスをとるモデルを求める。
アプローチのパワーと汎用性は、古典力学のモデルを開発し、基本特性から材料の融解温度を予測することによって実証される。
論文 参考訳(メタデータ) (2020-05-08T16:15:47Z) - Entropy production in the quantum walk [62.997667081978825]
我々は、エントロピー生産の観点から、直線上の離散時間量子ウォークの研究に焦点をあてる。
コインの進化は、ある有効温度で格子とエネルギーを交換するオープンな2段階のシステムとしてモデル化できると論じる。
論文 参考訳(メタデータ) (2020-04-09T23:18:29Z) - Quantum mechanics is *-algebras and tensor networks [1.479413555822768]
情報理論の観点から量子力学の体系的アプローチを提供する。
我々の定式化はただ一つの種類の対象、いわゆる正の *-テンソルしか必要としない。
リアルタイム進化やサーマルシステムなど,さまざまなタイプのモデルが,*テンソルネットワークに変換可能であることを示す。
論文 参考訳(メタデータ) (2020-03-17T22:46:00Z) - Simulation of Thermal Relaxation in Spin Chemistry Systems on a Quantum
Computer Using Inherent Qubit Decoherence [53.20999552522241]
我々は,実世界の量子システムの振舞いをシミュレーションする資源として,キュービットデコヒーレンスを活用することを目指している。
熱緩和を行うための3つの方法を提案する。
結果,実験データ,理論的予測との間には,良好な一致が得られた。
論文 参考訳(メタデータ) (2020-01-03T11:48:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。