Fugu-MT 論文翻訳(概要): Deviation bound for non-causal machine learning

論文の概要: Deviation bound for non-causal machine learning

arxiv url: http://arxiv.org/abs/2009.08905v2
Date: Fri, 19 Mar 2021 16:55:42 GMT
ステータス: 処理完了
システム内更新日: 2022-10-17 02:40:38.574312
Title: Deviation bound for non-causal machine learning
Title（参考訳）: 非因果機械学習における偏差
Authors: R\'emy Garnier and Rapha\"el Langhendries
Abstract要約: 集中不等式は機械学習アルゴリズムの分析に広く用いられている。現在の濃度不等式は、最も人気のあるディープニューラルネットワークの一部には適用できない。本稿では,非因果確率場をモデル化するためのフレームワークを提供し,このフレームワークに対してHoeffding型濃度不等式を求める。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Concentration inequalities are widely used for analyzing machine learning algorithms. However, current concentration inequalities cannot be applied to some of the most popular deep neural networks, notably in natural language processing. This is mostly due to the non-causal nature of such involved data, in the sense that each data point depends on other neighbor data points. In this paper, a framework for modeling non-causal random fields is provided and a Hoeffding-type concentration inequality is obtained for this framework. The proof of this result relies on a local approximation of the non-causal random field by a function of a finite number of i.i.d. random variables.
Abstract（参考訳）: 集中不等式は機械学習アルゴリズムの分析に広く用いられている。しかし、現在の濃度不等式は、特に自然言語処理において、最も人気のあるディープニューラルネットワークには適用できない。これは主に、各データポイントが他の隣接データポイントに依存するという意味で、関連するデータの非因果性に起因する。本稿では,非因果確率場をモデル化するための枠組みを提供し,ホッフィング型濃度不等式を求める。この結果の証明は、有限個のi.i.d.確率変数の関数による非コーサル確率場の局所近似に依存する。

関連論文リスト

Universal approximation property of Banach space-valued random feature models including random neural networks [3.3379026542599934]
ランダムな特徴学習におけるバナッハ空間値の拡張を提案する。特徴マップをランダムに初期化することにより、線形読み出しのみをトレーニングする必要がある。我々は、与えられたバナッハ空間の要素を学ぶための近似率と明示的なアルゴリズムを導出する。
論文参考訳（メタデータ） (2023-12-13T11:27:15Z)
Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
論文参考訳（メタデータ） (2023-06-04T02:32:12Z)
Rough Randomness and its Application [0.0]
本研究の目的は、さまざまな粗いプロセスを捕捉し、関連するモデルを構築し、他の機械学習アルゴリズムの有効性を探ることである。大心的推論と呼ばれる乱数関数のクラスは、これらに中心的な役割を果たす。
論文参考訳（メタデータ） (2023-03-21T12:22:33Z)
Learning to Bound Counterfactual Inference in Structural Causal Models from Observational and Randomised Data [64.96984404868411]
我々は、従来のEMベースのアルゴリズムを拡張するための全体的なデータの特徴付けを導出する。新しいアルゴリズムは、そのような混合データソースからモデルパラメータの(不特定性)領域を近似することを学ぶ。反実的な結果に間隔近似を与え、それが特定可能な場合の点に崩壊する。
論文参考訳（メタデータ） (2022-12-06T12:42:11Z)
Mean-field neural networks: learning mappings on Wasserstein space [0.0]
確率測度のワッサーシュタイン空間と関数の空間を対応づけたモデルに対する機械学習タスクについて検討する。ニューラルネットワークの2つのクラスは、いわゆる平均場関数を学習するために提案される。本稿では,時間依存型平均場問題の解法として,平均場ニューラルネットワークを用いたアルゴリズムを提案する。
論文参考訳（メタデータ） (2022-10-27T05:11:42Z)
Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。多くの近似法が開発されており、必然的に近似誤差を導入している。この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文参考訳（メタデータ） (2022-05-30T22:16:25Z)
The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文参考訳（メタデータ） (2022-03-02T13:59:20Z)
The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文参考訳（メタデータ） (2021-07-31T10:25:26Z)
Decentralized Local Stochastic Extra-Gradient for Variational Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文参考訳（メタデータ） (2021-06-15T17:45:51Z)
Hyperdimensional Computing for Efficient Distributed Classification with Randomized Neural Networks [5.942847925681103]
本研究では,データを中央に保存することも共有することもできない状況下で利用できる分散分類について検討する。ローカルな分類器を他のエージェントと共有する場合に、ロッキーな圧縮アプローチを適用することにより、分散分類のためのより効率的な解を提案する。
論文参考訳（メタデータ） (2021-06-02T01:33:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。