Fugu-MT 論文翻訳(概要): Non-Volatile Memory Accelerated Posterior Estimation

論文の概要: Non-Volatile Memory Accelerated Posterior Estimation

arxiv url: http://arxiv.org/abs/2202.10522v1
Date: Mon, 21 Feb 2022 20:25:57 GMT
ステータス: 処理完了
システム内更新日: 2022-02-24 08:24:34.732808
Title: Non-Volatile Memory Accelerated Posterior Estimation
Title（参考訳）: 非揮発性メモリ加速後推定
Authors: Andrew Wood, Moshik Hershcovitch, Daniel Waddington, Sarel Cohen, Peter Chin
Abstract要約: 現在の機械学習モデルは、予測を行う際に単一の学習可能なパラメータの組み合わせのみを使用する。高容量永続ストレージを利用することで、後部分布が大きすぎて近似できないモデルが実現可能であることを示す。
参考スコア（独自算出の注目度）: 3.4256231429537936
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Bayesian inference allows machine learning models to express uncertainty. Current machine learning models use only a single learnable parameter combination when making predictions, and as a result are highly overconfident when their predictions are wrong. To use more learnable parameter combinations efficiently, these samples must be drawn from the posterior distribution. Unfortunately computing the posterior directly is infeasible, so often researchers approximate it with a well known distribution such as a Gaussian. In this paper, we show that through the use of high-capacity persistent storage, models whose posterior distribution was too big to approximate are now feasible, leading to improved predictions in downstream tasks.
Abstract（参考訳）: ベイズ推論は、機械学習モデルが不確実性を表現することを可能にする。現在の機械学習モデルは、予測を行う際に1つの学習可能なパラメータの組み合わせしか使用せず、その結果、予測が間違っていた場合、非常に過大評価される。より学習可能なパラメータの組み合わせを効率的に使用するには、これらのサンプルは後方分布から引き出さなければならない。残念なことに、後部を直接計算することは不可能であるため、研究者はしばしばガウス分布のようなよく知られた分布と近似する。本稿では,高容量の永続ストレージを用いることで,後方分布が大きすぎて近似できないモデルが実現可能となり,下流タスクの予測精度が向上することを示す。

関連論文リスト

Random features models: a way to study the success of naive imputation [0.0]
これは、欠落したデータを扱うための最初の使い易いテクニックである。最近の研究は、このバイアスが高次元線形予測器の文脈で低いことを示唆している。本稿は, 偏見が無視可能であり, 意外なナイーブな計算も極めて低次元で関連している,という直感を裏付けるものである。
論文参考訳（メタデータ） (2024-02-06T09:37:06Z)
Variational Prediction [95.00085314353436]
本稿では,変動境界を用いた後部予測分布に対する変動近似の学習手法を提案する。このアプローチは、テスト時間の限界化コストを伴わずに、優れた予測分布を提供することができる。
論文参考訳（メタデータ） (2023-07-14T18:19:31Z)
Learning Sample Difficulty from Pre-trained Models for Reliable Prediction [55.77136037458667]
本稿では,大規模事前学習モデルを用いて,サンプル難易度を考慮したエントロピー正規化による下流モデルトレーニングを指導する。我々は、挑戦的なベンチマークで精度と不確実性の校正を同時に改善する。
論文参考訳（メタデータ） (2023-04-20T07:29:23Z)
Performative Prediction with Neural Networks [24.880495520422]
パフォーマンス予測は、予測するデータに影響を与えるモデルを学習するためのフレームワークである。繰り返しリスク最小化法を用いて、性能的に安定な分類器を見つけるための標準収束結果は、データの分布がモデルのパラメータに連続であることを仮定する。この研究では、データ分布はモデルの予測に関してリプシッツ連続であると仮定する。
論文参考訳（メタデータ） (2023-04-14T01:12:48Z)
Flat Seeking Bayesian Neural Networks [32.61417343756841]
我々は、シャープネスを意識した後部における理論、ベイズ的設定、および変分推論アプローチを開発する。具体的には、シャープネス認識後部から採取したモデルと、このシャープネス認識後部を推定する最適な近似後部モデルにより、平坦性が向上した。我々は最先端のベイズニューラルネットワークによるシャープネス認識後部を応用して実験を行う。
論文参考訳（メタデータ） (2023-02-06T11:40:44Z)
Imputation-Free Learning from Incomplete Observations [73.15386629370111]
本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
論文参考訳（メタデータ） (2021-07-05T12:44:39Z)
Latent Gaussian Model Boosting [0.0]
ツリーブースティングは多くのデータセットに対して優れた予測精度を示す。シミュレーションおよび実世界のデータ実験において,既存の手法と比較して予測精度が向上した。
論文参考訳（メタデータ） (2021-05-19T07:36:30Z)
Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文参考訳（メタデータ） (2021-04-11T09:50:24Z)
Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文参考訳（メタデータ） (2021-02-22T07:02:37Z)
Curse of Small Sample Size in Forecasting of the Active Cases in COVID-19 Outbreak [0.0]
新型コロナウイルス(COVID-19)のパンデミックでは、感染者数や今後の流行を予想する試みが多数行われている。しかし、信頼性の高い方法では、新型コロナウイルス(COVID-19)の根本的特徴の中期的・長期的進化を許容できる精度で予測することができない。本稿では,この予測問題における機械学習モデルの故障について説明する。
論文参考訳（メタデータ） (2020-11-06T23:13:34Z)
Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文参考訳（メタデータ） (2020-03-10T09:15:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。