Fugu-MT 論文翻訳(概要): Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning

論文の概要: Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning

arxiv url: http://arxiv.org/abs/2109.13232v1
Date: Sat, 25 Sep 2021 23:02:47 GMT
ステータス: 処理完了
システム内更新日: 2021-09-29 14:57:10.776029
Title: Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning
Title（参考訳）: 大規模ベイズ推論と逆機械学習への貢献
Authors: V\'ictor Gallego
Abstract要約: ML手法の急速な採用により、モデルは通常、予測の不確実性を考慮せずに決定を下すために採用されていることが明らかになった。我々は,予測的説明の不確実性を考慮したMLシステムの開発が現実のタスクにとって必須であると考えている。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The rampant adoption of ML methodologies has revealed that models are usually adopted to make decisions without taking into account the uncertainties in their predictions. More critically, they can be vulnerable to adversarial examples. Thus, we believe that developing ML systems that take into account predictive uncertainties and are robust against adversarial examples is a must for critical, real-world tasks. We start with a case study in retailing. We propose a robust implementation of the Nerlove-Arrow model using a Bayesian structural time series model. Its Bayesian nature facilitates incorporating prior information reflecting the manager's views, which can be updated with relevant data. However, this case adopted classical Bayesian techniques, such as the Gibbs sampler. Nowadays, the ML landscape is pervaded with neural networks and this chapter also surveys current developments in this sub-field. Then, we tackle the problem of scaling Bayesian inference to complex models and large data regimes. In the first part, we propose a unifying view of two different Bayesian inference algorithms, Stochastic Gradient Markov Chain Monte Carlo (SG-MCMC) and Stein Variational Gradient Descent (SVGD), leading to improved and efficient novel sampling schemes. In the second part, we develop a framework to boost the efficiency of Bayesian inference in probabilistic models by embedding a Markov chain sampler within a variational posterior approximation. After that, we present an alternative perspective on adversarial classification based on adversarial risk analysis, and leveraging the scalable Bayesian approaches from chapter 2. In chapter 4 we turn to reinforcement learning, introducing Threatened Markov Decision Processes, showing the benefits of accounting for adversaries in RL while the agent learns.
Abstract（参考訳）: ml方法論の急速な採用により、モデルは通常、予測の不確実性を考慮することなく、意思決定に採用されることが明らかになった。より批判的に、それらは敵の例に弱い可能性がある。したがって、予測の不確実性を考慮し、敵の例に対して堅牢なMLシステムの開発は、クリティカルで現実的なタスクにとって必須であると考えている。まずは小売業のケーススタディから始める。ベイズ構造時系列モデルを用いたNerlove-Arrowモデルのロバストな実装を提案する。そのベイズ的性質は、管理者の見解を反映した事前情報を取り入れやすく、関連するデータで更新することができる。しかし、このケースではギブスサンプリングのような古典的ベイズ技法が採用された。現在、MLのランドスケープにはニューラルネットワークが浸透しており、この章では、このサブフィールドにおける現在の開発状況も調査している。次に,ベイズ推論を複雑なモデルや大規模データレジームにスケールする問題に取り組む。まず,SG-MCMC (Stochastic Gradient Markov Chain Monte Carlo) とSVGD (Stein Variational Gradient Descent) の2つの異なるベイズ的推論アルゴリズムの統一的なビューを提案し,改良的で効率的な新規サンプリング手法を提案する。第2部では,マルコフ連鎖サンプリング器を後方近似に埋め込むことにより,確率モデルにおけるベイズ推定の効率を向上する枠組みを開発する。その後,敵のリスク分析に基づく敵の分類に関する別の視点を示し,第2章のスケーラブルベイズ的アプローチを活用する。第4章では、強化学習に転換し、エージェントが学習している間にRLの敵に対する説明の利点を示す。

関連論文リスト

Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
論文参考訳（メタデータ） (2024-11-21T17:46:55Z)
Variational Bayesian Bow tie Neural Networks with Shrinkage [0.276240219662896]
我々は、標準フィードフォワード修正ニューラルネットワークの緩和版を構築した。我々は、条件付き線形およびガウス的モデルをレンダリングするために、Polya-Gammaデータ拡張トリックを用いる。層間における分布仮定や独立性を回避する変分推論アルゴリズムを導出する。
論文参考訳（メタデータ） (2024-11-17T17:36:30Z)
A Bayesian Approach to Data Point Selection [24.98069363998565]
データポイントの選択(DPS)は、ディープラーニングにおいて重要なトピックになりつつある。既存のDPSへのアプローチは、主にバイレベル最適化(BLO)の定式化に基づいている。 DPSに対する新しいベイズ的アプローチを提案する。
論文参考訳（メタデータ） (2024-11-06T09:04:13Z)
Do Bayesian Variational Autoencoders Know What They Don't Know? [0.6091702876917279]
OoD(Out-of-Distribution)入力を検出する問題は、ディープニューラルネットワークにとって最重要課題である。入力の密度を推定できる深部生成モデルでさえ、信頼できない可能性があることが以前に示されている。本稿では,マルコフ連鎖モンテカルロ,バックプロパゲーションによるベイズ勾配,およびウェイト平均ガウスの3つの推論手法について検討する。
論文参考訳（メタデータ） (2022-12-29T11:48:01Z)
BayesCap: Bayesian Identity Cap for Calibrated Uncertainty in Frozen Neural Networks [50.15201777970128]
本研究では,凍結モデルに対するベイズIDマッピングを学習し,不確実性の推定を可能にするBayesCapを提案する。 BayesCapは、元のデータセットのごく一部でトレーニングできる、メモリ効率のよいメソッドである。本稿では,多種多様なアーキテクチャを用いた多種多様なタスクに対する本手法の有効性を示す。
論文参考訳（メタデータ） (2022-07-14T12:50:09Z)
Rethinking Bayesian Learning for Data Analysis: The Art of Prior and Inference in Sparsity-Aware Modeling [20.296566563098057]
信号処理と機械学習のためのスパースモデリングは、20年以上にわたって科学研究の焦点となっている。本稿では,3つの一般的なデータモデリングツールにスパーシティ・プロモーティング・プリエントを組み込むことの最近の進歩を概観する。
論文参考訳（メタデータ） (2022-05-28T00:43:52Z)
Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文参考訳（メタデータ） (2021-10-24T07:58:13Z)
$\beta$-Cores: Robust Large-Scale Bayesian Data Summarization in the Presence of Outliers [14.918826474979587]
古典的ベイズ推定の質は、観測結果が推定データ生成モデルに適合するかどうかに大きく依存する。本稿では,大容量データセットに同時スケール可能な変分推論手法を提案する。多様なシミュレーションおよび実データ、および様々な統計モデルにおいて、我々のアプローチの適用性について説明する。
論文参考訳（メタデータ） (2020-08-31T13:47:12Z)
Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文参考訳（メタデータ） (2020-06-26T13:50:19Z)
Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文参考訳（メタデータ） (2020-02-20T15:13:27Z)
Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
論文参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。