Fugu-MT 論文翻訳(概要): VIB is Half Bayes

論文の概要: VIB is Half Bayes

arxiv url: http://arxiv.org/abs/2011.08711v1
Date: Tue, 17 Nov 2020 15:36:35 GMT
ステータス: 処理完了
システム内更新日: 2022-09-24 16:02:14.818717
Title: VIB is Half Bayes
Title（参考訳）: vibは半分ベイです
Authors: Alexander A Alemi and Warren R Morningstar and Ben Poole and Ian Fischer and Joshua V Dillon
Abstract要約: 変分情報ボトルネックは, 完全経験的目標と完全ベイズ的目標との妥協と見なすことができる。このアプローチはベイズの利点のいくつかを提供する一方で、一部の作業しか必要としない、と私たちは主張する。
参考スコア（独自算出の注目度）: 80.3767111908235
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In discriminative settings such as regression and classification there are two random variables at play, the inputs X and the targets Y. Here, we demonstrate that the Variational Information Bottleneck can be viewed as a compromise between fully empirical and fully Bayesian objectives, attempting to minimize the risks due to finite sampling of Y only. We argue that this approach provides some of the benefits of Bayes while requiring only some of the work.
Abstract（参考訳）: ここでは,Y の有限サンプリングによるリスクを最小限に抑えつつ,完全経験的目的と完全ベイズ的目的との妥協として変分情報ボットネックを解釈できることを実証する。このアプローチはベイズの利点のいくつかを提供する一方で、一部の作業しか必要としないと主張する。

関連論文リスト

Minimax Optimal Fair Classification with Bounded Demographic Disparity [28.936244976415484]
本稿では,2つの保護群による公正二項分類の統計的基礎について考察する。有限サンプルを用いると、グループ固有の受容閾値を推定する必要があるため、追加のコストが発生することを示す。オフセットを持つグループワイドしきい値法であるFairBayes-DDP+を提案する。
論文参考訳（メタデータ） (2024-03-27T02:59:04Z)
Adaptive importance sampling for heavy-tailed distributions via $\alpha$-divergence minimization [2.879807093604632]
提案手法は,学生の提案分布からターゲットを近似するAISアルゴリズムを提案する。我々は、目標と提案の護衛モーメントを一致させて、位置とスケールパラメータを適応させる。これらの更新は、ターゲットと提案の間の$alpha$-divergenceを最小化し、変動推論と接続する。
論文参考訳（メタデータ） (2023-10-25T14:07:08Z)
Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation [86.8475564814154]
制約付き最適化問題を直接実行することは可能かつ有益であることを示す。メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。
論文参考訳（メタデータ） (2023-09-29T21:23:27Z)
Optimal Representations for Covariate Shift [18.136705088756138]
リスク最小化が堅牢であることが保証されるすべての表現の集合を最適とする単純な変分対象を導入する。我々の目標は、DomainBedにおける最先端の成果を達成し、CLIPのような最近の手法の堅牢性に関する洞察を提供する。
論文参考訳（メタデータ） (2021-12-31T21:02:24Z)
Diverse, Global and Amortised Counterfactual Explanations for Uncertainty Estimates [31.241489953967694]
このような集合の多様性を研究し、多くの CLUE が冗長であることを示す。そこで我々は,不確実な入力の特定のグループに対する償却写像を学習する,GLobal AMortized CLUE (GLAM-CLUE) を提案する。実験の結果,$delta$-CLUE,$nabla$-CLUE,およびGLAM-CLUEはすべて,CLUEの欠点に対処し,不確実性推定を実践者に有益に説明できることを示した。
論文参考訳（メタデータ） (2021-12-05T18:27:21Z)
A Bayesian Framework for Information-Theoretic Probing [51.98576673620385]
我々は、探索は相互情報を近似するものとみなすべきであると論じる。これは、表現が元の文とターゲットタスクに関する全く同じ情報をエンコードしているというかなり直感的な結論を導いた。本稿では,ベイズ的相互情報(Bayesian mutual information)と呼ぶものを測定するための新しい枠組みを提案する。
論文参考訳（メタデータ） (2021-09-08T18:08:36Z)
KL Guided Domain Adaptation [88.19298405363452]
ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
論文参考訳（メタデータ） (2021-06-14T22:24:23Z)
A Variational Inequality Approach to Bayesian Regression Games [90.79402153164587]
我々は凸類の一意性の存在を証明し、それを滑らかなコスト関数に一般化する。必然的に強い収束で解くための2つの簡単なアルゴリズムを提供する。
論文参考訳（メタデータ） (2021-03-24T22:33:11Z)
A One-step Approach to Covariate Shift Adaptation [82.01909503235385]
多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。予測モデルと関連する重みを1つの最適化で共同で学習する新しいワンステップアプローチを提案する。
論文参考訳（メタデータ） (2020-07-08T11:35:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。