論文の概要: Sparse Methods for Automatic Relevance Determination
- arxiv url: http://arxiv.org/abs/2005.08741v1
- Date: Mon, 18 May 2020 14:08:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 23:12:05.813352
- Title: Sparse Methods for Automatic Relevance Determination
- Title(参考訳): 自動関連判定のためのスパース法
- Authors: Samuel H. Rudy and Themistoklis P. Sapsis
- Abstract要約: まず、自動妥当性決定(ARD)について検討し、スパースモデルを実現するために、追加の正規化やしきい値設定の必要性を解析的に実証する。
次に、正規化ベースとしきい値ベースという2つの手法のクラスについて論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work considers methods for imposing sparsity in Bayesian regression with
applications in nonlinear system identification. We first review automatic
relevance determination (ARD) and analytically demonstrate the need to
additional regularization or thresholding to achieve sparse models. We then
discuss two classes of methods, regularization based and thresholding based,
which build on ARD to learn parsimonious solutions to linear problems. In the
case of orthogonal covariates, we analytically demonstrate favorable
performance with regards to learning a small set of active terms in a linear
system with a sparse solution. Several example problems are presented to
compare the set of proposed methods in terms of advantages and limitations to
ARD in bases with hundreds of elements. The aim of this paper is to analyze and
understand the assumptions that lead to several algorithms and to provide
theoretical and empirical results so that the reader may gain insight and make
more informed choices regarding sparse Bayesian regression.
- Abstract(参考訳): 本研究は, ベイズ回帰におけるスパーシティを非線形システム同定に応用するための手法について検討する。
まず,自動関連判定(ard)をレビューし,スパースモデルを達成するために追加の正規化やしきい値化の必要性を解析的に示す。
次に、正規化ベースとしきい値ベースという2つの手法のクラスについて論じる。
直交共変量の場合, スパース解を持つ線形系において, 少数の活性項の学習に関して, 解析的に良好な性能を示す。
提案手法の集合を、数百の要素を持つベースにおけるARDの利点と制限の観点から比較するために、いくつかの例を提示する。
本論文の目的は,複数のアルゴリズムに結びつく仮定を分析し,理解し,理論的および経験的結果を提供することであり,読者はスパースベイズ回帰に関する洞察を得て,よりインフォームドな選択を行うことである。
関連論文リスト
- A New Forward Discriminant Analysis Framework Based On Pillai's Trace and ULDA [6.087464679182875]
本稿では, Pillai のトレースと Uncorrelated Linear Discriminant Analysis (ULDA) を統合し,これらの課題に対処する新しい前方識別分析フレームワークを提案する。
シミュレーションと実世界のデータセットを通じて、新しいフレームワークはタイプIエラー率の効果的な制御と分類精度の向上を示す。
論文 参考訳(メタデータ) (2024-09-05T00:12:15Z) - Actively Learning Combinatorial Optimization Using a Membership Oracle [10.834947136134463]
会員オラクルを用いて未知の線形制約を用いて最適化問題を解くことを検討する。
意思決定者の目標は、オラクルの呼び出し数に関する予算の対象となる最善の解決策を見つけることである。
代用線形制約を学習し、活用することで問題を解決するために、古典的なフレームワークを適応させる。
論文 参考訳(メタデータ) (2024-05-23T01:34:21Z) - Optimal Baseline Corrections for Off-Policy Contextual Bandits [61.740094604552475]
オンライン報酬指標の偏りのないオフライン推定を最適化する意思決定ポリシーを学習することを目指している。
学習シナリオにおける同値性に基づく単一のフレームワークを提案する。
我々のフレームワークは、分散最適非バイアス推定器の特徴付けを可能にし、それに対する閉形式解を提供する。
論文 参考訳(メタデータ) (2024-05-09T12:52:22Z) - Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - On Training Implicit Meta-Learning With Applications to Inductive
Weighing in Consistency Regularization [0.0]
暗黙的メタラーニング(IML)では、特にヘシアン(Hessian)の計算に2ドル(約2,200円)の勾配を必要とする。
ヘッセンの様々な近似が提案されたが、計算コスト、安定性、解の一般化、推定精度の体系的な比較はほとんど見過ごされてしまった。
本稿では,ドメイン固有の特徴を抽出するために,信頼ネットワークをトレーニングすることで,有用画像のアップウェイトや配布外サンプルのダウンウェイトを学べることを示す。
論文 参考訳(メタデータ) (2023-10-28T15:50:03Z) - Making Linear MDPs Practical via Contrastive Representation Learning [101.75885788118131]
マルコフ決定過程(MDP)における次元性の呪いに、低ランク表現を利用することで対処することが一般的である。
本稿では,効率的な表現学習を可能にしつつ,正規化を自動的に保証する線形MDPの代替的定義について考察する。
いくつかのベンチマークにおいて、既存の最先端モデルベースおよびモデルフリーアルゴリズムよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-07-14T18:18:02Z) - Automatic selection of basis-adaptive sparse polynomial chaos expansions
for engineering applications [0.0]
スパースカオス展開のための3つの最新技術に基づく基礎適応的アプローチについて述べる。
我々は,大規模な計算モデルに対して,大域的近似精度の観点から広範なベンチマークを行う。
クロスバリデーションエラーによって導かれる新しい解法と基底適応性選択スキームを導入する。
論文 参考訳(メタデータ) (2020-09-10T12:13:57Z) - Rule-based Bayesian regression [0.90238471756546]
回帰問題に対処する新しいルールベースのアプローチを導入する。
新しい手法は2つの枠組みから成り立っている: (i)ベイズ的推論を用いて利害パラメータの不確実性に関する情報を提供する; (ii)ルールベースのシステムを通じて専門家の知識を組み込むことを可能にする。
論文 参考訳(メタデータ) (2020-08-02T07:20:45Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z) - Saliency-based Weighted Multi-label Linear Discriminant Analysis [101.12909759844946]
複数ラベルの分類課題を解決するために,LDA(Linear Discriminant Analysis)の新たな変種を提案する。
提案手法は,個々の試料の重量を定義する確率モデルに基づく。
サリエンシに基づく重み付きマルチラベル LDA アプローチは,様々なマルチラベル分類問題の性能改善につながることが示されている。
論文 参考訳(メタデータ) (2020-04-08T19:40:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。