論文の概要: Sparse Methods for Automatic Relevance Determination
- arxiv url: http://arxiv.org/abs/2005.08741v1
- Date: Mon, 18 May 2020 14:08:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 23:12:05.813352
- Title: Sparse Methods for Automatic Relevance Determination
- Title(参考訳): 自動関連判定のためのスパース法
- Authors: Samuel H. Rudy and Themistoklis P. Sapsis
- Abstract要約: まず、自動妥当性決定(ARD)について検討し、スパースモデルを実現するために、追加の正規化やしきい値設定の必要性を解析的に実証する。
次に、正規化ベースとしきい値ベースという2つの手法のクラスについて論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work considers methods for imposing sparsity in Bayesian regression with
applications in nonlinear system identification. We first review automatic
relevance determination (ARD) and analytically demonstrate the need to
additional regularization or thresholding to achieve sparse models. We then
discuss two classes of methods, regularization based and thresholding based,
which build on ARD to learn parsimonious solutions to linear problems. In the
case of orthogonal covariates, we analytically demonstrate favorable
performance with regards to learning a small set of active terms in a linear
system with a sparse solution. Several example problems are presented to
compare the set of proposed methods in terms of advantages and limitations to
ARD in bases with hundreds of elements. The aim of this paper is to analyze and
understand the assumptions that lead to several algorithms and to provide
theoretical and empirical results so that the reader may gain insight and make
more informed choices regarding sparse Bayesian regression.
- Abstract(参考訳): 本研究は, ベイズ回帰におけるスパーシティを非線形システム同定に応用するための手法について検討する。
まず,自動関連判定(ard)をレビューし,スパースモデルを達成するために追加の正規化やしきい値化の必要性を解析的に示す。
次に、正規化ベースとしきい値ベースという2つの手法のクラスについて論じる。
直交共変量の場合, スパース解を持つ線形系において, 少数の活性項の学習に関して, 解析的に良好な性能を示す。
提案手法の集合を、数百の要素を持つベースにおけるARDの利点と制限の観点から比較するために、いくつかの例を提示する。
本論文の目的は,複数のアルゴリズムに結びつく仮定を分析し,理解し,理論的および経験的結果を提供することであり,読者はスパースベイズ回帰に関する洞察を得て,よりインフォームドな選択を行うことである。
関連論文リスト
- Synergistic eigenanalysis of covariance and Hessian matrices for
enhanced binary classification [75.90957645766676]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
我々のアプローチは、クラス間の平均距離を最大化し、クラス内の分散を最小化する能力を確立する形式的な証明によって裏付けられている。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - On Training Implicit Meta-Learning With Applications to Inductive
Weighing in Consistency Regularization [0.0]
暗黙的メタラーニング(IML)では、特にヘシアン(Hessian)の計算に2ドル(約2,200円)の勾配を必要とする。
ヘッセンの様々な近似が提案されたが、計算コスト、安定性、解の一般化、推定精度の体系的な比較はほとんど見過ごされてしまった。
本稿では,ドメイン固有の特徴を抽出するために,信頼ネットワークをトレーニングすることで,有用画像のアップウェイトや配布外サンプルのダウンウェイトを学べることを示す。
論文 参考訳(メタデータ) (2023-10-28T15:50:03Z) - Robust identification of non-autonomous dynamical systems using
stochastic dynamics models [0.0]
本稿では, 非線形・非線形非自律系における雑音・スパースデータからのシステム識別(ID)の問題について考察する。
隠れマルコフモデル学習のためのベイズ式から導かれる目的関数を提案し,解析する。
提案手法は,システムIDに適合するスムーズさと本質的な正規化を改善したことを示す。
論文 参考訳(メタデータ) (2022-12-20T16:36:23Z) - Making Linear MDPs Practical via Contrastive Representation Learning [101.75885788118131]
マルコフ決定過程(MDP)における次元性の呪いに、低ランク表現を利用することで対処することが一般的である。
本稿では,効率的な表現学習を可能にしつつ,正規化を自動的に保証する線形MDPの代替的定義について考察する。
いくつかのベンチマークにおいて、既存の最先端モデルベースおよびモデルフリーアルゴリズムよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-07-14T18:18:02Z) - Efficient and Near-Optimal Smoothed Online Learning for Generalized
Linear Functions [28.30744223973527]
我々は,K-wise線形分類において,統計学的に最適なログ(T/sigma)の後悔を初めて楽しむ計算効率のよいアルゴリズムを提案する。
一般化線形分類器によって誘導される不一致領域の幾何学の新たな特徴付けを開発する。
論文 参考訳(メタデータ) (2022-05-25T21:31:36Z) - Risk Consistent Multi-Class Learning from Label Proportions [64.0125322353281]
本研究は,バッグにトレーニングインスタンスを提供するMCLLP設定によるマルチクラス学習に対処する。
既存のほとんどのMCLLPメソッドは、インスタンスの予測や擬似ラベルの割り当てにバッグワイズな制約を課している。
経験的リスク最小化フレームワークを用いたリスク一貫性手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T03:49:04Z) - Automatic selection of basis-adaptive sparse polynomial chaos expansions
for engineering applications [0.0]
スパースカオス展開のための3つの最新技術に基づく基礎適応的アプローチについて述べる。
我々は,大規模な計算モデルに対して,大域的近似精度の観点から広範なベンチマークを行う。
クロスバリデーションエラーによって導かれる新しい解法と基底適応性選択スキームを導入する。
論文 参考訳(メタデータ) (2020-09-10T12:13:57Z) - Rule-based Bayesian regression [0.90238471756546]
回帰問題に対処する新しいルールベースのアプローチを導入する。
新しい手法は2つの枠組みから成り立っている: (i)ベイズ的推論を用いて利害パラメータの不確実性に関する情報を提供する; (ii)ルールベースのシステムを通じて専門家の知識を組み込むことを可能にする。
論文 参考訳(メタデータ) (2020-08-02T07:20:45Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z) - Saliency-based Weighted Multi-label Linear Discriminant Analysis [101.12909759844946]
複数ラベルの分類課題を解決するために,LDA(Linear Discriminant Analysis)の新たな変種を提案する。
提案手法は,個々の試料の重量を定義する確率モデルに基づく。
サリエンシに基づく重み付きマルチラベル LDA アプローチは,様々なマルチラベル分類問題の性能改善につながることが示されている。
論文 参考訳(メタデータ) (2020-04-08T19:40:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。