論文の概要: A Locally Adaptive Interpretable Regression
- arxiv url: http://arxiv.org/abs/2005.03350v4
- Date: Thu, 28 Apr 2022 05:30:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-05 22:22:03.303139
- Title: A Locally Adaptive Interpretable Regression
- Title(参考訳): 局所適応型解釈可能な回帰
- Authors: Lkhagvadorj Munkhdalai, Tsendsuren Munkhdalai and Keun Ho Ryu
- Abstract要約: 線形回帰は最も解釈可能な予測モデルの一つである。
本稿では,局所適応型解釈型回帰(LoAIR)を導入する。
我々のモデルは、他の最先端のベースラインと同等またはより良い予測性能を達成する。
- 参考スコア(独自算出の注目度): 7.4267694612331905
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning models with both good predictability and high
interpretability are crucial for decision support systems. Linear regression is
one of the most interpretable prediction models. However, the linearity in a
simple linear regression worsens its predictability. In this work, we introduce
a locally adaptive interpretable regression (LoAIR). In LoAIR, a metamodel
parameterized by neural networks predicts percentile of a Gaussian distribution
for the regression coefficients for a rapid adaptation. Our experimental
results on public benchmark datasets show that our model not only achieves
comparable or better predictive performance than the other state-of-the-art
baselines but also discovers some interesting relationships between input and
target variables such as a parabolic relationship between CO2 emissions and
Gross National Product (GNP). Therefore, LoAIR is a step towards bridging the
gap between econometrics, statistics, and machine learning by improving the
predictive ability of linear regression without depreciating its
interpretability.
- Abstract(参考訳): 優れた予測可能性と高い解釈性を持つ機械学習モデルは、意思決定支援システムにとって不可欠である。
線形回帰は最も解釈可能な予測モデルの一つである。
しかし、単純な線形回帰における線形性は予測可能性を悪化させる。
本研究では,局所適応型解釈型回帰(LoAIR)を導入する。
loairでは、ニューラルネットワークによってパラメータ化されたメタモデルは、高速適応のための回帰係数に対するガウス分布のパーセンタイルを予測する。
公開ベンチマークデータセットによる実験結果から,我々のモデルは,他の最先端ベースラインと同等あるいは優れた予測性能を達成できるだけでなく,CO2排出量とGross National Product(GNP)との放物的関係など,入力変数とターゲット変数のいくつかの興味深い関係を見出した。
したがって、loairは、線形回帰の予測能力を改善して、その解釈性を損なうことなく、計量学、統計学、機械学習のギャップを埋めるためのステップである。
関連論文リスト
- Adaptive Optimization for Prediction with Missing Data [6.800113478497425]
適応線形回帰モデルの中には,命令規則と下流線形回帰モデルを同時に学習するのと等価なものもある。
ランダムにデータの欠落が強くない環境では,本手法はサンプル外精度を2~10%向上させる。
論文 参考訳(メタデータ) (2024-02-02T16:35:51Z) - Out of the Ordinary: Spectrally Adapting Regression for Covariate Shift [12.770658031721435]
本稿では,学習前のニューラル回帰モデルの最後の層の重みを適応させて,異なる分布から得られる入力データを改善する手法を提案する。
本稿では,この軽量なスペクトル適応手法により,合成および実世界のデータセットの分布外性能が向上することを示す。
論文 参考訳(メタデータ) (2023-12-29T04:15:58Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Engression: Extrapolation through the Lens of Distributional Regression [2.519266955671697]
我々は、エングレースと呼ばれるニューラルネットワークに基づく分布回帰手法を提案する。
エングレスモデル(engression model)は、適合した条件分布からサンプリングできるという意味で生成され、高次元結果にも適している。
一方、最小二乗法や量子回帰法のような従来の回帰手法は、同じ仮定の下では不十分である。
論文 参考訳(メタデータ) (2023-07-03T08:19:00Z) - Kalman Filter for Online Classification of Non-Stationary Data [101.26838049872651]
オンライン連続学習(OCL)では、学習システムはデータのストリームを受け取り、予測とトレーニングの手順を順次実行する。
本稿では,線形予測量に対するニューラル表現と状態空間モデルを用いた確率ベイズオンライン学習モデルを提案する。
多クラス分類の実験では、モデルの予測能力と非定常性を捉える柔軟性を示す。
論文 参考訳(メタデータ) (2023-06-14T11:41:42Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。
両世界の力を生かすために,我々は新しいX-モデルを提案する。
X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
論文 参考訳(メタデータ) (2021-10-09T13:56:48Z) - Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing
Regressions In NLP Model Updates [68.09049111171862]
この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。
回帰フリーモデル更新を制約付き最適化問題に定式化する。
モデルアンサンブルが回帰を減らす方法を実証的に分析します。
論文 参考訳(メタデータ) (2021-05-07T03:33:00Z) - Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware
Regression [91.3373131262391]
不確かさが唯一の確実性である。
伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。
現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
論文 参考訳(メタデータ) (2021-03-25T06:56:09Z) - Causality-aware counterfactual confounding adjustment as an alternative
to linear residualization in anticausal prediction tasks based on linear
learners [14.554818659491644]
反因果予測タスクにおける因果関係を考慮した共起調整に対する線形残差化手法の比較を行った。
線形学習者の予測性能において,因果認識アプローチは(漸近的に)残留化調整に優れる傾向があることを示す。
論文 参考訳(メタデータ) (2020-11-09T17:59:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。