論文の概要: Feature-weighted elastic net: using "features of features" for better prediction

• arxiv url: http://arxiv.org/abs/2006.01395v1
• Date: Tue, 2 Jun 2020 05:18:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-25 23:53:47.147416
• Title: Feature-weighted elastic net: using "features of features" for better prediction
• Title（参考訳）: 機能重み付きelastic net:"features of features"を用いた予測の改善
• Authors: J. Kenneth Tay, Nima Aghaeepour, Trevor Hastie, Robert Tibshirani
• Abstract要約: 予測精度を向上させるために追加情報を活用する新しい手法を提案する。 特徴重み付き弾性ネット(fwelnet)と呼ばれるこの手法は、これらの「特徴の特徴」を用いて、弾性ネットペナルティの特徴係数に相対的なペナルティを適応させる。 我々のシミュレーションでは、fwelnetは平均二乗誤差でラッソを上回り、通常、特徴選択に対して真の正の率または偽の正の率を改善する。
• 参考スコア（独自算出の注目度）: 137.6408511310322
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In some supervised learning settings, the practitioner might have additional information on the features used for prediction. We propose a new method which leverages this additional information for better prediction. The method, which we call the feature-weighted elastic net ("fwelnet"), uses these "features of features" to adapt the relative penalties on the feature coefficients in the elastic net penalty. In our simulations, fwelnet outperforms the lasso in terms of test mean squared error and usually gives an improvement in true positive rate or false positive rate for feature selection. We also apply this method to early prediction of preeclampsia, where fwelnet outperforms the lasso in terms of 10-fold cross-validated area under the curve (0.86 vs. 0.80). We also provide a connection between fwelnet and the group lasso and suggest how fwelnet might be used for multi-task learning.
• Abstract（参考訳）: 教師付きの学習環境では、予測に使用する機能に関する追加情報を持つ場合もある。 本稿では,この追加情報を利用した予測手法を提案する。 特徴重み付き弾性ネット(fwelnet)と呼ぶこの手法は、これらの「特徴のフィーチャ」を用いて、弾性ネットペナルティにおける特徴係数に相対的なペナルティを適用する。 我々のシミュレーションでは、fwelnetは平均二乗誤差でラッソを上回り、通常、特徴選択に対して真の正の率または偽の正の率を改善する。 また,この手法を前頭蓋骨の早期予測に適用し,fwelnet は曲線下の10倍の断裂面積 (0.86 対 0.80) でlasso を上回った。 また、fwelnet とグループ lasso の接続も提供し、マルチタスク学習に fwelnet がどのように使われるかを提案する。

関連論文リスト

• Semantic Strengthening of Neuro-Symbolic Learning [85.6195120593625]
  ニューロシンボリックアプローチは一般に確率論的目的のファジィ近似を利用する。 トラクタブル回路において,これを効率的に計算する方法を示す。 我々は,Warcraftにおける最小コストパスの予測,最小コスト完全マッチングの予測,スドクパズルの解法という3つの課題に対して,アプローチを検証した。
  論文  参考訳（メタデータ） (2023-02-28T00:04:22Z)
• Asymptotic Properties for Bayesian Neural Network in Besov Space [1.90365714903665]
  スパイク・アンド・スラブの事前整合性を用いたベイズニューラルネットワークは, 真の回帰関数がベソフ空間にある場合, ほぼ最小収束率を有することを示す。 保証された特性を持つ実用的なニューラルネットワークを提案する。
  論文  参考訳（メタデータ） (2022-06-01T05:47:06Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• A Bayesian Perspective on Training Speed and Model Selection [51.15664724311443]
  モデルのトレーニング速度の測定値を用いて,その限界確率を推定できることを示す。 線形モデルと深部ニューラルネットワークの無限幅限界に対するモデル選択タスクの結果を検証する。 以上の結果から、勾配勾配勾配で訓練されたニューラルネットワークが、一般化する関数に偏りがある理由を説明するための、有望な新たな方向性が示唆された。
  論文  参考訳（メタデータ） (2020-10-27T17:56:14Z)
• Beyond Point Estimate: Inferring Ensemble Prediction Variation from Neuron Activation Strength in Recommender Systems [21.392694985689083]
  Ensemble Methodは、予測不確実性推定のための最先端のベンチマークである。 予測のバリエーションは、様々なランダム性源から生じることを観察する。 本稿では,ニューロンの活性化強度の予測変動を推定し,活性化強度の特徴から強い予測力を示す。
  論文  参考訳（メタデータ） (2020-08-17T00:08:27Z)
• Reachable Sets of Classifiers and Regression Models: (Non-)Robustness Analysis and Robust Training [1.0878040851638]
  分類器と回帰モデルの両方の頑健性特性を解析・拡張する。 具体的には、(非)難易度を検証し、堅牢なトレーニング手順を提案し、我々のアプローチが敵攻撃よりも優れていることを示す。 第2に、ラベル付けされていない入力に対する信頼できない予測と信頼できない予測を区別し、各特徴が予測に与える影響を定量化し、特徴ランキングを計算する技術を提供する。
  論文  参考訳（メタデータ） (2020-07-28T10:58:06Z)
• Consistent feature selection for neural networks via Adaptive Group Lasso [3.42658286826597]
  ニューラルネットワークの重要な特徴を選択するための適応型グループの使用に関する理論的保証を提案し,確立する。 具体的には,1つの隠蔽層と双曲的タンジェント活性化関数を持つ単一出力フィードフォワードニューラルネットワークに対して,特徴選択法が整合であることを示す。
  論文  参考訳（メタデータ） (2020-05-30T18:50:56Z)
• Learning to Ask Medical Questions using Reinforcement Learning [9.376814468000955]
  強化学習エージェントは、アンマストすべき特定の特徴を反復的に選択し、十分な自信のある結果を予測する。 提案手法の重要な構成要素は、選択した特徴から得られる結果を予測し、報酬関数をパラメータ化するように訓練された推測ネットワークである。 本手法を全国調査データセットに適用することにより,少数の入力特徴に基づいて予測を行う必要のある場合,高いベースラインを達成できるだけでなく,解釈性も高いことを示す。
  論文  参考訳（メタデータ） (2020-03-31T18:21:46Z)
• Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
  類似サンプル間の予測分布を解析する新しい正規化法を提案する。 これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。 画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-31T06:03:51Z)
• Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
  ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。 また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
  論文  参考訳（メタデータ） (2020-02-20T15:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。