論文の概要: Feature-weighted elastic net: using "features of features" for better prediction

• arxiv url: http://arxiv.org/abs/2006.01395v1
• Date: Tue, 2 Jun 2020 05:18:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-25 23:53:47.147416
• Title: Feature-weighted elastic net: using "features of features" for better prediction
• Title（参考訳）: 機能重み付きelastic net:"features of features"を用いた予測の改善
• Authors: J. Kenneth Tay, Nima Aghaeepour, Trevor Hastie, Robert Tibshirani
• Abstract要約: 予測精度を向上させるために追加情報を活用する新しい手法を提案する。 特徴重み付き弾性ネット(fwelnet)と呼ばれるこの手法は、これらの「特徴の特徴」を用いて、弾性ネットペナルティの特徴係数に相対的なペナルティを適応させる。 我々のシミュレーションでは、fwelnetは平均二乗誤差でラッソを上回り、通常、特徴選択に対して真の正の率または偽の正の率を改善する。
• 参考スコア（独自算出の注目度）: 137.6408511310322
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In some supervised learning settings, the practitioner might have additional information on the features used for prediction. We propose a new method which leverages this additional information for better prediction. The method, which we call the feature-weighted elastic net ("fwelnet"), uses these "features of features" to adapt the relative penalties on the feature coefficients in the elastic net penalty. In our simulations, fwelnet outperforms the lasso in terms of test mean squared error and usually gives an improvement in true positive rate or false positive rate for feature selection. We also apply this method to early prediction of preeclampsia, where fwelnet outperforms the lasso in terms of 10-fold cross-validated area under the curve (0.86 vs. 0.80). We also provide a connection between fwelnet and the group lasso and suggest how fwelnet might be used for multi-task learning.
• Abstract（参考訳）: 教師付きの学習環境では、予測に使用する機能に関する追加情報を持つ場合もある。 本稿では,この追加情報を利用した予測手法を提案する。 特徴重み付き弾性ネット(fwelnet)と呼ぶこの手法は、これらの「特徴のフィーチャ」を用いて、弾性ネットペナルティにおける特徴係数に相対的なペナルティを適用する。 我々のシミュレーションでは、fwelnetは平均二乗誤差でラッソを上回り、通常、特徴選択に対して真の正の率または偽の正の率を改善する。 また,この手法を前頭蓋骨の早期予測に適用し,fwelnet は曲線下の10倍の断裂面積 (0.86 対 0.80) でlasso を上回った。 また、fwelnet とグループ lasso の接続も提供し、マルチタスク学習に fwelnet がどのように使われるかを提案する。

関連論文リスト

• Elastic Representation: Mitigating Spurious Correlations for Group Robustness [24.087096334524077]
  ディープラーニングモデルは、入力特徴とラベルの急激な相関に依存する場合、深刻なパフォーマンス劣化に悩まされる可能性がある。 ニューラルネットワークの最後の層からの表現に対して,核とフロベニウスの法則を課すことで特徴を学習するための弾性表現(ElRep)を提案する。
  論文  参考訳（メタデータ） (2025-02-14T01:25:27Z)
• Beyond the Power Law: Estimation, Goodness-of-Fit, and a Semiparametric Extension in Complex Networks [0.0]
  ベイズ推定法を導入し,従来の手法よりも精度の高い推定値を求める。 また,Kolmogorov-Smirnov 試験の有効性を向上させるため,新しい適合性試験の評価を行った。
  論文  参考訳（メタデータ） (2023-11-19T02:26:16Z)
• Semantic Strengthening of Neuro-Symbolic Learning [85.6195120593625]
  ニューロシンボリックアプローチは一般に確率論的目的のファジィ近似を利用する。 トラクタブル回路において,これを効率的に計算する方法を示す。 我々は,Warcraftにおける最小コストパスの予測,最小コスト完全マッチングの予測,スドクパズルの解法という3つの課題に対して,アプローチを検証した。
  論文  参考訳（メタデータ） (2023-02-28T00:04:22Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Regularizing Explanations in Bayesian Convolutional Neural Networks [0.4538232180176148]
  ベイズ推論に適合する新しい説明正規化法を提案する。 提案手法は,モデルが刺激的特徴に過度に適合する場合や,どの特徴に着目すべきか不確実な場合,予測性能を向上させる。
  論文  参考訳（メタデータ） (2021-04-29T13:59:21Z)
• A Bayesian Perspective on Training Speed and Model Selection [51.15664724311443]
  モデルのトレーニング速度の測定値を用いて,その限界確率を推定できることを示す。 線形モデルと深部ニューラルネットワークの無限幅限界に対するモデル選択タスクの結果を検証する。 以上の結果から、勾配勾配勾配で訓練されたニューラルネットワークが、一般化する関数に偏りがある理由を説明するための、有望な新たな方向性が示唆された。
  論文  参考訳（メタデータ） (2020-10-27T17:56:14Z)
• Beyond Point Estimate: Inferring Ensemble Prediction Variation from Neuron Activation Strength in Recommender Systems [21.392694985689083]
  Ensemble Methodは、予測不確実性推定のための最先端のベンチマークである。 予測のバリエーションは、様々なランダム性源から生じることを観察する。 本稿では,ニューロンの活性化強度の予測変動を推定し,活性化強度の特徴から強い予測力を示す。
  論文  参考訳（メタデータ） (2020-08-17T00:08:27Z)
• Consistent feature selection for neural networks via Adaptive Group Lasso [3.42658286826597]
  ニューラルネットワークの重要な特徴を選択するための適応型グループの使用に関する理論的保証を提案し,確立する。 具体的には,1つの隠蔽層と双曲的タンジェント活性化関数を持つ単一出力フィードフォワードニューラルネットワークに対して,特徴選択法が整合であることを示す。
  論文  参考訳（メタデータ） (2020-05-30T18:50:56Z)
• Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
  類似サンプル間の予測分布を解析する新しい正規化法を提案する。 これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。 画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-31T06:03:51Z)
• Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
  ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。 また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
  論文  参考訳（メタデータ） (2020-02-20T15:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。