論文の概要: Safe RuleFit: Learning Optimal Sparse Rule Model by Meta Safe Screening
- arxiv url: http://arxiv.org/abs/1810.01683v2
- Date: Wed, 12 Mar 2025 05:59:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-13 15:37:35.789109
- Title: Safe RuleFit: Learning Optimal Sparse Rule Model by Meta Safe Screening
- Title(参考訳): Safe RuleFit:メタセーフスクリーニングによる最適スパースルールモデル学習
- Authors: Hiroki Kato, Hiroyuki Hanada, Ichiro Takeuchi,
- Abstract要約: スパースルールモデル(sparse rule model)は,ルールのスパース線形結合の形での予測モデルである。
このような規則の数は極端に多いため、最適な一連のアクティブな規則を計算的に選択することは困難である。
我々は、よく知られた安全なスクリーニング手法の非自明な拡張であるSafe RuleFit (SRF)を提案する。
- 参考スコア(独自算出の注目度): 19.524479577246336
- License:
- Abstract: We consider the problem of learning a sparse rule model, a prediction model in the form of a sparse linear combination of rules, where a rule is an indicator function defined over a hyper-rectangle in the input space. Since the number of all possible such rules is extremely large, it has been computationally intractable to select the optimal set of active rules. In this paper, to solve this difficulty for learning the optimal sparse rule model, we propose Safe RuleFit (SRF). Our basic idea is to develop meta safe screening (mSS), which is a non-trivial extension of well-known safe screening (SS) techniques. While SS is used for screening out one feature, mSS can be used for screening out multiple features by exploiting the inclusion-relations of hyper-rectangles in the input space. SRF provides a general framework for fitting sparse rule models for regression and classification, and it can be extended to handle more general sparse regularizations such as group regularization. We demonstrate the advantages of SRF through intensive numerical experiments.
- Abstract(参考訳): 本稿では,スパース則モデル(sparse rule model, sparse linear combination of rules)の形での予測モデル(予測モデル, 予測モデル)の学習問題を考察する。
このような規則の数は極端に多いため、最適な一連のアクティブな規則を計算的に選択することは困難である。
本稿では,最適なスパースルールモデルを学ぶことの難しさを解決するために,セーフルールフィルタ(SRF)を提案する。
我々の基本的な考え方はメタセーフスクリーニング(mSS)を開発することであり、これはよく知られた安全スクリーニング(SS)技術の非自明な拡張である。
SSは1つの機能のスクリーニングに使用されるが、mSSは入力空間におけるハイパー矩形の包含関係を利用して、複数の機能のスクリーニングに使用できる。
SRFは、回帰や分類にスパースルールモデルを適用するための一般的なフレームワークを提供し、グループ正規化のようなより一般的なスパース規則化を扱うように拡張することができる。
本研究では,集中数値実験によるSRFの利点を実証する。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Dynamic selection of p-norm in linear adaptive filtering via online
kernel-based reinforcement learning [8.319127681936815]
本研究は, 線形適応フィルタリングにおいて, 最適p-ノルムが外れ値と競合する問題に対して, 動的に選択する問題に対処する。
オンラインおよびデータ駆動型フレームワークはカーネルベース強化学習(KBRL)によって設計される
論文 参考訳(メタデータ) (2022-10-20T14:49:39Z) - Distributed Dynamic Safe Screening Algorithms for Sparse Regularization [73.85961005970222]
本稿では,分散動的安全スクリーニング(DDSS)手法を提案し,共有メモリアーキテクチャと分散メモリアーキテクチャにそれぞれ適用する。
提案手法は, 線形収束率を低次複雑度で達成し, 有限個の繰り返しにおいてほとんどすべての不活性な特徴をほぼ確実に除去できることを示す。
論文 参考訳(メタデータ) (2022-04-23T02:45:55Z) - Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。
一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。
これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
論文 参考訳(メタデータ) (2021-03-17T21:49:53Z) - Dynamic Sasvi: Strong Safe Screening for Norm-Regularized Least Squares [21.42115891216612]
Fenchel-Rockafellar双対性に基づく安全なスクリーニングのためのフレキシブルなフレームワークを提案する。
我々のスクリーニングルールは、より多くの特徴を排除し、ソルバの速度を向上できることを示す。
論文 参考訳(メタデータ) (2021-02-08T10:25:40Z) - Better Short than Greedy: Interpretable Models through Optimal Rule
Boosting [10.938624307941197]
ルールアンサンブルは、予測精度とモデル解釈可能性の間の有用なトレードオフを提供するように設計されている。
与えられたアンサンブルサイズに対して最大予測力の規則アンサンブルを適合させる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-01-21T01:03:48Z) - Nearly Dimension-Independent Sparse Linear Bandit over Small Action
Spaces via Best Subset Selection [71.9765117768556]
本研究では,高次元線形モデルの下での文脈的帯域問題について考察する。
この設定は、パーソナライズされたレコメンデーション、オンライン広告、パーソナライズされた医療など、不可欠な応用を見出す。
本稿では,最適部分集合選択法を用いて2重成長エポックを推定する手法を提案する。
論文 参考訳(メタデータ) (2020-09-04T04:10:39Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z) - The Strong Screening Rule for SLOPE [5.156484100374058]
我々は,SLOPEのサブディファレンシャルを検証して,SLOPEのスクリーニングルールを開発し,このルールがラッソの強い規則の一般化であることを示す。
我々の数値実験は、このルールが実際にうまく機能していることを示し、$p gg n$ ドメインのデータに対して桁違いに改善されることを示している。
論文 参考訳(メタデータ) (2020-05-07T20:14:20Z) - Safe Screening Rules for $\ell_0$-Regression [3.04585143845864]
スクリーニングルールは、凸緩和溶液から線形時間で計算することができる。
実データと合成データの実験は、平均して変数の76%が最適な値に固定可能であることを示している。
論文 参考訳(メタデータ) (2020-04-19T06:07:09Z) - Best Arm Identification for Cascading Bandits in the Fixed Confidence
Setting [81.70513857417106]
CascadeBAIを設計し、分析する。これは、$K$アイテムのベストセットを見つけるアルゴリズムである。
CascadeBAIの時間的複雑さの上限は、決定的な分析課題を克服することによって導かれる。
その結果,カスケードBAIの性能は,時間的複雑性の低い境界の導出により,いくつかの実践的状況において最適であることが示唆された。
論文 参考訳(メタデータ) (2020-01-23T16:47:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。