論文の概要: Dynamic Sasvi: Strong Safe Screening for Norm-Regularized Least Squares
- arxiv url: http://arxiv.org/abs/2102.04108v1
- Date: Mon, 8 Feb 2021 10:25:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-10 09:56:09.283158
- Title: Dynamic Sasvi: Strong Safe Screening for Norm-Regularized Least Squares
- Title(参考訳): Dynamic Sasvi:ノーム正規化リーストスクエアの強力な安全スクリーニング
- Authors: Hiroaki Yamada, Makoto Yamada
- Abstract要約: Fenchel-Rockafellar双対性に基づく安全なスクリーニングのためのフレキシブルなフレームワークを提案する。
我々のスクリーニングルールは、より多くの特徴を排除し、ソルバの速度を向上できることを示す。
- 参考スコア(独自算出の注目度): 21.42115891216612
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A recently introduced technique for a sparse optimization problem called
"safe screening" allows us to identify irrelevant variables in the early stage
of optimization. In this paper, we first propose a flexible framework for safe
screening based on the Fenchel-Rockafellar duality and then derive a strong
safe screening rule for norm-regularized least squares by the framework. We
call the proposed screening rule for norm-regularized least squares "dynamic
Sasvi" because it can be interpreted as a generalization of Sasvi. Unlike the
original Sasvi, it does not require the exact solution of a more strongly
regularized problem; hence, it works safely in practice. We show that our
screening rule can eliminate more features and increase the speed of the solver
in comparison with other screening rules both theoretically and experimentally.
- Abstract(参考訳): 最近導入された"safe screening"と呼ばれるスパース最適化問題のテクニックにより、最適化の初期段階で無関係な変数を識別できる。
本稿では,まず,fenchel-rockafellar双対性に基づく安全スクリーニングのための柔軟な枠組みを提案する。
我々は、ノルム正規化最小二乗のスクリーニング規則を、sasviの一般化として解釈できるので「動的sasvi」と呼ぶ。
元々のsassviとは異なり、より強固な正規化問題の厳密な解を必要としないため、実際には安全に機能する。
提案手法は,理論上,実験上,他のスクリーニングルールと比較して,より多くの特徴を取り除き,解答者の速度を増加させることができることを示す。
関連論文リスト
- Information-Theoretic Safe Bayesian Optimization [59.758009422067005]
そこでは、未知の(安全でない)制約に反するパラメータを評価することなく、未知の関数を最適化することを目的としている。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳(メタデータ) (2024-02-23T14:31:10Z) - Leveraging Approximate Model-based Shielding for Probabilistic Safety
Guarantees in Continuous Environments [63.053364805943026]
近似モデルベースの遮蔽フレームワークを連続的な設定に拡張する。
特に、テストベッドとしてSafety Gymを使用し、一般的な制約付きRLアルゴリズムとABBSのより直接的な比較を可能にします。
論文 参考訳(メタデータ) (2024-02-01T17:55:08Z) - Thompson Exploration with Best Challenger Rule in Best Arm
Identification [66.33448474838342]
本稿では,バンドイットフレームワークにおける固定信頼度最良腕識別問題について検討する。
我々は、トンプソンサンプリングと、ベストチャレンジャールールとして知られる計算効率の良いアプローチを組み合わせた新しいポリシーを提案する。
論文 参考訳(メタデータ) (2023-10-01T01:37:02Z) - Information-Theoretic Safe Exploration with Gaussian Processes [89.31922008981735]
未知の(安全でない)制約に反するパラメータを評価できないような、逐次的な意思決定タスクについて検討する。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳(メタデータ) (2022-12-09T15:23:58Z) - On Kernelized Multi-Armed Bandits with Constraints [16.102401271318012]
一般に未知の報酬関数と一般未知の制約関数を併用した帯域幅問題について検討する。
本稿では,アルゴリズムの性能解析のための一般的なフレームワークを提案する。
本稿では,数値実験により提案アルゴリズムの優れた性能を示す。
論文 参考訳(メタデータ) (2022-03-29T14:02:03Z) - Constrained Variational Policy Optimization for Safe Reinforcement
Learning [40.38842532850959]
安全強化学習は、安全クリティカルなアプリケーションにデプロイする前に、一定の制約を満たすポリシーを学ぶことを目的としている。
主要な制約付き最適化フレームワークとしての原始双対は不安定な問題に悩まされ、最適性の保証が欠如している。
本稿では,新しい確率的推論の観点から問題を克服し,安全政策を学習するための期待最大化方式を提案する。
論文 参考訳(メタデータ) (2022-01-28T04:24:09Z) - The Hessian Screening Rule [5.076419064097734]
ヘッセンスクリーニング規則はモデルからの2次情報を使用してより正確なスクリーニングを提供する。
このルールは, 相関性の高いシミュレーション実験において, 他の選択肢よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-04-27T07:55:29Z) - Squared $\ell_2$ Norm as Consistency Loss for Leveraging Augmented Data
to Learn Robust and Invariant Representations [76.85274970052762]
元のサンプルと拡張されたサンプルの埋め込み/表現の距離を規則化することは、ニューラルネットワークの堅牢性を改善するための一般的なテクニックである。
本稿では、これらの様々な正規化選択について検討し、埋め込みの正規化方法の理解を深める。
私たちが特定したジェネリックアプローチ(squared $ell$ regularized augmentation)は、それぞれ1つのタスクのために特別に設計されたいくつかの手法より優れていることを示す。
論文 参考訳(メタデータ) (2020-11-25T22:40:09Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z) - Safe Screening Rules for $\ell_0$-Regression [3.04585143845864]
スクリーニングルールは、凸緩和溶液から線形時間で計算することができる。
実データと合成データの実験は、平均して変数の76%が最適な値に固定可能であることを示している。
論文 参考訳(メタデータ) (2020-04-19T06:07:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。