論文の概要: On the Adversarial Robustness of LASSO Based Feature Selection

• arxiv url: http://arxiv.org/abs/2010.10045v1
• Date: Tue, 20 Oct 2020 05:51:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 06:36:45.468379
• Title: On the Adversarial Robustness of LASSO Based Feature Selection
• Title（参考訳）: LASSOに基づく特徴選択の逆ロバスト性について
• Authors: Fuwei Li, Lifeng Lai, Shuguang Cui
• Abstract要約: 検討されたモデルでは、悪意のある敵がデータセット全体を観察し、レスポンス値やフィーチャーマトリックスを慎重に修正する。 両レベルの最適化問題として、敵の修正戦略を定式化する。 合成および実データを用いた数値的な例は,本手法が効率的かつ効果的であることを示している。
• 参考スコア（独自算出の注目度）: 72.54211869067979
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we investigate the adversarial robustness of feature selection based on the $\ell_1$ regularized linear regression model, namely LASSO. In the considered model, there is a malicious adversary who can observe the whole dataset, and then will carefully modify the response values or the feature matrix in order to manipulate the selected features. We formulate the modification strategy of the adversary as a bi-level optimization problem. Due to the difficulty of the non-differentiability of the $\ell_1$ norm at the zero point, we reformulate the $\ell_1$ norm regularizer as linear inequality constraints. We employ the interior-point method to solve this reformulated LASSO problem and obtain the gradient information. Then we use the projected gradient descent method to design the modification strategy. In addition, We demonstrate that this method can be extended to other $\ell_1$ based feature selection methods, such as group LASSO and sparse group LASSO. Numerical examples with synthetic and real data illustrate that our method is efficient and effective.
• Abstract（参考訳）: 本稿では,$\ell_1$正規化線形回帰モデル,すなわちLASSOに基づく特徴選択の対角的ロバスト性について検討する。 考慮されたモデルでは、データセット全体を観察でき、選択された特徴を操作するために、応答値や特徴行列を慎重に修正する悪意のある敵が存在する。 両レベル最適化問題として敵の修正戦略を定式化する。 ゼロ点における$\ell_1$ノルムの不微分性の難しさから、$\ell_1$ノルム正規化器を線形不等式制約として再構成する。 内部点法を用いて、この改良されたLASSO問題を解き、勾配情報を得る。 次に,修正戦略の設計に投影勾配降下法を用いる。 さらに,本手法は,グループLASSOやスパースグループLASSOなど,他の$\ell_1$の特徴選択手法にも拡張可能であることを示す。 合成データと実データを用いた数値例から,本手法は効率的かつ効果的であることが分かる。

関連論文リスト

• Geometric-Averaged Preference Optimization for Soft Preference Labels [78.2746007085333]
  LLMを人間の嗜好と整合させる多くのアルゴリズムは、人間の嗜好は二進的かつ決定論的であると仮定する。 本研究では,分散ソフトな選好ラベルを導入し,損失関数におけるLLM出力確率の重み付き幾何平均を用いて直接選好最適化(DPO)を改善する。
  論文  参考訳（メタデータ） (2024-09-10T17:54:28Z)
• Actively Learning Combinatorial Optimization Using a Membership Oracle [10.834947136134463]
  会員オラクルを用いて未知の線形制約を用いて最適化問題を解くことを検討する。 意思決定者の目標は、オラクルの呼び出し数に関する予算の対象となる最善の解決策を見つけることである。 代用線形制約を学習し、活用することで問題を解決するために、古典的なフレームワークを適応させる。
  論文  参考訳（メタデータ） (2024-05-23T01:34:21Z)
• Domain Generalization via Rationale Invariance [70.32415695574555]
  本稿では,未確認環境においてもロバストな結果の維持を伴う領域一般化の課題を緩和する新たな視点を提供する。 本稿では,最終結果に対する要素的貢献を決定の根拠として扱い,各試料の根拠を行列として表現することを提案する。 提案手法は, 単純性に拘わらず, 様々なデータセット間で競合する結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-08-22T03:31:40Z)
• A model-free feature selection technique of feature screening and random forest based recursive feature elimination [0.0]
  質量特徴を持つ超高次元データのモデルフリー特徴選択法を提案する。 提案手法は選択整合性を示し, 弱正則条件下では$L$整合性を示す。
  論文  参考訳（メタデータ） (2023-02-15T03:39:16Z)
• A distribution-free mixed-integer optimization approach to hierarchical modelling of clustered and longitudinal data [0.0]
  我々は,新しいデータポイントに対するクラスタ効果を評価する革新的なアルゴリズムを導入し,このモデルのロバスト性や精度を高める。 このアプローチの推論的および予測的効果は、学生のスコアリングとタンパク質発現に適用することでさらに説明される。
  論文  参考訳（メタデータ） (2023-02-06T23:34:51Z)
• Random Manifold Sampling and Joint Sparse Regularization for Multi-label Feature Selection [0.0]
  本稿では,$ell_2,1$および$ell_F$正規化の連立制約付き最適化問題を解くことで,最も関連性の高いいくつかの特徴を得ることができる。 実世界のデータセットの比較実験により,提案手法が他の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-04-13T15:06:12Z)
• A Lagrangian Duality Approach to Active Learning [119.36233726867992]
  トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。 制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。 数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
  論文  参考訳（メタデータ） (2022-02-08T19:18:49Z)
• Universal and data-adaptive algorithms for model selection in linear contextual bandits [52.47796554359261]
  モデル選択の最も単純な非自明な例を考える: 単純な多重武装バンディット問題と線形文脈バンディット問題とを区別する。 データ適応的な方法で探索する新しいアルゴリズムを導入し、$mathcalO(dalpha T1- alpha)$という形式の保証を提供する。 我々のアプローチは、いくつかの仮定の下で、ネストされた線形文脈包帯のモデル選択に拡張する。
  論文  参考訳（メタデータ） (2021-11-08T18:05:35Z)
• Ridge regression with adaptive additive rectangles and other piecewise functional templates [0.0]
  関数線形回帰モデルに対する$L_2$ベースのペナル化アルゴリズムを提案する。 提案アルゴリズムは,適切なテンプレートの近似と凸リッジのような問題の解法とを交互に行う方法を示す。
  論文  参考訳（メタデータ） (2020-11-02T15:28:54Z)
• Optimal Feature Manipulation Attacks Against Linear Regression [64.54500628124511]
  本稿では,データセットに慎重に設計した有害なデータポイントを付加したり,元のデータポイントを修正したりすることで,線形回帰による係数の操作方法について検討する。 エネルギー予算を考慮し, 目標が指定された回帰係数を1つ変更する場合に, 最適毒素データ点の閉形式解をまず提示する。 次に、攻撃者が1つの特定の回帰係数を変更しつつ、他をできるだけ小さく変更することを目的とした、より困難なシナリオに分析を拡張します。
  論文  参考訳（メタデータ） (2020-02-29T04:26:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。