論文の概要: More Powerful and General Selective Inference for Stepwise Feature
Selection using the Homotopy Continuation Approach
- arxiv url: http://arxiv.org/abs/2012.13545v2
- Date: Thu, 22 Apr 2021 01:59:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-25 04:38:01.490715
- Title: More Powerful and General Selective Inference for Stepwise Feature
Selection using the Homotopy Continuation Approach
- Title(参考訳): ホモトピー継続手法を用いたステップワイズ特徴選択のためのより強力で一般的な選択的推論
- Authors: Kazuya Sugiyama, Vo Nguyen Le Duy, Ichiro Takeuchi
- Abstract要約: データ駆動仮説のための新しい統計的推論フレームワークとして,条件選択推論(SI)が活発に研究されている。
既存の条件付きSI法の主な制限は、過条件による電力損失である。
我々は,この制限を克服するホモトピー法を用いて,SFSのより強力で汎用的な条件付きSI法を開発した。
- 参考スコア(独自算出の注目度): 17.191349670354228
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional selective inference (SI) has been actively studied as a new
statistical inference framework for data-driven hypotheses. The basic idea of
conditional SI is to make inferences conditional on the selection event
characterized by a set of linear and/or quadratic inequalities. Conditional SI
has been mainly studied in the context of feature selection such as stepwise
feature selection (SFS). The main limitation of the existing conditional SI
methods is the loss of power due to over-conditioning, which is required for
computational tractability. In this study, we develop a more powerful and
general conditional SI method for SFS using the homotopy method which enables
us to overcome this limitation. The homotopy-based SI is especially effective
for more complicated feature selection algorithms. As an example, we develop a
conditional SI method for forward-backward SFS with AIC-based stopping criteria
and show that it is not adversely affected by the increased complexity of the
algorithm. We conduct several experiments to demonstrate the effectiveness and
efficiency of the proposed method.
- Abstract(参考訳): データ駆動仮説のための新しい統計的推論フレームワークとして,条件選択推論(SI)が活発に研究されている。
条件付きSIの基本的な考え方は、線形および/または二次不等式の集合によって特徴づけられる選択事象に推論を条件付けることである。
条件付きSIは主に、段階的特徴選択(SFS)のような特徴選択の文脈で研究されている。
既存の条件付きSI法の主な制限は、オーバーコンディショニングによる電力損失であり、計算的トラクタビリティに必要である。
本研究では,この制限を克服するホモトピー法を用いて,SFSのより強力で汎用的な条件付きSI法を開発した。
ホモトピーベースのSIは特に複雑な特徴選択アルゴリズムに有効である。
一例として、AICに基づく停止基準付き前向きSFSのための条件付きSI法を開発し、アルゴリズムの複雑さの増加に悪影響を及ぼさないことを示す。
提案手法の有効性と有効性を示すため,いくつかの実験を行った。
関連論文リスト
- Bisimulation Learning [55.859538562698496]
我々は、大きな、潜在的に無限の状態空間を持つ状態遷移系の有限バイシミュレートを計算する。
提案手法は,実際に行われている他の最先端ツールよりも高速な検証結果が得られる。
論文 参考訳(メタデータ) (2024-05-24T17:11:27Z) - Information-Theoretic State Variable Selection for Reinforcement
Learning [4.2050490361120465]
本稿では,情報理論的基準であるTransfer Entropy Redundancy Criterion (TERC)を紹介する。
TERCは、トレーニング中に状態変数からアクションに転送されるテクステントロピーがあるかどうかを判断する。
エージェントの最終性能に影響を与えない状態から変数を確実に排除する TERC に基づくアルゴリズムを定義する。
論文 参考訳(メタデータ) (2024-01-21T14:51:09Z) - Bounded P-values in Parametric Programming-based Selective Inference [23.35466397627952]
我々は,p-値の下と上の境界を計算する手法を提案することにより,所望の精度を確保しつつ計算コストを削減する手法を提案する。
本稿では,線形モデルにおける特徴選択と深部ニューラルネットワークにおける注目領域同定のための仮説テスト問題における提案手法の有効性を示す。
論文 参考訳(メタデータ) (2023-07-21T04:55:03Z) - Bounding Counterfactuals under Selection Bias [60.55840896782637]
本稿では,識別不能なクエリと識別不能なクエリの両方に対処するアルゴリズムを提案する。
選択バイアスによって引き起こされる欠如にもかかわらず、利用可能なデータの可能性は無限であることを示す。
論文 参考訳(メタデータ) (2022-07-26T10:33:10Z) - Interactively Learning Preference Constraints in Linear Bandits [100.78514640066565]
我々は、既知の報酬と未知の制約で逐次意思決定を研究する。
応用として,運転シミュレーションにおいて,人間の嗜好を表現するための学習制約を検討する。
論文 参考訳(メタデータ) (2022-06-10T17:52:58Z) - Fast Feature Selection with Fairness Constraints [49.142308856826396]
モデル構築における最適特徴の選択に関する基礎的問題について検討する。
この問題は、greedyアルゴリズムの変種を使用しても、大規模なデータセットで計算的に困難である。
適応クエリモデルは,最近提案された非モジュラー関数に対する直交整合探索のより高速なパラダイムに拡張する。
提案アルゴリズムは、適応型クエリモデルにおいて指数関数的に高速な並列実行を実現する。
論文 参考訳(メタデータ) (2022-02-28T12:26:47Z) - Recursive Causal Structure Learning in the Presence of Latent Variables
and Selection Bias [27.06618125828978]
本稿では,潜伏変数と選択バイアスの存在下での観測データからシステムの因果MAGを学習する問題を考察する。
本稿では,音と完全性を備えた計算効率のよい制約ベースの新しい手法を提案する。
提案手法と人工と実世界の両方の構造に関する技術の現状を比較した実験結果を提供する。
論文 参考訳(メタデータ) (2021-10-22T19:49:59Z) - More Powerful Conditional Selective Inference for Generalized Lasso by
Parametric Programming [20.309302270008146]
条件付き選択的推論(si)は、データ駆動仮説の新しい統計推論フレームワークとして研究されてきた。
二次パラメトリックプログラミングに変換可能な問題のクラスに対して,より強力で一般的な条件付きSI法を提案する。
論文 参考訳(メタデータ) (2021-05-11T10:12:00Z) - Sinkhorn Natural Gradient for Generative Models [125.89871274202439]
本研究では,シンクホーンの発散による確率空間上の最も急降下法として機能するシンクホーン自然勾配(SiNG)アルゴリズムを提案する。
本稿では,SiNG の主要成分であるシンクホーン情報行列 (SIM) が明示的な表現を持ち,対数的スケールの複雑さを正確に評価できることを示す。
本実験では,SiNGと最先端のSGD型解法を定量的に比較し,その有効性と有効性を示す。
論文 参考訳(メタデータ) (2020-11-09T02:51:17Z) - Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
データ管理の統合コンポーネントにおける公平性について検討する。
本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
論文 参考訳(メタデータ) (2020-06-10T20:20:10Z) - Parametric Programming Approach for More Powerful and General Lasso
Selective Inference [25.02674598600182]
選択推論(Selective Inference, SI)は, 線形モデルの特徴を推論するためにここ数年, 活発に研究されてきた。
Lasso のオリジナルの SI アプローチの主な制限は、推論が選択された特徴だけでなく、その兆候にも条件付きで行われることである。
何千ものアクティブな特徴がある場合でも,サインを条件付けせずにSIを実行できるパラメトリックプログラミングベースの手法を提案する。
論文 参考訳(メタデータ) (2020-04-21T04:46:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。