論文の概要: Automatic Statistical Test for Rationally Expressible Algorithms by Selective Inference, with Applications to Feature Selection
- arxiv url: http://arxiv.org/abs/2608.04667v1
- Date: Wed, 05 Aug 2026 10:25:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.823601
- Title: Automatic Statistical Test for Rationally Expressible Algorithms by Selective Inference, with Applications to Feature Selection
- Title（参考訳）: 選択推論による相対表現可能なアルゴリズムの自動統計的テストと特徴選択への応用
- Authors: Teruyuki Katsuoka, Tomohiro Shiraishi, Shuichi Nishino, Ichiro Takeuchi,
- Abstract要約: 選択推論(SI)は、アルゴリズムをデータに適用することによって選択された仮説に対して統計的に有効な$p$-値を提供する。
狭義のクラスに対する正確なSIの障壁を取り除くためのフレームワークであるAutoSIを提案する。
我々は AutoSI が計算した$p$-values が有限標本で完全に有効であることを証明した。
- 参考スコア（独自算出の注目度）: 9.892633657809785
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Selective inference (SI) provides statistically valid $p$-values for hypotheses selected by applying an algorithm to the data, correcting for the bias that arises when the same data are used both to select and to test a hypothesis. Developing an SI procedure for a new algorithm, however, has required an expert to derive, and then implement, the selection event, i.e., the conditions under which the hypothesis is selected. Repeating this specialized effort for every new algorithm is why exact SI has so far been available for only a narrow class. We propose AutoSI, a framework that removes this barrier in two ways. First, AutoSI constructs the selection event automatically from the algorithm's individual operations, so the user only writes the algorithm as ordinary NumPy-like code and derives nothing by hand. Second, AutoSI broadens the class of selection events SI can handle: existing exact methods are limited to selection events characterized by linear or quadratic inequalities in the data, whereas AutoSI covers any algorithm expressible through rational functions of the data (ratios of polynomials). We prove that the $p$-values computed by AutoSI are exactly valid in finite samples. We demonstrate AutoSI on three feature-selection methods, each written in a few dozen lines of code. One of these methods, the lasso with its tuning parameter selected by cross-validated $R^2$, cannot be handled within existing exact SI frameworks and is made possible by AutoSI. Experiments on synthetic and real datasets show that the resulting $p$-values control the type I error rate (i.e., the false positive rate) at the nominal level while retaining high power.
- Abstract（参考訳）: 選択推論(SI)は、アルゴリズムをデータに適用することで選択された仮説に対して統計的に有効な$p$-値を提供し、同じデータが選択とテストの両方に使用される場合に生じるバイアスを補正する。
しかし、新しいアルゴリズムのためのSIプロシージャを開発するには、専門家が選択イベント、すなわち仮説が選択される条件を導出し、実装する必要がある。
新しいアルゴリズムに対して、この特別な取り組みを繰り返すことが、SIが狭義のクラスでしか利用できなかった理由である。
この障壁を2つの方法で除去するフレームワークであるAutoSIを提案する。
まず、AutoSIはアルゴリズムの個々の操作から選択イベントを自動で構築するので、ユーザは通常のNumPyライクなコードとしてのみアルゴリズムを書き、何も引き起こさない。
第2に、AutoSIは選択イベントのクラスを拡大する: 既存の正確なメソッドはデータの線形あるいは二次的な不等式を特徴とする選択イベントに限られるが、AutoSIはデータの有理関数(多項式の比)を通して表現可能なアルゴリズムをカバーしている。
我々は AutoSI が計算した$p$-values が有限標本で完全に有効であることを証明した。
われわれはAutoSIを3つの特徴選択法で示し、それぞれが数十行のコードで書かれている。
これらの方法の1つとして、クロスバリデーションされた$R^2$で選択されたチューニングパラメータを持つラッソは、既存の正確なSIフレームワークでは処理できず、AutoSIによって実現されている。
合成データセットと実データセットの実験では、結果の$p$-valuesが高出力を維持しながら名目レベルでI型エラー率(すなわち偽陽性率)を制御することが示されている。
関連論文リスト
- One Knob to Rule Them All: A Unified Optimal Transport View of Cold-Start Active Learning [19.504724272527515]
Cold-Start Active Learning (CSAL)は、事前の知識や人的支援なしにラベルのないプールから価値のあるサブセットを選択することを目的としている。
真の課題は、もう1つの選択を設計することではなく、CSALを手元にあるデータやタスクに自動的に適応させることである、と私たちは主張する。
我々は、Sinkhornベースの新しいCSALアルゴリズムを、$-Adaptive Selection($-AS)と呼ぶ。
論文 参考訳（メタデータ） (2026-08-04T07:21:39Z) - Prompt Optimization with EASE? Efficient Ordering-aware Automated Selection of Exemplars [66.823588073584]
大規模言語モデル(LLM)は、現実世界のアプリケーションで印象的な機能を示している。
これらの卓越した作品の品質は、パフォーマンスに大きな影響を与えます。
既存の方法は、先行注文がパフォーマンスに与える影響を適切に説明できない。
論文 参考訳（メタデータ） (2024-05-25T08:23:05Z) - Bisimulation Learning [55.859538562698496]
我々は、大きな、潜在的に無限の状態空間を持つ状態遷移系の有限バイシミュレートを計算する。
提案手法は,実際に行われている他の最先端ツールよりも高速な検証結果が得られる。
論文 参考訳（メタデータ） (2024-05-24T17:11:27Z) - Surrogate-based Autotuning for Randomized Sketching Algorithms in Regression Problems [34.59249597626943]
本稿では,RandNLAアルゴリズムにおけるパラメータ選択の基本的な問題に対して,サロゲートに基づくオートチューニング手法を適用する方法について述べる。
提案手法は, 提案手法により, ランダム探索よりもチューニングコストがはるかに低く, ほぼ最適性能が得られることを示す。
論文 参考訳（メタデータ） (2023-08-30T02:50:54Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳（メタデータ） (2022-08-26T04:28:01Z) - Contextual Active Model Selection [10.925932167673764]
本稿では,ラベル付けコストを最小限に抑えつつ,事前学習したモデルを積極的に選択する手法を提案する。
目的は、ラベル要求を制限しながら予測を行う最良のモデルを適応的に選択することである。
2つの新しいコンポーネントに依存した文脈的アクティブモデル選択アルゴリズムであるCAMSを提案する。
論文 参考訳（メタデータ） (2022-07-13T08:22:22Z) - Machine Learning for Online Algorithm Selection under Censored Feedback [71.6879432974126]
オンラインアルゴリズム選択(OAS)では、アルゴリズム問題クラスのインスタンスがエージェントに次々に提示され、エージェントは、固定された候補アルゴリズムセットから、おそらく最高のアルゴリズムを迅速に選択する必要がある。
SAT(Satisfiability)のような決定問題に対して、品質は一般的にアルゴリズムのランタイムを指す。
本研究では,OASのマルチアームバンディットアルゴリズムを再検討し,この問題に対処する能力について議論する。
ランタイム指向の損失に適応し、時間的地平線に依存しない空間的・時間的複雑さを維持しながら、部分的に検閲されたデータを可能にする。
論文 参考訳（メタデータ） (2021-09-13T18:10:52Z) - Run2Survive: A Decision-theoretic Approach to Algorithm Selection based
on Survival Analysis [75.64261155172856]
生存分析(SA)は、自然に検閲されたデータをサポートし、アルゴリズムランタイムの分散モデルを学習するためにそのようなデータを使用する適切な方法を提供する。
我々は、アルゴリズム選択に対する洗練された決定論的アプローチの基礎として、そのようなモデルを活用し、Run2Surviveを疑う。
標準ベンチマークASlibによる広範な実験では、我々のアプローチは競争力が高く、多くの場合、最先端のASアプローチよりも優れていることが示されている。
論文 参考訳（メタデータ） (2020-07-06T15:20:17Z) - Parametric Programming Approach for More Powerful and General Lasso
Selective Inference [25.02674598600182]
選択推論(Selective Inference, SI)は, 線形モデルの特徴を推論するためにここ数年, 活発に研究されてきた。
Lasso のオリジナルの SI アプローチの主な制限は、推論が選択された特徴だけでなく、その兆候にも条件付きで行われることである。
何千ものアクティブな特徴がある場合でも,サインを条件付けせずにSIを実行できるパラメトリックプログラミングベースの手法を提案する。
論文 参考訳（メタデータ） (2020-04-21T04:46:29Z) - Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。
我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
論文 参考訳（メタデータ） (2020-01-29T09:40:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。