論文の概要: Refined bounds for randomized experimental design
- arxiv url: http://arxiv.org/abs/2012.15726v1
- Date: Tue, 22 Dec 2020 20:37:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 10:09:52.961315
- Title: Refined bounds for randomized experimental design
- Title（参考訳）: ランダム化実験設計のための精製境界
- Authors: Geovani Rizk and Igor Colin and Albert Thomas and Moez Draief
- Abstract要約: 実験的な設計は与えられた基準のための最もよい推定器を得るために与えられたセット間のサンプルを選ぶためのアプローチです。
EおよびG最適化設計におけるランダム化戦略の理論的保証を提案する。
- 参考スコア（独自算出の注目度）: 7.899055512130904
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Experimental design is an approach for selecting samples among a given set so
as to obtain the best estimator for a given criterion. In the context of linear
regression, several optimal designs have been derived, each associated with a
different criterion: mean square error, robustness, \emph{etc}. Computing such
designs is generally an NP-hard problem and one can instead rely on a convex
relaxation that considers probability distributions over the samples. Although
greedy strategies and rounding procedures have received a lot of attention,
straightforward sampling from the optimal distribution has hardly been
investigated. In this paper, we propose theoretical guarantees for randomized
strategies on E and G-optimal design. To this end, we develop a new
concentration inequality for the eigenvalues of random matrices using a refined
version of the intrinsic dimension that enables us to quantify the performance
of such randomized strategies. Finally, we evidence the validity of our
analysis through experiments, with particular attention on the G-optimal design
applied to the best arm identification problem for linear bandits.
- Abstract（参考訳）: 実験設計は、与えられた基準に対して最適な推定値を得るために、与えられたセットの中からサンプルを選択するアプローチである。
線形回帰の文脈では、いくつかの最適設計が導出され、それぞれ異なる基準である平均二乗誤差、ロバスト性、\emph{etc} と関連づけられている。
そのような設計の計算は一般にNPハード問題であり、サンプル上の確率分布を考慮した凸緩和に依存することができる。
グリージー戦略やラウンドリング手順は注目されているが,最適分布からの直接サンプリングはほとんど研究されていない。
本稿では, e および g の最適設計におけるランダム化戦略に関する理論的保証を提案する。
そこで本研究では,確率行列の固有値に対する新しい濃度不等式を内在次元の洗練されたバージョンを用いて開発し,そのようなランダム化戦略の性能を定量化する。
最後に, 実験による解析の有効性を実証し, 線形包帯の最適腕識別問題に適用したG最適設計に着目する。
関連論文リスト
- Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。
ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。
実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
論文 参考訳（メタデータ） (2024-01-28T21:19:15Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳（メタデータ） (2023-11-08T00:10:21Z) - Efficient Learning for Selecting Top-m Context-Dependent Designs [0.7646713951724012]
文脈に依存した意思決定のためのシミュレーション最適化問題を考察する。
本研究では,各デザインの性能を各コンテキスト下で効率的に学習するためのシーケンシャルサンプリングポリシーを開発する。
数値実験により,提案手法はトップmの文脈依存設計の選択効率を向上することを示した。
論文 参考訳（メタデータ） (2023-05-06T16:11:49Z) - Margin theory for the scenario-based approach to robust optimization in
high dimension [0.0]
本稿では、ロバストな最適化のためのシナリオアプローチを扱う。
これは、問題の不確実性によって引き起こされる可能性のある無限個の制約のランダムサンプリングに依存する。
論文 参考訳（メタデータ） (2023-03-07T13:33:46Z) - Regression with Label Differential Privacy [64.21020761920322]
与えられた回帰損失関数の下で最適なラベルDPランダム化機構を導出する。
我々は、最適メカニズムが「ビンのランダム化応答」の形をとることを証明した。
論文 参考訳（メタデータ） (2022-12-12T17:41:32Z) - Bayesian Sequential Optimal Experimental Design for Nonlinear Models
Using Policy Gradient Reinforcement Learning [0.0]
この逐次最適設計(sOED)問題を有限水平部分観測可能なマルコフ決定過程(POMDP)として定式化する。
連続確率変数、一般のガウス的非ガウス的後部モデル、高価な非線形フォワードモデルに対応するために構築されている。
我々は、強化学習から政策勾配(PG)法を用いてsOEDポリシーを数値的に解き、sOEDのPG式を導出し、証明する。
PG-sOED法全体を線形ガウスベンチマークで検証し, 汚染源逆転問題により, バッチおよびグレディ設計よりも優れていることを示す。
論文 参考訳（メタデータ） (2021-10-28T17:47:31Z) - High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。
そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
論文 参考訳（メタデータ） (2021-06-10T17:54:21Z) - Preference learning along multiple criteria: A game-theoretic
perspective [97.94912276610002]
我々は、ブラックウェルの接近性からインスピレーションを得て、フォン・ノイマンの勝者の概念をマルチ基準設定に一般化する。
本フレームワークは,基準間の選好の非線形集約を可能にし,多目的最適化から線形化に基づくアプローチを一般化する。
凸最適化問題の解法として,マルチ基準問題インスタンスのブラックウェルの勝者が計算可能であることを示す。
論文 参考訳（メタデータ） (2021-05-05T03:23:11Z) - Adaptive and Oblivious Randomized Subspace Methods for High-Dimensional
Optimization: Sharp Analysis and Lower Bounds [37.03247707259297]
2次統計が入力データを反映する相関ランダム行列をサンプリングすることにより、適切な適応部分空間を生成することができる。
ランダム化された近似の相対誤差は、データ行列のスペクトルの観点から厳密に特徴付けることができることを示した。
実験の結果,提案手法は様々な機械学習および最適化問題において,大幅な高速化を可能にすることがわかった。
論文 参考訳（メタデータ） (2020-12-13T13:02:31Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳（メタデータ） (2020-04-17T12:47:04Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳（メタデータ） (2020-02-16T09:01:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。