論文の概要: Intelligent sampling for surrogate modeling, hyperparameter
optimization, and data analysis
- arxiv url: http://arxiv.org/abs/2306.04066v1
- Date: Tue, 6 Jun 2023 23:54:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 16:49:43.500744
- Title: Intelligent sampling for surrogate modeling, hyperparameter
optimization, and data analysis
- Title（参考訳）: 代理モデリング,ハイパーパラメータ最適化,データ解析のためのインテリジェントサンプリング
- Authors: Chandrika Kamath
- Abstract要約: 我々は、サンプリングニーズを満たすアルゴリズムを考案するインテリジェントサンプリングの概念を提案する。
意外なことに、定性的比較と定量的比較は、多くのサンプリング要求を満たすために比較的単純なアルゴリズムを簡単に修正できることを示している。
これらのアルゴリズムは、現在使われているより洗練されたアルゴリズムよりも優れており、時間とコンピュータリソースをよりよく利用することができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling techniques are used in many fields, including design of experiments,
image processing, and graphics. The techniques in each field are designed to
meet the constraints specific to that field such as uniform coverage of the
range of each dimension or random samples that are at least a certain distance
apart from each other. When an application imposes new constraints, for
example, by requiring samples in a non-rectangular domain or the addition of
new samples to an existing set, a common solution is to modify the algorithm
currently in use, often with less than satisfactory results. As an alternative,
we propose the concept of intelligent sampling, where we devise algorithms
specifically tailored to meet our sampling needs, either by creating new
algorithms or by modifying suitable algorithms from other fields. Surprisingly,
both qualitative and quantitative comparisons indicate that some relatively
simple algorithms can be easily modified to meet the many sampling requirements
of surrogate modeling, hyperparameter optimization, and data analysis; these
algorithms outperform their more sophisticated counterparts currently in use,
resulting in better use of time and computer resources.
- Abstract（参考訳）: サンプリング技術は、実験の設計、画像処理、グラフィックスなど、多くの分野で使われている。
各分野のテクニックは、各次元の範囲の均一なカバレッジや、少なくとも互いに離れた一定の距離にあるランダムサンプルといった、その分野に特有の制約を満たすように設計されている。
例えば、非矩形ドメインのサンプルや既存のセットに新しいサンプルを追加することで、アプリケーションが新しい制約を課す場合、一般的な解決策は、現在使われているアルゴリズムを修正することである。
そこで我々は,新しいアルゴリズムを創り出すか,あるいは他の分野から適切なアルゴリズムを変更することによって,サンプリングニーズを満たすように特別に調整したアルゴリズムを考案する。
意外なことに、定性的および定量的な比較は、いくつかの比較的単純なアルゴリズムが、サロゲートモデリング、ハイパーパラメータ最適化、データ解析の多くのサンプリング要求を満たすように容易に修正可能であることを示している。
関連論文リスト
- Sample Complexity of Algorithm Selection Using Neural Networks and Its Applications to Branch-and-Cut [1.4624458429745086]
本研究は,最適な性能を持つ1つのアルゴリズムを選択するのではなく,インスタンスに基づいてアルゴリズムを選択することが可能となるような設定を考慮し,最近の研究を基礎にしている。
特に、代表的なインスタンスのサンプルが与えられた場合、問題のインスタンスをそのインスタンスの最も適切なアルゴリズムにマッピングするニューラルネットワークを学習する。
言い換えれば、ニューラルネットワークは混合整数最適化インスタンスを入力として取り、そのインスタンスの小さな分岐とカットツリーをもたらす決定を出力する。
論文 参考訳（メタデータ） (2024-02-04T03:03:27Z) - Learning Rate Free Sampling in Constrained Domains [21.853333421463603]
我々は、完全に学習率の低い制約付き領域をサンプリングするための新しい粒子ベースのアルゴリズム一式を導入する。
我々は,本アルゴリズムの性能を,単純度に基づくターゲットからのサンプリングを含む,様々な数値的な例で示す。
論文 参考訳（メタデータ） (2023-05-24T09:31:18Z) - Best-Effort Adaptation [62.00856290846247]
本稿では, 試料再重み付け法に関する新しい理論的解析を行い, 試料再重み付け法を一様に保持する境界について述べる。
これらの境界が、我々が詳細に議論する学習アルゴリズムの設計を導く方法を示す。
本稿では,本アルゴリズムの有効性を実証する一連の実験結果について報告する。
論文 参考訳（メタデータ） (2023-05-10T00:09:07Z) - Global and Preference-based Optimization with Mixed Variables using Piecewise Affine Surrogates [0.6083861980670925]
本稿では,線形制約付き混合変数問題の解法として,新しいサロゲートに基づく大域的最適化アルゴリズムを提案する。
目的関数はブラックボックスとコスト対評価であり、線形制約は予測不可能な事前知識である。
本稿では,2種類の探索関数を導入し,混合整数線形計画解法を用いて実現可能な領域を効率的に探索する。
論文 参考訳（メタデータ） (2023-02-09T15:04:35Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳（メタデータ） (2022-08-26T04:28:01Z) - COIL: Constrained Optimization in Learned Latent Space -- Learning
Representations for Valid Solutions [4.372703857711996]
我々は変分オートエンコーダを用いて、遅延空間(COIL)における制約付き最適化の表現を学習する。
COILは制約を満たすことができ、最大2桁近い目標までの距離の解を求めることができる。
標準表現を用いた同一GAと比較すると,COILの学習遅延表現は制約を満たすことができ,最大2桁近い目標の解を求めることができる。
論文 参考訳（メタデータ） (2022-02-04T14:45:37Z) - Tackling System and Statistical Heterogeneity for Federated Learning
with Adaptive Client Sampling [34.187387951367526]
フェデレーテッド・ラーニング(FL)アルゴリズムは、参加者数が大きい場合、通常、各(部分的な参加)の割合をサンプリングする。
最近の研究はFLの収束解析に焦点を当てている。
任意のクライアントサンプリング確率を持つFLアルゴリズムの新しい収束バウンダリを得る。
論文 参考訳（メタデータ） (2021-12-21T14:28:40Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳（メタデータ） (2021-06-22T16:07:02Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳（メタデータ） (2020-09-28T15:22:24Z) - Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。
我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文 参考訳（メタデータ） (2020-04-23T05:00:21Z) - Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。
我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
論文 参考訳（メタデータ） (2020-01-29T09:40:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。