論文の概要: Automated Algorithm Selection: from Feature-Based to Feature-Free
Approaches
- arxiv url: http://arxiv.org/abs/2203.13392v1
- Date: Thu, 24 Mar 2022 23:59:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-29 00:17:32.292275
- Title: Automated Algorithm Selection: from Feature-Based to Feature-Free
Approaches
- Title(参考訳): 自動アルゴリズム選択:機能ベースから機能フリーアプローチへ
- Authors: Mohamad Alissa, Kevin Sim and Emma Hart
- Abstract要約: 本稿では,データ中に暗黙的なシーケンシャル情報がカプセル化されている最適化に適用可能な,アルゴリズム選択のための新しい手法を提案する。
我々は、よく知られた4つのドメインから選択して、オンラインビンパッキングのパッキングを予測するために、2種類のリカレントニューラルネットワークをトレーニングする。
- 参考スコア(独自算出の注目度): 0.5801044612920815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a novel technique for algorithm-selection, applicable to
optimisation domains in which there is implicit sequential information
encapsulated in the data, e.g., in online bin-packing. Specifically we train
two types of recurrent neural networks to predict a packing heuristic in online
bin-packing, selecting from four well-known heuristics. As input, the RNN
methods only use the sequence of item-sizes. This contrasts to typical
approaches to algorithm-selection which require a model to be trained using
domain-specific instance features that need to be first derived from the input
data. The RNN approaches are shown to be capable of achieving within 5% of the
oracle performance on between 80.88% to 97.63% of the instances, depending on
the dataset. They are also shown to outperform classical machine learning
models trained using derived features. Finally, we hypothesise that the
proposed methods perform well when the instances exhibit some implicit
structure that results in discriminatory performance with respect to a set of
heuristics. We test this hypothesis by generating fourteen new datasets with
increasing levels of structure, and show that there is a critical threshold of
structure required before algorithm-selection delivers benefit.
- Abstract(参考訳): 本稿では,データに暗黙的なシーケンシャル情報がカプセル化されている最適化領域に適用可能な,新しいアルゴリズム選択手法を提案する。
具体的には、2種類のリカレントニューラルネットワークをトレーニングして、オンラインバイナリパッキングにおけるパッキングヒューリスティックを予測する。
入力として、RNNメソッドはアイテムサイズのシーケンスのみを使用する。
これは、入力データから最初に派生する必要があるドメイン固有のインスタンス機能を使用してモデルをトレーニングする必要があるアルゴリズム選択の典型的なアプローチとは対照的である。
RNNのアプローチは、データセットによって80.88%から97.63%のインスタンスで、オラクルのパフォーマンスの5%以内に達成可能であることが示されている。
これらはまた、派生した機能を使ってトレーニングされた古典的な機械学習モデルよりも優れています。
最後に,提案手法は,一組のヒューリスティックスに対して識別性能をもたらす暗黙的な構造を示す場合に有効である,という仮説を立てる。
この仮説は,14個の新しいデータセットを生成することで検証し,アルゴリズムの選択が利益をもたらす前に必要となる構造しきい値が存在することを示す。
関連論文リスト
- Towards Free Data Selection with General-Purpose Models [71.92151210413374]
望ましいデータ選択アルゴリズムは、限られたアノテーション予算の有用性を最大化するために、最も情報性の高いサンプルを効率的に選択することができる。
アクティブな学習手法で表現された現在のアプローチは、通常、時間を要するモデルのトレーニングとバッチデータ選択を繰り返し繰り返す、面倒なパイプラインに従う。
FreeSelは重いバッチ選択プロセスをバイパスし、効率を大幅に改善し、既存のアクティブラーニングメソッドよりも530倍高速である。
論文 参考訳(メタデータ) (2023-09-29T15:50:14Z) - Automatic learning algorithm selection for classification via
convolutional neural networks [0.0]
本研究の目的は,メタ機能を特定することなく,データ固有の構造を学習することである。
シミュレーションデータセットを用いた実験により, 線形および非線形パターンの同定において, 提案手法がほぼ完璧な性能を発揮することが示された。
論文 参考訳(メタデータ) (2023-05-16T01:57:01Z) - Revisit the Algorithm Selection Problem for TSP with Spatial Information
Enhanced Graph Neural Networks [4.084365114504618]
本稿では,ユークリッド旅行セールスマン問題(TSP)のアルゴリズム選択問題を再検討する。
我々はGINESと呼ばれる新しいグラフニューラルネットワーク(GNN)を提案する。
GINESは都市の座標と都市間の距離を入力として取ります。
これは、1つのデータセットにおける従来の手作りの機能ベースのアプローチよりも優れている。
論文 参考訳(メタデータ) (2023-02-08T13:14:20Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2022-06-28T03:28:15Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Dynamic Instance-Wise Classification in Correlated Feature Spaces [15.351282873821935]
典型的な機械学習環境では、すべてのテストインスタンスの予測は、モデルトレーニング中に発見された機能の共通サブセットに基づいている。
それぞれのテストインスタンスに対して個別に評価する最適な特徴を順次選択し、分類精度に関して更なる改善が得られないことを判断すると、選択プロセスが終了して予測を行う新しい手法を提案する。
提案手法の有効性, 一般化性, 拡張性について, 多様なアプリケーション領域の様々な実世界のデータセットで説明する。
論文 参考訳(メタデータ) (2021-06-08T20:20:36Z) - Beta-CoRM: A Bayesian Approach for $n$-gram Profiles Analysis [0.0]
提案したモデリングの柔軟性により、生成モデルにおける特徴選択への簡単なアプローチを考えることができる。
スライスサンプリングアルゴリズムは高速な推論手順のために導出され、合成および実データシナリオに適用される。
論文 参考訳(メタデータ) (2020-11-23T17:12:34Z) - Embedded methods for feature selection in neural networks [0.0]
ニューラルネットワークのようなブラックボックスモデルは、解釈可能性、一般化可能性、これらのモデルのトレーニング時間に悪影響を及ぼす。
パラメータ学習に直接組み込むことのできる特徴選択のための2つの統合的アプローチを提案する。
PFI(Permutation Feature Importance) - 汎用的な特徴ランキング法とランダムなベースライン。
論文 参考訳(メタデータ) (2020-10-12T16:33:46Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z) - FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity
to Non-IID Data [59.50904660420082]
フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。
クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
論文 参考訳(メタデータ) (2020-05-22T23:07:42Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。