論文の概要: Squirrel: A Switching Hyperparameter Optimizer
- arxiv url: http://arxiv.org/abs/2012.08180v2
- Date: Wed, 16 Dec 2020 06:56:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-08 07:58:54.961619
- Title: Squirrel: A Switching Hyperparameter Optimizer
- Title(参考訳): Squirrel: スイッチングハイパーパラメータ最適化器
- Authors: Noor Awad, Gresa Shala, Difan Deng, Neeratyoy Mallik, Matthias Feurer,
Katharina Eggensperger, Andre' Biedenkapp, Diederick Vermetten, Hao Wang,
Carola Doerr, Marius Lindauer, Frank Hutter
- Abstract要約: 異なる問題がうまく機能するという事実に感銘を受け、私たちのアプローチは異なるニックネームを切り替えます。
コンペティションのリーダーボードのチーム名がランダムに生成されたので、私たちはSquirrelを切り替えるアプローチ、またはここで略してSquirrelと呼びました。
- 参考スコア(独自算出の注目度): 26.80756487706382
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this short note, we describe our submission to the NeurIPS 2020 BBO
challenge. Motivated by the fact that different optimizers work well on
different problems, our approach switches between different optimizers. Since
the team names on the competition's leaderboard were randomly generated
"alliteration nicknames", consisting of an adjective and an animal with the
same initial letter, we called our approach the Switching Squirrel, or here,
short, Squirrel.
- Abstract(参考訳): 本稿では,NeurIPS 2020 BBOチャレンジへの応募について述べる。
異なるオプティマイザが異なる問題に対してうまく機能するという事実に動機づけられ、アプローチは異なるオプティマイザを切り替えます。
コンテストのリーダーボードのチーム名は、形容詞と同じ初期文字を持つ動物からなるランダムに生成された「発音のあだ名」であったので、我々はこのアプローチをスイッチングリス、またはここでは短いリスと呼んだ。
関連論文リスト
- Adaptive Private-K-Selection with Adaptive K and Application to
Multi-label PATE [19.344510696808282]
我々は、差分的にプライベートなトップ$k$選択のためのエンドツーエンドのRenyi DPベースのフレームワークを提供する。
提案手法は,従来のトップ$選択アルゴリズムと比較して,プライバシとユーティリティのトレードオフを改善していることを示す。
論文 参考訳(メタデータ) (2022-03-30T07:11:01Z) - Seq-2-Seq based Refinement of ASR Output for Spoken Name Capture [16.820137311298172]
発声者の発声者から人名を抽出する手法を提案する。
そこで本研究では,スペル修正や不規則除去,テキスト正規化などの作業から着想を得た軽量なSeq-2-Seqシステムを提案する。
論文 参考訳(メタデータ) (2022-03-29T18:04:51Z) - Optimizer Amalgamation [124.33523126363728]
私たちは、Amalgamationという新しい問題の研究を動機付けています。"Teacher"アマルガメーションのプールを、より強力な問題固有のパフォーマンスを持つ単一の"学生"にどのように組み合わせるべきなのでしょうか?
まず、勾配降下による解析のプールをアマルガメートする3つの異なるメカニズムを定義する。
また, プロセスの分散を低減するため, 目標を摂動させることでプロセスの安定化を図る。
論文 参考訳(メタデータ) (2022-03-12T16:07:57Z) - Semantic-Preserving Adversarial Text Attacks [85.32186121859321]
深層モデルの脆弱性を調べるために, Bigram と Unigram を用いた適応的セマンティック保存最適化法 (BU-SPO) を提案する。
提案手法は,既存手法と比較して最小の単語数を変更することで,攻撃成功率とセマンティックス率を最大化する。
論文 参考訳(メタデータ) (2021-08-23T09:05:18Z) - Cross-domain Speech Recognition with Unsupervised Character-level
Distribution Matching [60.8427677151492]
2つの領域における各文字間の微粒化適応を行うための文字レベルの分布マッチング手法であるCMatchを提案する。
Libri-Adaptデータセットを用いた実験の結果,提案手法はクロスデバイスとクロス環境の両方で14.39%,16.50%の単語誤り率(WER)を低減できることがわかった。
論文 参考訳(メタデータ) (2021-04-15T14:36:54Z) - From Synthetic to Real: Unsupervised Domain Adaptation for Animal Pose
Estimation [67.39635503744395]
動物のポーズ推定は近年注目を集めている重要な分野である。
既存の作品は、合成データのような他のアクセスしやすいドメインのデータから生成される擬似ラベルでこの問題を回避する。
合成データと実データ間の領域ギャップを低減するために,マルチスケールドメイン適応モジュール (MDAM) を設計する。
具体的には、内部粗更新ループにおける自己蒸留モジュールと外部微更新ループにおける平均教師を提案し、古いものを徐々に置き換える新しい擬似ラベルを生成する。
論文 参考訳(メタデータ) (2021-03-27T08:39:43Z) - Revisiting Smoothed Online Learning [70.09792747315323]
オンライン学習者がヒットコストとスイッチングコストの両方に苦しむスムーズなオンライン学習の問題を調査します。
競争比を縛るために、各ラウンドで打つコストが学習者に知られていると仮定し、打つコストと切り換えコストの重み付け合計を単純に最小化する勾配アルゴリズムを調査します。
論文 参考訳(メタデータ) (2021-02-13T14:15:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。