論文の概要: Squirrel: A Switching Hyperparameter Optimizer
- arxiv url: http://arxiv.org/abs/2012.08180v2
- Date: Wed, 16 Dec 2020 06:56:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-08 07:58:54.961619
- Title: Squirrel: A Switching Hyperparameter Optimizer
- Title(参考訳): Squirrel: スイッチングハイパーパラメータ最適化器
- Authors: Noor Awad, Gresa Shala, Difan Deng, Neeratyoy Mallik, Matthias Feurer,
Katharina Eggensperger, Andre' Biedenkapp, Diederick Vermetten, Hao Wang,
Carola Doerr, Marius Lindauer, Frank Hutter
- Abstract要約: 異なる問題がうまく機能するという事実に感銘を受け、私たちのアプローチは異なるニックネームを切り替えます。
コンペティションのリーダーボードのチーム名がランダムに生成されたので、私たちはSquirrelを切り替えるアプローチ、またはここで略してSquirrelと呼びました。
- 参考スコア(独自算出の注目度): 26.80756487706382
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this short note, we describe our submission to the NeurIPS 2020 BBO
challenge. Motivated by the fact that different optimizers work well on
different problems, our approach switches between different optimizers. Since
the team names on the competition's leaderboard were randomly generated
"alliteration nicknames", consisting of an adjective and an animal with the
same initial letter, we called our approach the Switching Squirrel, or here,
short, Squirrel.
- Abstract(参考訳): 本稿では,NeurIPS 2020 BBOチャレンジへの応募について述べる。
異なるオプティマイザが異なる問題に対してうまく機能するという事実に動機づけられ、アプローチは異なるオプティマイザを切り替えます。
コンテストのリーダーボードのチーム名は、形容詞と同じ初期文字を持つ動物からなるランダムに生成された「発音のあだ名」であったので、我々はこのアプローチをスイッチングリス、またはここでは短いリスと呼んだ。
関連論文リスト
- Cautious Optimizers: Improving Training with One Line of Code [8.393403749426097]
我々はAdamWをCautious、例えばC-AdamWに改名した。
我々の理論的な洞察によって、全く新しい結果の族が明らかになる。
論文 参考訳(メタデータ) (2024-11-25T04:36:01Z) - Tree Prompting: Efficient Task Adaptation without Fine-Tuning [112.71020326388029]
Tree Promptingはプロンプトの決定ツリーを構築し、複数のLMコールをリンクしてタスクを解決する。
分類データセットの実験により、Tree Promptingは競合するメソッドよりも精度が向上し、微調整と競合することが示された。
論文 参考訳(メタデータ) (2023-10-21T15:18:22Z) - Prompter: Zero-shot Adaptive Prefixes for Dialogue State Tracking Domain
Adaptation [39.19725943585533]
PETLは、その堅牢性のためにこの問題に対処する可能性がある。
PETLはまだゼロショットのシナリオには適用されていない。
提案手法であるPrompterでは,各レイヤの自己保持機構のキーと値に調整された動的プレフィックスを生成するために,ターゲットドメインスロットの記述を用いる。
論文 参考訳(メタデータ) (2023-06-07T18:39:57Z) - Provably Efficient Fictitious Play Policy Optimization for Zero-Sum
Markov Games with Structured Transitions [145.54544979467872]
本研究では,ゼロサムマルコフゲームに対して,構造的だが未知の遷移を伴う架空のプレイポリシー最適化アルゴリズムを提案し,解析する。
我々は、2年制の競争ゲームシナリオで、$K$のエピソードに続き、$widetildemathcalO(sqrtK)$ regret boundsを証明した。
提案アルゴリズムは,アッパー信頼境界(UCB)型最適化と,同時政策最適化の範囲内での架空のプレイの組み合わせを特徴とする。
論文 参考訳(メタデータ) (2022-07-25T18:29:16Z) - Seq-2-Seq based Refinement of ASR Output for Spoken Name Capture [16.820137311298172]
発声者の発声者から人名を抽出する手法を提案する。
そこで本研究では,スペル修正や不規則除去,テキスト正規化などの作業から着想を得た軽量なSeq-2-Seqシステムを提案する。
論文 参考訳(メタデータ) (2022-03-29T18:04:51Z) - Semantic-Preserving Adversarial Text Attacks [85.32186121859321]
深層モデルの脆弱性を調べるために, Bigram と Unigram を用いた適応的セマンティック保存最適化法 (BU-SPO) を提案する。
提案手法は,既存手法と比較して最小の単語数を変更することで,攻撃成功率とセマンティックス率を最大化する。
論文 参考訳(メタデータ) (2021-08-23T09:05:18Z) - Cross-domain Speech Recognition with Unsupervised Character-level
Distribution Matching [60.8427677151492]
2つの領域における各文字間の微粒化適応を行うための文字レベルの分布マッチング手法であるCMatchを提案する。
Libri-Adaptデータセットを用いた実験の結果,提案手法はクロスデバイスとクロス環境の両方で14.39%,16.50%の単語誤り率(WER)を低減できることがわかった。
論文 参考訳(メタデータ) (2021-04-15T14:36:54Z) - Pseudo-Convolutional Policy Gradient for Sequence-to-Sequence
Lip-Reading [96.48553941812366]
唇読解は唇運動系列から音声内容を推測することを目的としている。
seq2seqモデルの伝統的な学習プロセスには2つの問題がある。
本稿では,これら2つの問題に対処するために,PCPGに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2020-03-09T09:12:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。