論文の概要: HyperTendril: Visual Analytics for User-Driven Hyperparameter Optimization of Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2009.02078v2
• Date: Fri, 18 Sep 2020 08:29:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-22 02:17:09.989828
• Title: HyperTendril: Visual Analytics for User-Driven Hyperparameter Optimization of Deep Neural Networks
• Title（参考訳）: hypertendril:ディープニューラルネットワークのユーザ駆動ハイパーパラメータ最適化のためのビジュアル分析
• Authors: Heungseok Park, Yoonsoo Nam, Ji-Hoon Kim, Jaegul Choo
• Abstract要約: HyperTendrilはWebベースのビジュアル分析システムで、ユーザ主導のハイパーパラメータチューニングプロセスをサポートする。 我々は,HyperTendrilが,プロフェッショナルな産業環境にシステムを展開する際に,対話ログの分析と詳細なインタビューに基づいて,縦断的なユーザスタディを通じて,ユーザのチューニングプロセスのステアリングを支援する方法を示す。
• 参考スコア（独自算出の注目度）: 36.047441272704205
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To mitigate the pain of manually tuning hyperparameters of deep neural networks, automated machine learning (AutoML) methods have been developed to search for an optimal set of hyperparameters in large combinatorial search spaces. However, the search results of AutoML methods significantly depend on initial configurations, making it a non-trivial task to find a proper configuration. Therefore, human intervention via a visual analytic approach bears huge potential in this task. In response, we propose HyperTendril, a web-based visual analytics system that supports user-driven hyperparameter tuning processes in a model-agnostic environment. HyperTendril takes a novel approach to effectively steering hyperparameter optimization through an iterative, interactive tuning procedure that allows users to refine the search spaces and the configuration of the AutoML method based on their own insights from given results. Using HyperTendril, users can obtain insights into the complex behaviors of various hyperparameter search algorithms and diagnose their configurations. In addition, HyperTendril supports variable importance analysis to help the users refine their search spaces based on the analysis of relative importance of different hyperparameters and their interaction effects. We present the evaluation demonstrating how HyperTendril helps users steer their tuning processes via a longitudinal user study based on the analysis of interaction logs and in-depth interviews while we deploy our system in a professional industrial environment.
• Abstract（参考訳）: ディープニューラルネットワークのハイパーパラメータを手動でチューニングする手間を軽減するため、大規模な組合せ探索空間において最適なハイパーパラメータセットを探すために、自動機械学習(AutoML)手法が開発された。 しかし、AutoMLメソッドの検索結果は初期設定に大きく依存しているため、適切な設定を見つけるのは簡単ではない。 したがって、視覚分析アプローチによる人間の介入は、このタスクにおいて大きな可能性を秘めている。 そこで本研究では,ユーザ主導型ハイパーパラメータチューニングプロセスをサポートするWebベースのビジュアル分析システムHyperTendrilを提案する。 HyperTendrilは、ユーザが与えられた結果から自身の洞察に基づいて検索空間とAutoMLメソッドの設定を洗練できる反復的インタラクティブなチューニング手順を通じて、ハイパーパラメータ最適化を効果的に操る新しいアプローチを採用している。 HyperTendrilを使うことで、ユーザは様々なハイパーパラメータ検索アルゴリズムの複雑な振る舞いに関する洞察を得て、設定を診断できる。 さらに、HyperTendrilは、異なるハイパーパラメータの相対的重要性とそれらの相互作用効果の分析に基づいて、ユーザが検索空間を洗練するための変数重要度分析をサポートする。 本稿では,HyperTendrilが,プロフェッショナルな産業環境にシステムを展開する際に,対話ログの分析と詳細なインタビューに基づく縦断的ユーザスタディを通じて,ユーザがチューニングプロセスの運営を支援する方法を示す。

関連論文リスト

• Hyperparameter Optimization in Machine Learning [34.356747514732966]
  ハイパーパラメータは、機械学習アルゴリズムの振る舞いを制御する設定変数である。 それらの価値の選択は、これらの技術に基づいてシステムの有効性を決定する。 我々はハイパーパラメータ最適化の統一的な処理を行い、読者に最先端技術に関する実例と洞察を提供する。
  論文  参考訳（メタデータ） (2024-10-30T09:39:22Z)
• Efficient Hyperparameter Importance Assessment for CNNs [1.7778609937758323]
  本稿では,畳み込みニューラルネットワーク(CNN)におけるハイパーパラメータの重み付けを,N-RReliefFというアルゴリズムを用いて定量化する。 我々は10の人気のある画像分類データセットから1万以上のCNNモデルをトレーニングし、広範囲にわたる研究を行う。
  論文  参考訳（メタデータ） (2024-10-11T15:47:46Z)
• AutoRL Hyperparameter Landscapes [69.15927869840918]
  強化学習(Reinforcement Learning, RL)は印象的な結果を生み出すことができるが、その使用はハイパーパラメータがパフォーマンスに与える影響によって制限されている。 我々は,これらのハイパーパラメータの景観を1つの時間だけではなく,複数の時間内に構築し,解析する手法を提案する。 これは、ハイパーパラメータがトレーニング中に動的に調整されるべきであるという理論を支持し、ランドスケープ解析によって得られるAutoRL問題に関するさらなる洞察の可能性を示している。
  論文  参考訳（メタデータ） (2023-04-05T12:14:41Z)
• Hyper-Parameter Auto-Tuning for Sparse Bayesian Learning [72.83293818245978]
  我々は、疎ベイズ学習におけるハイパーパラメータチューニングのためのニューラルネットワーク(NN)ベースのオートチューニングを設計し、学習する。 コンバージェンス率とリカバリ性能の大幅な向上が達成できることを示す。
  論文  参考訳（メタデータ） (2022-11-09T12:34:59Z)
• Goal-Oriented Sensitivity Analysis of Hyperparameters in Deep Learning [0.0]
  Hilbert-Schmidt Independence Criterion (HSIC) に基づく目標指向感度分析のハイパーパラメータ解析および最適化への応用について検討した。 MNISTやCifar、古典的な機械学習データセットに応用したHSICに基づく最適化アルゴリズムを導出し、科学的な機械学習に関心を持つ。
  論文  参考訳（メタデータ） (2022-07-13T14:21:12Z)
• AUTOMATA: Gradient Based Data Subset Selection for Compute-Efficient Hyper-parameter Tuning [72.54359545547904]
  ハイパーパラメータチューニングのための勾配に基づくサブセット選択フレームワークを提案する。 ハイパーパラメータチューニングに勾配ベースのデータサブセットを用いることで、3$times$-30$times$のターンアラウンド時間とスピードアップが大幅に向上することを示す。
  論文  参考訳（メタデータ） (2022-03-15T19:25:01Z)
• HyperNP: Interactive Visual Exploration of Multidimensional Projection Hyperparameters [61.354362652006834]
  HyperNPは、ニューラルネットワーク近似をトレーニングすることで、プロジェクションメソッドをリアルタイムにインタラクティブに探索できるスケーラブルな方法である。 我々は3つのデータセット間でのHyperNPの性能を,性能と速度の観点から評価した。
  論文  参考訳（メタデータ） (2021-06-25T17:28:14Z)
• Guided Hyperparameter Tuning Through Visualization and Inference [12.035299005299306]
  本稿では,ディープラーニングの実践者がハイパーパラメータをより効率的に探索し,チューニングし,最適化することができる可視化システムを提案する。 鍵となる考え方は、予測メカニズムを使用して、より最適なハイパーパラメータを直接提案することである。 私たちはこのツールをディープラーニングモデルビルダーに関するユーザスタディで評価し、私たちの参加者はツールの採用にほとんど問題がなく、ワークフローの一部として作業しています。
  論文  参考訳（メタデータ） (2021-05-24T19:55:24Z)
• HyperSTAR: Task-Aware Hyperparameters for Deep Networks [52.50861379908611]
  HyperSTARは、ディープニューラルネットワークのためのHPOをウォームスタートするタスク認識方式である。 生の画像から直接、データセット(タスク)表現とパフォーマンス予測器を学習する。 既存のメソッドと比較して、最高のパフォーマンスを達成するために、構成を50%少なく評価する。
  論文  参考訳（メタデータ） (2020-05-21T08:56:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。