論文の概要: PyTorch Hyperparameter Tuning - A Tutorial for spotPython

• arxiv url: http://arxiv.org/abs/2305.11930v2
• Date: Wed, 7 Jun 2023 14:25:19 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-08 18:27:02.874229
• Title: PyTorch Hyperparameter Tuning - A Tutorial for spotPython
• Title（参考訳）: PyTorch Hyperparameter Tuning - SpotPython用チュートリアル
• Authors: Thomas Bartz-Beielstein
• Abstract要約: このチュートリアルには、実験を実行し、ハイパーパラメータをチューニングするためのPythonライブラリであるRay Tuneとの簡単な比較が含まれている。 spotPythonはRay Tuneよりも柔軟で透明でありながら、同じような、あるいはさらに優れた結果が得られることを示しています。
• 参考スコア（独自算出の注目度）: 0.20305676256390928
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The goal of hyperparameter tuning (or hyperparameter optimization) is to optimize the hyperparameters to improve the performance of the machine or deep learning model. spotPython (``Sequential Parameter Optimization Toolbox in Python'') is the Python version of the well-known hyperparameter tuner SPOT, which has been developed in the R programming environment for statistical analysis for over a decade. PyTorch is an optimized tensor library for deep learning using GPUs and CPUs. This document shows how to integrate the spotPython hyperparameter tuner into the PyTorch training workflow. As an example, the results of the CIFAR10 image classifier are used. In addition to an introduction to spotPython, this tutorial also includes a brief comparison with Ray Tune, a Python library for running experiments and tuning hyperparameters. This comparison is based on the PyTorch hyperparameter tuning tutorial. The advantages and disadvantages of both approaches are discussed. We show that spotPython achieves similar or even better results while being more flexible and transparent than Ray Tune.
• Abstract（参考訳）: ハイパーパラメータチューニング(ハイパーパラメータ最適化)の目標は、ハイパーパラメータを最適化して、マシンやディープラーニングモデルの性能を改善することである。 spotPython (``Sequential Parameter Optimization Toolbox in Python'') は、Rプログラミング環境において10年以上にわたって統計解析のために開発された、よく知られたハイパーパラメータチューナーSPOTのPythonバージョンである。 PyTorchは、GPUとCPUを使用したディープラーニングのための最適化されたテンソルライブラリである。 このドキュメントは、SpotPythonハイパーパラメータチューナをPyTorchトレーニングワークフローに統合する方法を示している。 例として、cifar10画像分類器の結果を用いる。 spotPythonの紹介に加えて、このチュートリアルには、実験とハイパーパラメータのチューニングを行うPythonライブラリであるRay Tuneとの簡単な比較も含まれている。 この比較は、PyTorchハイパーパラメータチューニングチュートリアルに基づいている。 両アプローチの長所と短所について論じる。 spotPythonはRay Tuneよりも柔軟で透明でありながら、同じような、あるいはさらに優れた結果が得られることを示す。

関連論文リスト

• depyf: Open the Opaque Box of PyTorch Compiler for Machine Learning Researchers [92.13613958373628]
  textttdepyfは、PyTorchコンパイラの内部動作を復号化するためのツールである。 textttdepyfは、PyTorchが生成したバイトコードを等価なソースコードに逆コンパイルする。
  論文  参考訳（メタデータ） (2024-03-14T16:17:14Z)
• Hyperparameter Tuning Cookbook: A guide for scikit-learn, PyTorch, river, and spotPython [0.20305676256390928]
  このドキュメントは、Scikit-learn、PyTorch、RiverのSpotPythonを使ったハイパーパラメータチューニングのガイドを提供する。 ハンズオンのアプローチとステップバイステップの説明により、この料理本は実践的な出発点となる。
  論文  参考訳（メタデータ） (2023-07-17T16:20:27Z)
• Python Tool for Visualizing Variability of Pareto Fronts over Multiple Runs [1.370633147306388]
  経験的達成サーフェスのためのPythonパッケージを開発した。 パッケージはhttps://github.com/nabe0928/empirical-attainment-funcで入手できる。
  論文  参考訳（メタデータ） (2023-05-15T17:59:34Z)
• PyHopper -- Hyperparameter optimization [51.40201315676902]
  我々は機械学習研究者のためのブラックボックス最適化プラットフォームであるPyHopperを紹介する。 PyHopperの目標は、最小限の労力で既存のコードと統合し、最小限のマニュアル監視で最適化プロセスを実行することである。 単純さを主テーマとして、PyHopperは単一のロバストなマルコフチェーンモンテカルロ最適化アルゴリズムを利用している。
  論文  参考訳（メタデータ） (2022-10-10T14:35:01Z)
• PyHHMM: A Python Library for Heterogeneous Hidden Markov Models [63.01207205641885]
  PyHHMM は Heterogeneous-Hidden Markov Models (HHMM) のオブジェクト指向Python実装である。 PyHHMMは、異種観測モデル、データ推論の欠如、異なるモデルの順序選択基準、半教師付きトレーニングなど、同様のフレームワークではサポートされない機能を強調している。 PyHHMMは、numpy、scipy、scikit-learn、およびシーボーンPythonパッケージに依存しており、Apache-2.0ライセンスの下で配布されている。
  論文  参考訳（メタデータ） (2022-01-12T07:32:36Z)
• HyperNP: Interactive Visual Exploration of Multidimensional Projection Hyperparameters [61.354362652006834]
  HyperNPは、ニューラルネットワーク近似をトレーニングすることで、プロジェクションメソッドをリアルタイムにインタラクティブに探索できるスケーラブルな方法である。 我々は3つのデータセット間でのHyperNPの性能を,性能と速度の観点から評価した。
  論文  参考訳（メタデータ） (2021-06-25T17:28:14Z)
• Surrogate Model Based Hyperparameter Tuning for Deep Learning with SPOT [0.40611352512781856]
  本稿では、Keras/tensorflowで実装されたディープラーニングモデルのアーキテクチャレベルのパラメータをどのように最適化できるかを示す。 チューニング手順の実装は、統計コンピューティングのソフトウェア環境であるRに基づいて100%である。
  論文  参考訳（メタデータ） (2021-05-30T21:16:51Z)
• Using Python for Model Inference in Deep Learning [0.6027358520885614]
  pythonで推論を実行しながら、パフォーマンスとパッケージングの制約を満たす方法を示します。 複数のPythonインタプリタを単一のプロセスで使用して,スケーラブルな推論を実現する方法を提案する。
  論文  参考訳（メタデータ） (2021-04-01T04:48:52Z)
• PHS: A Toolbox for Parallel Hyperparameter Search [2.0305676256390934]
  PHS - Parallel Hyperparameter Search というオープンソースのpythonフレームワークを紹介した。 これは任意のピソン関数の多数の計算インスタンスに対してハイパーパラメータ最適化を可能にする。
  論文  参考訳（メタデータ） (2020-02-26T12:17:54Z)
• MOGPTK: The Multi-Output Gaussian Process Toolkit [71.08576457371433]
  ガウス過程(GP)を用いたマルチチャネルデータモデリングのためのPythonパッケージMOGPTKを提案する。 このツールキットの目的は、研究者、データサイエンティスト、実践者にもMOGP(multi-output GP)モデルを利用できるようにすることである。
  論文  参考訳（メタデータ） (2020-02-09T23:34:49Z)
• OPFython: A Python-Inspired Optimum-Path Forest Classifier [68.8204255655161]
  本稿では,OPFythonと表記されるPythonベースのOptimum-Path Forestフレームワークを提案する。 OPFythonはPythonベースのライブラリなので、C言語よりもフレンドリーな環境とプロトタイピングの作業スペースを提供する。
  論文  参考訳（メタデータ） (2020-01-28T15:46:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。