論文の概要: Multi-Objective Hyperparameter Selection via Hypothesis Testing on Reliability Graphs

• arxiv url: http://arxiv.org/abs/2501.13018v1
• Date: Wed, 22 Jan 2025 17:05:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-23 13:27:54.905823
• Title: Multi-Objective Hyperparameter Selection via Hypothesis Testing on Reliability Graphs
• Title（参考訳）: 信頼性グラフを用いた仮説テストによる多目的ハイパーパラメータ選択
• Authors: Amirmohammad Farzaneh, Osvaldo Simeone,
• Abstract要約: センシティブなアプリケーションドメインでは、マルチオブジェクトのハイパーパラメータ選択によって、デプロイ前にAIモデルの信頼性を確保することができる。 本稿では,有向非巡回グラフ(DAG)を用いた多目的ハイパーパラメータ選択のための新しいフレームワークを提案する。 FDR(False Discovery Rate)制御を統合することで、RG-PTは堅牢な統計的信頼性を保証するとともに、さまざまな領域にわたる実験を通じて表示される。
• 参考スコア（独自算出の注目度）: 35.59201763567714
• License:
• Abstract: In sensitive application domains, multi-objective hyperparameter selection can ensure the reliability of AI models prior to deployment, while optimizing auxiliary performance metrics. The state-of-the-art Pareto Testing (PT) method guarantees statistical reliability constraints by adopting a multiple hypothesis testing framework. In PT, hyperparameters are validated one at a time, following a data-driven order determined by expected reliability levels. This paper introduces a novel framework for multi-objective hyperparameter selection that captures the interdependencies among the reliability levels of different hyperparameter configurations using a directed acyclic graph (DAG), which is termed the reliability graph (RG). The RG is constructed based on prior information and data by using the Bradley-Terry model. The proposed approach, RG-based PT (RG-PT), leverages the RG to enable the efficient, parallel testing of multiple hyperparameters at the same reliability level. By integrating False Discovery Rate (FDR) control, RG-PT ensures robust statistical reliability guarantees and is shown via experiments across diverse domains to consistently yield superior solutions for multi-objective calibration problems.
• Abstract（参考訳）: センシティブなアプリケーションドメインでは、マルチオブジェクトのハイパーパラメータ選択がデプロイメント前にAIモデルの信頼性を確保し、補助的なパフォーマンスメトリクスを最適化する。 最先端のPareto Testing(PT)メソッドは、複数の仮説テストフレームワークを採用することで、統計的信頼性の制約を保証する。 PTでは、期待される信頼性レベルによって決定されるデータ駆動順序に従って、ハイパーパラメータを一度に検証する。 本稿では、多目的ハイパーパラメータ選択のための新しいフレームワークを提案する。これは、信頼グラフ(RG)と呼ばれる有向非巡回グラフ(DAG)を用いて、異なるハイパーパラメータ構成の信頼性レベル間の相互依存性をキャプチャする。 RGはBradley-Terryモデルを用いて事前情報とデータに基づいて構築される。 提案手法であるRG-PT(RG-PT)は、RGを利用して、複数のハイパーパラメータを同一の信頼性レベルで効率よく並列にテストできるようにする。 FDR(False Discovery Rate)制御を統合することにより、RG-PTは統計的信頼性を保証するとともに、多目的キャリブレーション問題に対する優れた解を一貫して得られるように、様々な領域の実験を通して示される。

関連論文リスト

• Statistical Inference for Temporal Difference Learning with Linear Function Approximation [62.69448336714418]
  時間差差(TD)学習は、おそらく政策評価に最も広く使用されるものであり、この目的の自然な枠組みとして機能する。 本稿では,Polyak-Ruppert平均化と線形関数近似によるTD学習の整合性について検討し,既存の結果よりも3つの重要な改善点を得た。
  論文  参考訳（メタデータ） (2024-10-21T15:34:44Z)
• Quantile Learn-Then-Test: Quantile-Based Risk Control for Hyperparameter Optimization [36.14499894307206]
  この研究は、リスク尺度の量子化に関する統計的保証を提供するために設計された、Learning-then-test (LTT)の変種を導入する。 本稿では,提案アルゴリズムを無線アクセススケジューリング問題に適用することにより,本手法の実用的利点について述べる。
  論文  参考訳（メタデータ） (2024-07-24T15:30:12Z)
• On the consistency of hyper-parameter selection in value-based deep reinforcement learning [13.133865673667394]
  本稿では,値に基づく深層強化学習エージェントのハイパーパラメータ選択の信頼性に着目した実証的研究を行う。 我々の研究は、どのハイパーパラメーターがチューニングに最も重要かを確立するのに役立ち、どのチューニングが異なるトレーニング体制間で一貫性を持ち続けるかを明らかにするのに役立ちます。
  論文  参考訳（メタデータ） (2024-06-25T13:06:09Z)
• High-Dimensional False Discovery Rate Control for Dependent Variables [10.86851797584794]
  本稿では,変数間の依存関係構造を利用した依存性認識型T-Rexセレクタを提案する。 可変ペナル化機構がFDR制御を保証することを実証する。 グラフィカルモデルとT-Rexフレームワークのパラメータを同時に決定する完全統合最適キャリブレーションアルゴリズムを定式化する。
  論文  参考訳（メタデータ） (2024-01-28T22:56:16Z)
• Efficient and Robust Bayesian Selection of Hyperparameters in Dimension Reduction for Visualization [0.0]
  本稿では,次元減少(DR)アルゴリズムにおけるハイパーパラメータ選択のための,効率的かつ堅牢な自動チューニングフレームワークを提案する。 提案手法により,多目的トレードオフを用いた効率的なハイパーパラメータ選択が可能となり,データ駆動分析が可能となった。 我々は,複数の品質指標を用いて,様々な合成および実世界のデータセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2023-06-01T05:36:22Z)
• Efficiently Controlling Multiple Risks with Pareto Testing [34.83506056862348]
  本稿では,多目的最適化と複数仮説テストを組み合わせた2段階プロセスを提案する。 自然言語処理(NLP)アプリケーションにおいて,大規模トランスフォーマーモデルの実行を確実に高速化する手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-10-14T15:54:39Z)
• AUTOMATA: Gradient Based Data Subset Selection for Compute-Efficient Hyper-parameter Tuning [72.54359545547904]
  ハイパーパラメータチューニングのための勾配に基づくサブセット選択フレームワークを提案する。 ハイパーパラメータチューニングに勾配ベースのデータサブセットを用いることで、3$times$-30$times$のターンアラウンド時間とスピードアップが大幅に向上することを示す。
  論文  参考訳（メタデータ） (2022-03-15T19:25:01Z)
• Differential privacy and robust statistics in high dimensions [49.50869296871643]
  高次元Propose-Test-Release (HPTR) は指数的メカニズム、頑健な統計、Propose-Test-Release メカニズムという3つの重要なコンポーネントの上に構築されている。 本論文では,HPTRが複数のシナリオで最適サンプル複雑性をほぼ達成していることを示す。
  論文  参考訳（メタデータ） (2021-11-12T06:36:40Z)
• Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
  generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。 ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。 ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
  論文  参考訳（メタデータ） (2021-04-12T16:23:37Z)
• Stochastic-Sign SGD for Federated Learning with Theoretical Guarantees [49.91477656517431]
  量子化に基づく解法は、フェデレートラーニング(FL)において広く採用されている。 上記のプロパティをすべて享受する既存のメソッドはありません。 本稿では,SIGNSGDに基づく直感的かつ理論的に簡易な手法を提案し,そのギャップを埋める。
  論文  参考訳（メタデータ） (2020-02-25T15:12:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。