論文の概要: Which Hyperparameters Matter? A Game-Theoretic Framework for Interpretable Hyperparameter Sensitivity Analysis
- arxiv url: http://arxiv.org/abs/2607.15884v1
- Date: Fri, 17 Jul 2026 11:58:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.843324
- Title: Which Hyperparameters Matter? A Game-Theoretic Framework for Interpretable Hyperparameter Sensitivity Analysis
- Title(参考訳): ハイパーパラメータが重要か? 解釈可能なハイパーパラメータ感度分析のためのゲーム理論フレームワーク
- Abstract要約: 本研究では,ハイパーパラメータ・オブジェクト間相互作用解析のためのゲーム理論フレームワークを提案する。
提案フレームワークは,対象を意識したハイパーパラメータ相互作用の解釈可能な洞察を提供し,実践者がその後の最適化をガイドし,探索空間を縮小することを可能にする。
提案フレームワークの有効性は、多目的設定下で異なる問題領域にわたる3つの異なるニューラルネットワークアーキテクチャを用いて実証される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work presents a game-theoretic framework for interpretable hyperparameter-objective interaction analysis rather than proposing a new optimization algorithm. In the proposed framework, Shapley Effects are employed for global sensitivity analysis, while Pareto front sets are utilized to identify effective hyperparameter configurations and support early-stage model evaluation. The resulting analysis reveals which players (hyperparameters) are most influential with respect to different objectives in a given game (application). Consequently, the proposed framework provides interpretable insights into objective-aware hyperparameter interactions, enabling practitioners to guide subsequent optimization, reduce the search space, and perform early-stage model evaluation. The effectiveness of the proposed framework is demonstrated using three distinct neural network architectures across different problem domains under multi-objective settings.
- Abstract(参考訳): 本研究は,新しい最適化アルゴリズムを提案するのではなく,解釈可能なハイパーパラメータ・オブジェクト間相互作用解析のためのゲーム理論フレームワークを提案する。
提案フレームワークでは,シャプリーエフェクトをグローバル感度解析に利用し,パレートフロントセットを用いて効果的なハイパーパラメータ構成を同定し,早期モデル評価をサポートする。
その結果、プレイヤー(ハイパーパラメータ)が特定のゲーム(アプリケーション)の異なる目的に対して最も影響力を持つかが明らかになった。
その結果、提案フレームワークは、客観的なハイパーパラメータ相互作用の解釈可能な洞察を提供し、実践者がその後の最適化をガイドし、探索空間を縮小し、早期モデル評価を行うことができる。
提案フレームワークの有効性は、多目的設定下で異なる問題領域にわたる3つの異なるニューラルネットワークアーキテクチャを用いて実証される。
関連論文リスト
- Joint Surrogate Learning of Objectives, Constraints, and Sensitivities for Efficient Multi-objective Optimization of Neural Dynamical Systems [5.875902463027425]
生物物理学のニューラルネットワークシミュレーションは、最も計算に要求される科学応用の1つである。
DMOSOPTは、統一された学習されたサロゲートモデルを活用するスケーラブルな最適化フレームワークである。
計算神経科学の文脈において動機付けられ、実証される一方で、このフレームワークは一般に、制約付き多目的最適化問題に適用できる。
論文 参考訳(メタデータ) (2026-03-22T00:06:28Z) - Structural bias in multi-objective optimisation [5.869782631289138]
構造バイアス (Structure bias, SB) とは、探索空間の特定の領域に対して最適化アルゴリズムを体系的に選好することを指す。
SBは単目的最適化において広範囲に研究されているが、多目的最適化におけるその役割はほとんど解明されていない。
本稿では、構造バイアスの概念を多目的設定に拡張し、フィットネス駆動誘導から分離して研究する手法を提案する。
論文 参考訳(メタデータ) (2026-02-06T14:43:28Z) - Continual Adaptation: Environment-Conditional Parameter Generation for Object Detection in Dynamic Scenarios [54.58186816693791]
環境は時間と空間によって常に変化し、クローズドセットの仮定に基づいて訓練された物体検出器にとって重要な課題となる。
そこで本研究では,微調整過程をパラメータ生成に変換する機構を提案する。
特に,2経路LoRAベースのドメイン認識アダプタを最初に設計し,特徴をドメイン不変およびドメイン固有コンポーネントに分解する。
論文 参考訳(メタデータ) (2025-06-30T17:14:12Z) - Tuning for Trustworthiness -- Balancing Performance and Explanation Consistency in Neural Network Optimization [49.567092222782435]
我々は,異なる特徴帰属法間の合意として定義された,XAI整合性という新しい概念を紹介する。
予測性能と説明のバランスをとる多目的最適化フレームワークを構築した。
本研究は、トレードオフゾーンバランス性能損失とXAI整合性による強靭性向上のモデルについて、今後の研究基盤を提供する。
論文 参考訳(メタデータ) (2025-05-12T13:19:14Z) - Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。
私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。
最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
論文 参考訳(メタデータ) (2024-07-08T12:32:51Z) - Hyperparameter Importance Analysis for Multi-Objective AutoML [14.336028105614824]
本稿では,多目的最適化タスクにおけるハイパーパラメータの重要性を評価するための最初の手法を提案する。
具体的には、目的のa-prioriスキャラライゼーションを計算し、異なる目的のトレードオフに対するハイパーパラメータの重要性を決定する。
論文 参考訳(メタデータ) (2024-05-13T11:00:25Z) - Interactive Hyperparameter Optimization in Multi-Objective Problems via
Preference Learning [65.51668094117802]
我々は多目的機械学習(ML)に適した人間中心型対話型HPO手法を提案する。
ユーザが自分のニーズに最も適した指標を推測する代わりに、私たちのアプローチは自動的に適切な指標を学習します。
論文 参考訳(メタデータ) (2023-09-07T09:22:05Z) - Interaction-Aware Sensitivity Analysis for Aerodynamic Optimization
Results using Information Theory [0.07614628596146601]
エンジニアリング設計プロセスにおいて重要な問題は、設計パラメータがパフォーマンスに最も影響を与えることを理解することである。
本稿では、最近導入された情報理論手法と推定アルゴリズムを用いて、最適化結果において最も影響力のある入力パラメータを見つけることを提案する。
論文 参考訳(メタデータ) (2021-12-10T15:41:56Z) - Guided Hyperparameter Tuning Through Visualization and Inference [12.035299005299306]
本稿では,ディープラーニングの実践者がハイパーパラメータをより効率的に探索し,チューニングし,最適化することができる可視化システムを提案する。
鍵となる考え方は、予測メカニズムを使用して、より最適なハイパーパラメータを直接提案することである。
私たちはこのツールをディープラーニングモデルビルダーに関するユーザスタディで評価し、私たちの参加者はツールの採用にほとんど問題がなく、ワークフローの一部として作業しています。
論文 参考訳(メタデータ) (2021-05-24T19:55:24Z) - An Empirical Study of Assumptions in Bayesian Optimisation [61.19427472792523]
本研究では,ベイズ最適化に固有の従来的および非慣習的仮定を厳密に分析する。
超パラメータチューニングタスクの大多数は、不均一性と非定常性を示すと結論付けている。
これらの発見が実践者およびこの分野のさらなる研究の指針となることを願っている。
論文 参考訳(メタデータ) (2020-12-07T16:21:12Z) - An Asymptotically Optimal Multi-Armed Bandit Algorithm and
Hyperparameter Optimization [48.5614138038673]
本稿では,高パラメータ探索評価のシナリオにおいて,SS (Sub-Sampling) と呼ばれる効率的で堅牢な帯域幅に基づくアルゴリズムを提案する。
また,BOSSと呼ばれる新しいパラメータ最適化アルゴリズムを開発した。
実験的な研究は、SSの理論的議論を検証し、多くのアプリケーションにおけるBOSSの優れた性能を実証する。
論文 参考訳(メタデータ) (2020-07-11T03:15:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。