論文の概要: High Dimensional Level Set Estimation with Bayesian Neural Network

• arxiv url: http://arxiv.org/abs/2012.09973v1
• Date: Thu, 17 Dec 2020 23:21:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-02 07:37:29.399266
• Title: High Dimensional Level Set Estimation with Bayesian Neural Network
• Title（参考訳）: ベイズニューラルネットワークを用いた高次元レベルセット推定
• Authors: Huong Ha, Sunil Gupta, Santu Rana, Svetha Venkatesh
• Abstract要約: 本稿では,ベイズニューラルネットワークを用いた高次元レベル集合推定問題を解く新しい手法を提案する。 各問題に対して対応する理論情報に基づく取得関数を導出してデータポイントをサンプリングする。 合成データセットと実世界データセットの数値実験により,提案手法は既存手法よりも優れた結果が得られることが示された。
• 参考スコア（独自算出の注目度）: 58.684954492439424
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Level Set Estimation (LSE) is an important problem with applications in various fields such as material design, biotechnology, machine operational testing, etc. Existing techniques suffer from the scalability issue, that is, these methods do not work well with high dimensional inputs. This paper proposes novel methods to solve the high dimensional LSE problems using Bayesian Neural Networks. In particular, we consider two types of LSE problems: (1) \textit{explicit} LSE problem where the threshold level is a fixed user-specified value, and, (2) \textit{implicit} LSE problem where the threshold level is defined as a percentage of the (unknown) maximum of the objective function. For each problem, we derive the corresponding theoretic information based acquisition function to sample the data points so as to maximally increase the level set accuracy. Furthermore, we also analyse the theoretical time complexity of our proposed acquisition functions, and suggest a practical methodology to efficiently tune the network hyper-parameters to achieve high model accuracy. Numerical experiments on both synthetic and real-world datasets show that our proposed method can achieve better results compared to existing state-of-the-art approaches.
• Abstract（参考訳）: レベルセット推定(LSE)は、材料設計、バイオテクノロジー、機械操作テストなど様々な分野の応用において重要な問題である。 既存の技術ではスケーラビリティの問題、すなわちこれらの手法は高次元入力ではうまく動作しない。 本稿では,ベイズニューラルネットワークを用いた高次元LSE問題の解法を提案する。 特に, (1) しきい値レベルが固定ユーザ指定値である場合の \textit{explicit} lse問題, (2) 目標関数の(未知)最大値の割合として閾値が定義される場合の \textit{implicit} lse問題である。 各問題に対して対応する理論情報に基づく取得関数を導出してデータポイントをサンプリングし、レベル設定精度を最大に向上させる。 さらに,提案する取得関数の理論的時間複雑性を解析し,ネットワークハイパーパラメータを効率的に調整し,高いモデル精度を達成するための実用的な手法を提案する。 合成データと実世界のデータの両方における数値実験により,提案手法が従来の最先端手法よりも優れた結果が得られることを示した。

関連論文リスト

• Trainability maximization using estimation of distribution algorithms assisted by surrogate modelling for quantum architecture search [8.226785409557598]
  量子アーキテクチャサーチ(QAS)は、量子パラメトリック回路の構成を最適化するだけでなく、変分量子アルゴリズムのパラメータも最適化する。 本稿では,(1)粗悪な性能のアーキテクチャを積極的に破棄する評価プロセスのオンラインサロゲートモデルによる測定数を削減し,(2)BPが存在する場合の回路のトレーニングを避けることを目的とした。 我々は、変分量子固有解法の提案を実験的に検証し、我々のアルゴリズムがハミルトニアンの文献でこれまで提案されていた解を見つけることができることを示した。
  論文  参考訳（メタデータ） (2024-07-29T15:22:39Z)
• Robust Analysis of Multi-Task Learning Efficiency: New Benchmarks on Light-Weighed Backbones and Effective Measurement of Multi-Task Learning Challenges by Feature Disentanglement [69.51496713076253]
  本稿では,既存のMTL手法の効率性に焦点をあてる。 バックボーンを小さくしたメソッドの大規模な実験と,MetaGraspNetデータセットを新しいテストグラウンドとして実施する。 また,MTLにおける課題の新規かつ効率的な識別子として,特徴分散尺度を提案する。
  論文  参考訳（メタデータ） (2024-02-05T22:15:55Z)
• An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
  本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。 新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。 導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• Effective Bilevel Optimization via Minimax Reformulation [23.5093932552053]
  ミニマックス問題としてバイレベル最適化の再構成を提案する。 穏やかな条件下では、これらの2つの問題が等価であることを示す。 提案手法は, 計算コストを大幅に削減しつつ, 最先端の2段階法より優れる。
  論文  参考訳（メタデータ） (2023-05-22T15:41:33Z)
• Scalable Bayesian Meta-Learning through Generalized Implicit Gradients [64.21628447579772]
  Inlicit Bayesian Meta-learning (iBaML) 法は、学習可能な事前のスコープを広げるだけでなく、関連する不確実性も定量化する。 解析誤差境界は、明示的よりも一般化された暗黙的勾配の精度と効率を示すために確立される。
  論文  参考訳（メタデータ） (2023-03-31T02:10:30Z)
• Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge Computing: A Contextual-Bandit Approach [81.5261621619557]
  階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。 まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。 そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
  論文  参考訳（メタデータ） (2021-08-09T08:45:47Z)
• Offline Model-Based Optimization via Normalized Maximum Likelihood Estimation [101.22379613810881]
  データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。 この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。 我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
  論文  参考訳（メタデータ） (2021-02-16T06:04:27Z)
• An Information-Theoretic Framework for Unifying Active Learning Problems [44.758281991246825]
  本稿では,アクティブラーニング問題を統合するための情報理論的枠組みを提案する。 まず、既存のLSEアルゴリズムを推定する新しいアクティブ学習基準を紹介します。 LSEとBOの関係を利用して、BOのための競合情報理論獲得関数を設計する。
  論文  参考訳（メタデータ） (2020-12-19T14:22:48Z)
• Active Importance Sampling for Variational Objectives Dominated by Rare Events: Consequences for Optimization and Generalization [12.617078020344618]
  本稿では,レアイベントサンプリング手法とニューラルネットワーク最適化を組み合わせて,レアイベントに支配される目的関数を最適化する手法を提案する。 重要度サンプリングは学習問題に対する解の分散を減少させ,一般化の利点を示唆することを示す。 数値実験により,高次元データと希少データの複合化が困難である場合でも,学習を成功させることができた。
  論文  参考訳（メタデータ） (2020-08-11T23:38:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。