論文の概要: Deep Active Learning for Scientific Computing in the Wild

• arxiv url: http://arxiv.org/abs/2302.00098v1
• Date: Tue, 31 Jan 2023 20:58:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-02 13:52:14.840364
• Title: Deep Active Learning for Scientific Computing in the Wild
• Title（参考訳）: 野生における科学計算のための深層能動学習
• Authors: Simiao Ren, Yang Deng, Willie J. Padilla, Leslie Collins and Jordan Malof
• Abstract要約: 深層能動学習(DAL)は科学計算問題に対する有望な解決策として認識されている。 本稿では,10の最先端DAL法と8つのベンチマーク問題を用いて,科学計算問題に対するDAL法の堅牢性について検討する。 驚いたことに, DAL法の大部分は, 理想的なプールサイズが不明な場合に, ランダムサンプリングと比較しても頑健ではないことがわかった。
• 参考スコア（独自算出の注目度）: 5.1012485915003545
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Deep learning (DL) is revolutionizing the scientific computing community. To reduce the data gap caused by usually expensive simulations or experimentation, active learning has been identified as a promising solution for the scientific computing community. However, the deep active learning (DAL) literature is currently dominated by image classification problems and pool-based methods, which are not directly transferrable to scientific computing problems, dominated by regression problems with no pre-defined 'pool' of unlabeled data. Here for the first time, we investigate the robustness of DAL methods for scientific computing problems using ten state-of-the-art DAL methods and eight benchmark problems. We show that, to our surprise, the majority of the DAL methods are not robust even compared to random sampling when the ideal pool size is unknown. We further analyze the effectiveness and robustness of DAL methods and suggest that diversity is necessary for a robust DAL for scientific computing problems.
• Abstract（参考訳）: ディープラーニング(DL)は科学コンピューティングコミュニティに革命をもたらしている。 通常高価なシミュレーションや実験によって引き起こされるデータギャップを減らすために、科学計算コミュニティにとって有望な解決策としてアクティブラーニングが特定されている。 しかし、deep active learning (dal)の文献は現在、画像分類問題とプールベースの手法で占められているが、これは科学計算の問題に直接転送することはできない。 ここでは,10の最先端DAL法と8つのベンチマーク問題を用いて,科学計算問題に対するDAL法の堅牢性について検討する。 驚いたことに、DAL法の大部分は、理想的なプールサイズが不明な場合のランダムサンプリングと比較しても堅牢ではない。 さらにDAL手法の有効性とロバスト性を解析し、科学計算問題に対する堅牢なDALには多様性が必要であることを示唆する。

関連論文リスト

• Uncertainty Aware Learning for Language Model Alignment [97.36361196793929]
  異なるタスクシナリオのモデルアライメントを改善するために,不確実性認識学習(UAL)を提案する。 トレーニングのラベルの平滑化値を個々のサンプルの不確実性に応じて適応的に設定する。 広く使われているベンチマーク実験では、我々のUALは標準教師あり微調整よりも著しく優れています。
  論文  参考訳（メタデータ） (2024-06-07T11:37:45Z)
• An Empirical Study on the Efficacy of Deep Active Learning for Image Classification [11.398892277968427]
  ディープアクティブラーニング(DAL)は、教師あり学習におけるラベリングコストを削減するための有望な方法として提唱されている。 既存のDAL手法の評価は異なる設定に基づいており、その結果は議論の余地がある。 本稿では,19の既存DAL手法を一様条件で総合的に評価する。
  論文  参考訳（メタデータ） (2022-11-30T17:44:59Z)
• Towards Unsupervised HPO for Outlier Detection [23.77292404327994]
  我々はメタラーニングに基づくHPODと呼ばれる最初の体系的アプローチを提案する。 HPODは、既存のODベンチマークデータセット上でのHPの大規模なコレクションの以前のパフォーマンスを生かしている。 将来性のあるHPを効率的に特定するために、シーケンシャルなモデルベースの最適化(元々は教師付き)を適用する。
  論文  参考訳（メタデータ） (2022-08-24T18:11:22Z)
• Hyperparameter Sensitivity in Deep Outlier Detection: Analysis and a Scalable Hyper-Ensemble Solution [21.130842136324528]
  我々は,Deep OD法のHP感度に関する最初の大規模解析を行った。 我々は,HP 構成の異なるモデルを組み立てる ROBOD と呼ばれる HP-robust でスケーラブルな深層アンサンブルモデルを設計する。
  論文  参考訳（メタデータ） (2022-06-15T16:46:00Z)
• A Comparative Survey of Deep Active Learning [76.04825433362709]
  Active Learning (AL)は、ラベル付けのための大きなラベル付けされていないデータプールからデータサンプルを順次選択することで、ラベル付けコストを削減するための一連のテクニックである。 ディープラーニング(DL)はデータハングリーであり、DLモデルのパフォーマンスは、より多くのトレーニングデータとともに単調にスケールする。 近年、Deep Active Learning (DAL) は、高価なラベリングコストを最小化しつつ、モデル性能を最大化するための実現可能なソリューションとして上昇している。
  論文  参考訳（メタデータ） (2022-03-25T05:17:24Z)
• A Lagrangian Duality Approach to Active Learning [119.36233726867992]
  トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。 制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。 数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
  論文  参考訳（メタデータ） (2022-02-08T19:18:49Z)
• Revisiting the Performance of iALS on Item Recommendation Benchmarks [19.704506591363256]
  行列分解は、暗黙の交互最小二乗(iALS)によって学習され、レコメンデーターシステム研究の出版物で一般的なベースラインである。 近年の研究では、その予測品質が現在の技術と競合していないことが示唆されている。 我々は、iALSが低性能であると報告された4つのよく研究されたベンチマークを再検討し、適切なチューニングを行うことで、iALSは競争力が高いことを示す。
  論文  参考訳（メタデータ） (2021-10-26T21:30:57Z)
• Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
  暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。 ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。 本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
  論文  参考訳（メタデータ） (2021-05-11T03:38:16Z)
• Learning Sampling Policy for Faster Derivative Free Optimization [100.27518340593284]
  ランダムサンプリングではなく,ZO最適化における摂動を生成するためのサンプリングポリシを学習する,新たな強化学習ベースのZOアルゴリズムを提案する。 その結果,ZO-RLアルゴリズムはサンプリングポリシを学習することでZO勾配の分散を効果的に低減し,既存のZOアルゴリズムよりも高速に収束できることが示唆された。
  論文  参考訳（メタデータ） (2021-04-09T14:50:59Z)
• Provably Efficient Reward-Agnostic Navigation with Linear Value Iteration [143.43658264904863]
  我々は、最小二乗値スタイルのアルゴリズムで一般的に使用される、より標準的なベルマン誤差の概念の下での反復が、ほぼ最適値関数の学習において強力なPAC保証を提供することを示す。 そこで本稿では,任意の(線形な)報酬関数に対して,最適に近いポリシーを学習するためにどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2020-08-18T04:34:21Z)
• Practical and sample efficient zero-shot HPO [8.41866793161234]
  利用可能なアプローチの概要と、この問題に対処する2つの新しいテクニックを紹介します。 1つは、サロゲートモデルに基づいて、クエリのためのデータセットと設定のペアを適応的に選択する。 2つ目は、サロゲートモデルの検出、チューニング、テストが問題となる設定のためのもので、HyperBandとサブモジュラー最適化を組み合わせた多要素技術である。
  論文  参考訳（メタデータ） (2020-07-27T08:56:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。