論文の概要: Multi-Fidelity Active Learning with GFlowNets
- arxiv url: http://arxiv.org/abs/2306.11715v1
- Date: Tue, 20 Jun 2023 17:43:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-21 13:05:47.891682
- Title: Multi-Fidelity Active Learning with GFlowNets
- Title(参考訳): GFlowNetsを用いた多要素アクティブラーニング
- Authors: Alex Hernandez-Garcia and Nikita Saxena and Moksh Jain and Cheng-Hao
Liu and Yoshua Bengio
- Abstract要約: 我々は,複数のブラックボックス関数の近似を低忠実度かつ低コストで利用できる多忠実能動学習のためのGFlowNetsを提案する。
この結果から,GFlowNetsを用いた多要素能動学習は,異なるコストと忠実度で複数のオラクルの可用性を効果的に活用できることが示唆された。
- 参考スコア(独自算出の注目度): 77.01923839831899
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In the last decades, the capacity to generate large amounts of data in
science and engineering applications has been growing steadily. Meanwhile, the
progress in machine learning has turned it into a suitable tool to process and
utilise the available data. Nonetheless, many relevant scientific and
engineering problems present challenges where current machine learning methods
cannot yet efficiently leverage the available data and resources. For example,
in scientific discovery, we are often faced with the problem of exploring very
large, high-dimensional spaces, where querying a high fidelity, black-box
objective function is very expensive. Progress in machine learning methods that
can efficiently tackle such problems would help accelerate currently crucial
areas such as drug and materials discovery. In this paper, we propose the use
of GFlowNets for multi-fidelity active learning, where multiple approximations
of the black-box function are available at lower fidelity and cost. GFlowNets
are recently proposed methods for amortised probabilistic inference that have
proven efficient for exploring large, high-dimensional spaces and can hence be
practical in the multi-fidelity setting too. Here, we describe our algorithm
for multi-fidelity active learning with GFlowNets and evaluate its performance
in both well-studied synthetic tasks and practically relevant applications of
molecular discovery. Our results show that multi-fidelity active learning with
GFlowNets can efficiently leverage the availability of multiple oracles with
different costs and fidelities to accelerate scientific discovery and
engineering design.
- Abstract(参考訳): 過去数十年間、科学と工学の応用において大量のデータを生成する能力は着実に成長してきた。
一方、機械学習の進歩は、利用可能なデータを処理し、利用するのに適したツールになった。
それでも、関連する科学や工学の問題の多くは、現在の機械学習手法が利用可能なデータやリソースを効率的に活用できないという課題を提起している。
例えば、科学的な発見では、高忠実度でブラックボックスの目的関数のクエリは非常に高価であるような、非常に大きな高次元空間を探索する問題に直面することが多い。
このような問題に効率的に対処できる機械学習手法の進歩は、薬物や材料の発見のような現在重要な領域を加速するのに役立つだろう。
本稿では,複数のブラックボックス関数の近似を低忠実度かつ低コストで利用できる多忠実能動学習のためのGFlowNetsを提案する。
GFlowNetは近年,大規模で高次元空間の探索に有効な確率的推論手法として提案されている。
本稿では,gflownetsを用いた多元的アクティブラーニングのためのアルゴリズムについて述べるとともに,その性能について,よく研究された合成タスクと分子発見の実際的応用の両方において評価する。
以上の結果から,gflownetsを用いた多元的アクティブラーニングは,異なるコストとフィディティーを持つ複数のオラクルの可用性を効率的に活用し,科学的発見とエンジニアリング設計を加速できることが示されている。
関連論文リスト
- Towards Lightweight Data Integration using Multi-workflow Provenance and
Data Observability [0.2517763905487249]
統合データ分析は、特に現在のAI時代において、科学的発見において重要な役割を果たす。
軽量ランタイム向けマルチワークフロー統合データ分析手法MIDAを提案する。
Summitスーパーコンピュータの1,680個のCPUコア上で,最大10000のタスクを実行するほぼゼロのオーバーヘッドを示す。
論文 参考訳(メタデータ) (2023-08-17T14:20:29Z) - Let the Flows Tell: Solving Graph Combinatorial Optimization Problems
with GFlowNets [86.43523688236077]
組合せ最適化(CO)問題はしばしばNPハードであり、正確なアルゴリズムには及ばない。
GFlowNetsは、複合非正規化密度を逐次サンプリングする強力な機械として登場した。
本稿では,異なる問題に対してマルコフ決定プロセス(MDP)を設計し,条件付きGFlowNetを学習して解空間からサンプルを作成することを提案する。
論文 参考訳(メタデータ) (2023-05-26T15:13:09Z) - GFlowNets for AI-Driven Scientific Discovery [74.27219800878304]
我々はGFlowNetsと呼ばれる新しい確率論的機械学習フレームワークを提案する。
GFlowNetsは、実験科学ループのモデリング、仮説生成、実験的な設計段階に適用できる。
我々は、GFlowNetsがAIによる科学的発見の貴重なツールになり得ると論じている。
論文 参考訳(メタデータ) (2023-02-01T17:29:43Z) - What Makes Good Contrastive Learning on Small-Scale Wearable-based
Tasks? [59.51457877578138]
本研究では,ウェアラブル型行動認識タスクにおけるコントラスト学習について検討する。
本稿では,PyTorchライブラリのtextttCL-HAR について述べる。
論文 参考訳(メタデータ) (2022-02-12T06:10:15Z) - Understanding the World Through Action [91.3755431537592]
ラベルのないデータを利用するための汎用的で原則的で強力なフレームワークは、強化学習から導き出すことができると私は主張する。
このような手順が、下流の潜在的なタスクとどのように密接に一致しているかについて論じます。
論文 参考訳(メタデータ) (2021-10-24T22:33:52Z) - Deep Multi-Fidelity Active Learning of High-dimensional Outputs [17.370056935194786]
我々は,高次元出力で学習するためのディープニューラルネットワークに基づく多忠実度モデルを開発した。
次に,予測エントロピーの原理を拡張する情報に基づく相互獲得関数を提案する。
計算物理学と工学設計のいくつかの応用において,本手法の利点を示す。
論文 参考訳(メタデータ) (2020-12-02T00:02:31Z) - Active Importance Sampling for Variational Objectives Dominated by Rare
Events: Consequences for Optimization and Generalization [12.617078020344618]
本稿では,レアイベントサンプリング手法とニューラルネットワーク最適化を組み合わせて,レアイベントに支配される目的関数を最適化する手法を提案する。
重要度サンプリングは学習問題に対する解の分散を減少させ,一般化の利点を示唆することを示す。
数値実験により,高次元データと希少データの複合化が困難である場合でも,学習を成功させることができた。
論文 参考訳(メタデータ) (2020-08-11T23:38:09Z) - Bayesian active learning for production, a systematic study and a
reusable library [85.32971950095742]
本稿では,現在のアクティブラーニング技術の主な欠点について分析する。
実世界のデータセットの最も一般的な課題が深層能動学習プロセスに与える影響について,系統的研究を行った。
部分的不確実性サンプリングやより大きいクエリサイズといった,アクティブな学習ループを高速化する2つの手法を導出する。
論文 参考訳(メタデータ) (2020-06-17T14:51:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。