論文の概要: Taylor-Sensus Network: Embracing Noise to Enlighten Uncertainty for Scientific Data
- arxiv url: http://arxiv.org/abs/2409.07942v1
- Date: Thu, 12 Sep 2024 11:10:27 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-13 16:48:47.868017
- Title: Taylor-Sensus Network: Embracing Noise to Enlighten Uncertainty for Scientific Data
- Title(参考訳): Taylor-Sensus Network: 科学的データに対する不確実性を高めるためにノイズを受け入れる
- Authors: Guangxuan Song, Dongmei Fu, Zhongwei Qiu, Jintao Meng, Dawei Zhang,
- Abstract要約: 不確実性推定は、機械学習の科学データに不可欠である。
本稿では,複雑でヘテロシダスティックな雑音をモデル化するためのTaylor-Sensus Network (TSNet)を提案する。
TSNetは実験において主流および最先端の手法よりも優れた性能を示す。
- 参考スコア(独自算出の注目度): 9.644709229719725
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Uncertainty estimation is crucial in scientific data for machine learning. Current uncertainty estimation methods mainly focus on the model's inherent uncertainty, while neglecting the explicit modeling of noise in the data. Furthermore, noise estimation methods typically rely on temporal or spatial dependencies, which can pose a significant challenge in structured scientific data where such dependencies among samples are often absent. To address these challenges in scientific research, we propose the Taylor-Sensus Network (TSNet). TSNet innovatively uses a Taylor series expansion to model complex, heteroscedastic noise and proposes a deep Taylor block for aware noise distribution. TSNet includes a noise-aware contrastive learning module and a data density perception module for aleatoric and epistemic uncertainty. Additionally, an uncertainty combination operator is used to integrate these uncertainties, and the network is trained using a novel heteroscedastic mean square error loss. TSNet demonstrates superior performance over mainstream and state-of-the-art methods in experiments, highlighting its potential in scientific research and noise resistance. It will be open-source to facilitate the community of "AI for Science".
- Abstract(参考訳): 不確実性推定は、機械学習の科学データに不可欠である。
現在の不確実性推定法は、主にモデル固有の不確実性に焦点を当て、データ内のノイズの明示的なモデリングを無視している。
さらに、ノイズ推定法は一般に時間的あるいは空間的依存関係に依存しており、サンプル間の依存関係が欠落することが多い構造化された科学データにおいて大きな課題となる可能性がある。
科学研究におけるこれらの課題に対処するため,Taylor-Sensus Network (TSNet)を提案する。
TSNetはテイラー級数展開を用いて複素非定常雑音をモデル化し、音声認識のための深いテイラーブロックを提案する。
TSNetには、ノイズ対応のコントラスト学習モジュールと、アレタリックおよびエピステマティック不確実性のためのデータ密度認識モジュールが含まれている。
さらに、これらの不確実性を統合するために不確実性結合演算子を使用し、このネットワークを異種平均二乗誤差損失を用いて訓練する。
TSNetは、実験における主流および最先端の手法よりも優れた性能を示し、科学的研究と耐雑音性の可能性を強調している。
科学のためのAI」のコミュニティを促進するためにオープンソースになる。
関連論文リスト
- Learning with Noisy Foundation Models [95.50968225050012]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。
雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2024-03-11T16:22:41Z) - TNANet: A Temporal-Noise-Aware Neural Network for Suicidal Ideation
Prediction with Noisy Physiological Data [21.1401772311666]
本稿では, ノイズのある生理的時系列データを解析するためのニューラルネットワークモデルTNANetを提案する。
我々のTNANetは2進分類タスクにおいて63.33%の予測精度を達成し、最先端モデルより優れている。
論文 参考訳(メタデータ) (2024-01-23T13:11:05Z) - One step closer to unbiased aleatoric uncertainty estimation [71.55174353766289]
そこで本研究では,観測データのアクティブデノイズ化による新しい推定手法を提案する。
幅広い実験を行うことで,提案手法が標準手法よりも実際のデータ不確実性にはるかに近い近似を与えることを示す。
論文 参考訳(メタデータ) (2023-12-16T14:59:11Z) - Realistic Noise Synthesis with Diffusion Models [68.48859665320828]
Deep Image Denoisingモデルは、しばしば高品質なパフォーマンスのために大量のトレーニングデータに依存します。
本稿では,拡散モデル,すなわちRealistic Noise Synthesize Diffusor(RNSD)を用いて現実的な雑音を合成する新しい手法を提案する。
RNSDは、より現実的なノイズや空間的相関を複数の周波数で生成できるような、ガイド付きマルチスケールコンテンツを組み込むことができる。
論文 参考訳(メタデータ) (2023-05-23T12:56:01Z) - DiffSTG: Probabilistic Spatio-Temporal Graph Forecasting with Denoising
Diffusion Models [53.67562579184457]
本稿では,不確実性や複雑な依存関係のモデル化が困難であることから,確率的STG予測に焦点をあてる。
本稿では,一般的な拡散モデルをSTGに一般化する最初の試みとして,DiffSTGと呼ばれる新しい非自己回帰フレームワークを提案する。
提案手法は,本質的時間学習能力STNNと拡散モデルの不確実性測定を組み合わせたものである。
論文 参考訳(メタデータ) (2023-01-31T13:42:36Z) - Operator inference with roll outs for learning reduced models from
scarce and low-quality data [0.0]
本稿では、演算子推論によるデータ駆動モデリングと、ニューラル常微分方程式のロールアウトによる動的トレーニングを組み合わせることを提案する。
実験では,データのサンプル化やノイズの最大10%の汚染があっても,ロールアウトによる演算子推論が学習軌跡からの予測モデルを提供することを示した。
論文 参考訳(メタデータ) (2022-12-02T19:41:31Z) - Deep Active Learning with Noise Stability [24.54974925491753]
ラベルのないデータの不確実性推定は、アクティブな学習に不可欠である。
本稿では,雑音の安定性を利用して不確実性を推定する新しいアルゴリズムを提案する。
本手法はコンピュータビジョン,自然言語処理,構造データ解析など,様々なタスクに適用可能である。
論文 参考訳(メタデータ) (2022-05-26T13:21:01Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - Robust Learning of Recurrent Neural Networks in Presence of Exogenous
Noise [22.690064709532873]
入力雑音を受けるRNNモデルに対するトラクタブルロバストネス解析を提案する。
線形化手法を用いてロバストネス測度を効率的に推定することができる。
提案手法はリカレントニューラルネットワークのロバスト性を大幅に改善する。
論文 参考訳(メタデータ) (2021-05-03T16:45:05Z) - Deep Learning based Uncertainty Decomposition for Real-time Control [9.067368638784355]
本稿では,ディープラーニングを用いたトレーニングデータの欠如を検出する新しい手法を提案する。
合成および実世界のデータセットに対する既存のアプローチに対する利点を示す。
さらに、シミュレーションされたクアッドコプターにオンラインデータ効率制御を展開させる上で、この不確実性推定の実用性を実証する。
論文 参考訳(メタデータ) (2020-10-06T10:46:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。