論文の概要: A Three-Stage Bayesian Transfer Learning Framework to Improve Predictions in Data-Scarce Domains
- arxiv url: http://arxiv.org/abs/2510.26541v1
- Date: Thu, 30 Oct 2025 14:30:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-31 16:05:09.858182
- Title: A Three-Stage Bayesian Transfer Learning Framework to Improve Predictions in Data-Scarce Domains
- Title(参考訳): データスカース領域における予測改善のための3段階ベイズ移動学習フレームワーク
- Authors: Aidan Furlong, Robert Salko, Xingang Zhao, Xu Wu,
- Abstract要約: ドメイン・アドバイサル・ニューラルネットワーク(DANN)は、半教師付き環境での大きなドメインシフトの下での転送を改善する。
本研究は,ベイズ領域逆ニューラルネットワーク(B-DANN)の完全教師付き3段階フレームワークを提案する。
本研究の結果から,B-DANN法は予測精度と一般化を向上し,核工学における他の領域を支援する可能性が示唆された。
- 参考スコア(独自算出の注目度): 6.7949074631455995
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The use of ML in engineering has grown steadily to support a wide array of applications. Among these methods, deep neural networks have been widely adopted due to their performance and accessibility, but they require large, high-quality datasets. Experimental data are often sparse, noisy, or insufficient to build resilient data-driven models. Transfer learning, which leverages relevant data-abundant source domains to assist learning in data-scarce target domains, has shown efficacy. Parameter transfer, where pretrained weights are reused, is common but degrades under large domain shifts. Domain-adversarial neural networks (DANNs) help address this issue by learning domain-invariant representations, thereby improving transfer under greater domain shifts in a semi-supervised setting. However, DANNs can be unstable during training and lack a native means for uncertainty quantification. This study introduces a fully-supervised three-stage framework, the staged Bayesian domain-adversarial neural network (staged B-DANN), that combines parameter transfer and shared latent space adaptation. In Stage 1, a deterministic feature extractor is trained on the source domain. This feature extractor is then adversarially refined using a DANN in Stage 2. In Stage 3, a Bayesian neural network is built on the adapted feature extractor for fine-tuning on the target domain to handle conditional shifts and yield calibrated uncertainty estimates. This staged B-DANN approach was first validated on a synthetic benchmark, where it was shown to significantly outperform standard transfer techniques. It was then applied to the task of predicting critical heat flux in rectangular channels, leveraging data from tube experiments as the source domain. The results of this study show that the staged B-DANN method can improve predictive accuracy and generalization, potentially assisting other domains in nuclear engineering.
- Abstract(参考訳): エンジニアリングにおけるMLの使用は、幅広いアプリケーションをサポートするために着実に増加しています。
これらの手法の中で、ディープニューラルネットワークはその性能とアクセシビリティのために広く採用されているが、大きな高品質のデータセットが必要である。
実験データは、しばしばスパース、ノイズ、あるいはレジリエントなデータ駆動モデルを構築するのに不十分である。
データスカースターゲットドメインの学習を支援するために、関連するデータ・アバンダント・ソース・ドメインを活用するトランスファー・ラーニング(Transfer Learning)が有効である。
事前訓練された重みが再利用されるパラメータ転送は一般的であるが、大きなドメインシフトの下では劣化する。
ドメイン逆ニューラルネットワーク(DANN)は、ドメイン不変表現を学習することでこの問題に対処し、半教師付き環境での大きなドメインシフトの下での転送を改善する。
しかし、DANNはトレーニング中に不安定になり、不確実性定量化のネイティブ手段が欠如している。
本研究では,パラメータ転送と共用遅延空間適応を組み合わせた,ベイズ領域逆ニューラルネットワーク(B-DANN)の完全教師付き3段階フレームワークを提案する。
ステージ1では、決定論的特徴抽出器がソースドメイン上で訓練される。
この特徴抽出器は、ステージ2のDANNを用いて逆向きに精製される。
ステージ3では、ベイズニューラルネットワークがターゲット領域を微調整するために適応された特徴抽出器上に構築され、条件シフトを処理し、キャリブレーションされた不確実性推定値を得る。
この段階的B-DANNアプローチは、まず合成ベンチマークで検証され、標準転送技術よりもかなり優れた結果が得られた。
その後、管実験から得られたデータを源領域として利用し、矩形チャネルにおける臨界熱流束を予測するタスクに適用した。
本研究の結果から,B-DANN法は予測精度と一般化を向上し,核工学における他の領域を支援する可能性が示唆された。
関連論文リスト
- Topology-Aware Modeling for Unsupervised Simulation-to-Reality Point Cloud Recognition [63.55828203989405]
我々はオブジェクトポイントクラウド上でSim2Real UDAのための新しいTopology-Aware Modeling (TAM)フレームワークを紹介する。
提案手法は,低レベルの高周波3次元構造を特徴とするグローバル空間トポロジを利用して,領域間隙を緩和する。
本稿では,クロスドメイン・コントラスト学習と自己学習を組み合わせた高度な自己学習戦略を提案する。
論文 参考訳(メタデータ) (2025-06-26T11:53:59Z) - Test-Time Domain Adaptation by Learning Domain-Aware Batch Normalization [39.14048972373775]
テストタイムドメイン適応は、ソースドメインでトレーニングされたモデルを、ラベルのないいくつかのイメージを使用して、未表示のターゲットドメインに適応することを目的としている。
従来の作業は通常、ラベルとドメイン間の知識を明示的に分離することなく、ネットワーク全体をナビゲート的に更新する。
本稿では,BN層のみを操作することにより,そのような学習の干渉を低減し,ドメイン知識の学習を高めることを提案する。
論文 参考訳(メタデータ) (2023-12-15T19:22:21Z) - Robust Representation Learning with Self-Distillation for Domain Generalization [2.0817769887373245]
本稿では,ロバスト表現学習(Robust Representation Learning with Self-Distillation)と呼ばれる新しい領域一般化手法を提案する。
3つのデータセットの最先端データに対して、平均精度を1.2%から2.3%に改善する。
論文 参考訳(メタデータ) (2023-02-14T07:39:37Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Self-supervised Autoregressive Domain Adaptation for Time Series Data [9.75443057146649]
教師なしドメイン適応(UDA)は、視覚アプリケーションにおけるドメインシフト問題にうまく対処している。
これらの手法は、以下の理由により時系列データのパフォーマンスが制限される可能性がある。
本稿では,これらの制約に対処するための自己監督型自己回帰ドメイン適応(SLARDA)フレームワークを提案する。
論文 参考訳(メタデータ) (2021-11-29T08:17:23Z) - Stagewise Unsupervised Domain Adaptation with Adversarial Self-Training
for Road Segmentation of Remote Sensing Images [93.50240389540252]
リモートセンシング画像からの道路セグメンテーションは、幅広い応用可能性を持つ課題である。
本稿では,この領域における領域シフト(DS)問題に対処するため,RoadDAと呼ばれる新たな段階的ドメイン適応モデルを提案する。
2つのベンチマーク実験の結果、RoadDAはドメインギャップを効率的に減らし、最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2021-08-28T09:29:14Z) - Coarse to Fine: Domain Adaptive Crowd Counting via Adversarial Scoring
Network [58.05473757538834]
本稿では,ドメイン間のギャップを粗い粒度から細かな粒度に埋める新しい逆スコアリングネットワーク (ASNet) を提案する。
3組のマイグレーション実験により,提案手法が最先端のカウント性能を実現することを示す。
論文 参考訳(メタデータ) (2021-07-27T14:47:24Z) - Unsupervised Domain Adaptive 3D Detection with Multi-Level Consistency [90.71745178767203]
ディープラーニングに基づく3Dオブジェクト検出は、大規模な自律走行データセットの出現によって、前例のない成功を収めた。
既存の3Dドメイン適応検出手法は、しばしばターゲットのドメインアノテーションへの事前アクセスを前提とします。
我々は、ソースドメインアノテーションのみを利用する、より現実的な、教師なしの3Dドメイン適応検出について研究する。
論文 参考訳(メタデータ) (2021-07-23T17:19:23Z) - A Curriculum-style Self-training Approach for Source-Free Semantic Segmentation [91.13472029666312]
ソースフリーなドメイン適応型セマンティックセマンティックセグメンテーションのためのカリキュラムスタイルの自己学習手法を提案する。
提案手法は, ソースフリーなセマンティックセグメンテーションタスクにおいて, 合成-実-実-実-実-実-実-非実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実
論文 参考訳(メタデータ) (2021-06-22T10:21:39Z) - Neuron Linear Transformation: Modeling the Domain Shift for Crowd
Counting [34.560447389853614]
クロスドメイン・クラウド・カウント(CDCC)は、公共安全の重要性からホットな話題である。
領域シフトを学習するために、領域因子とバイアス重みを利用するニューロン線形変換(NLT)法を提案する。
6つの実世界のデータセットに関する大規模な実験と分析により、NLTが最高性能を達成することを確認した。
論文 参考訳(メタデータ) (2020-04-05T09:15:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。