論文の概要: Transfer learning for nonparametric Bayesian networks
- arxiv url: http://arxiv.org/abs/2604.01021v2
- Date: Fri, 03 Apr 2026 07:37:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 12:42:34.259602
- Title: Transfer learning for nonparametric Bayesian networks
- Title(参考訳): 非パラメトリックベイズネットワークにおける伝達学習
- Authors: Rafael Sojo, Pedro Larrañaga, Concha Bielza,
- Abstract要約: 本稿では,非パラメトリックベイズネットワークを少ないデータで推定する2つの伝達学習手法を提案する。
我々は、非パラメトリックベイズネットワークの一種であるカーネル密度推定ベイズネットワークを学習し、それらの転送学習性能をモデルのみと比較する。
PCS-TLとHC-TLは、少ないデータを持つ非パラメトリックベイズネットワークの学習性能を向上させるための信頼性の高いアルゴリズムであることを示す。
- 参考スコア(独自算出の注目度): 4.944875022114861
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper introduces two transfer learning methodologies for estimating nonparametric Bayesian networks under scarce data. We propose two algorithms, a constraint-based structure learning method, called PC-stable-transfer learning (PCS-TL), and a score-based method, called hill climbing transfer learning (HC-TL). We also define particular metrics to tackle the negative transfer problem in each of them, a situation in which transfer learning has a negative impact on the model's performance. Then, for the parameters, we propose a log-linear pooling approach. For the evaluation, we learn kernel density estimation Bayesian networks, a type of nonparametric Bayesian network, and compare their transfer learning performance with the models alone. To do so, we sample data from small, medium and large-sized synthetic networks and datasets from the UCI Machine Learning repository. Then, we add noise and modifications to these datasets to test their ability to avoid negative transfer. To conclude, we perform a Friedman test with a Bergmann-Hommel post-hoc analysis to show statistical proof of the enhanced experimental behavior of our methods. Thus, PCS-TL and HC-TL demonstrate to be reliable algorithms for improving the learning performance of a nonparametric Bayesian network with scarce data, which in real industrial environments implies a reduction in the required time to deploy the network.
- Abstract(参考訳): 本稿では,非パラメトリックベイズネットワークを少ないデータで推定する2つの伝達学習手法を提案する。
そこで我々は,PCS-TL (PC-stable-transfer Learning) と呼ばれる制約に基づく構造学習法と,HC-TL (Hill climbing Transfer Learning) と呼ばれるスコアベースの方法を提案する。
また,移動学習がモデルの性能に悪影響を及ぼす状況において,それぞれが負の伝達問題に取り組むために,特定の指標を定義する。
次に,パラメータに対して対数線形プール手法を提案する。
評価のために、非パラメトリックベイズネットワークの一種であるカーネル密度推定ベイズネットワークを学習し、それらの転送学習性能をモデルのみと比較する。
そのために、UCI Machine Learningレポジトリから、小規模、中規模、大規模の合成ネットワークとデータセットからデータをサンプリングする。
次に、負の転送を避ける能力をテストするために、これらのデータセットにノイズと修正を加えます。
結論として,ベルグマン・ホルムメルポストホック解析を用いてフリードマン試験を行い,提案手法の強化実験挙動の統計的証明を示した。
したがって、PCS-TLとHC-TLは、データが少ない非パラメトリックベイズネットワークの学習性能を向上させるための信頼性の高いアルゴリズムであることが示される。
関連論文リスト
- Resilient Peer-to-peer Learning based on Adaptive Aggregation [0.5530212768657544]
ピアツーピアネットワークでの協調学習は、単一障害点を緩和しながら学習の利点を提供する。
敵の労働者は ネットワークに悪意のある情報を注入することで 潜在的な脅威を引き起こす
本稿では,類似性学習プロセスの育成を目的としたレジリエントアグリゲーション手法を提案する。
論文 参考訳(メタデータ) (2025-01-08T16:47:45Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - Robust Learning with Progressive Data Expansion Against Spurious
Correlation [65.83104529677234]
本研究では,2層非線形畳み込みニューラルネットワークの学習過程について検討した。
分析の結果,不均衡なデータ群と学習容易なスプリアス特徴が学習過程におけるスプリアス特徴の優位性に繋がる可能性が示唆された。
本稿では,PDEと呼ばれる新たなトレーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-08T05:44:06Z) - Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。
提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。
我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
論文 参考訳(メタデータ) (2022-09-26T17:59:58Z) - Biologically Plausible Training Mechanisms for Self-Supervised Learning
in Deep Networks [14.685237010856953]
我々は,深層ネットワークにおける自己教師付き学習(SSL)のための生物学的に妥当なトレーニング機構を開発する。
バックパゲーションの2つの選択肢のうちの1つを用いて学習を行うことができることを示す。
論文 参考訳(メタデータ) (2021-09-30T12:56:57Z) - Probing transfer learning with a model of synthetic correlated datasets [11.53207294639557]
トランスファーラーニングはニューラルネットワークのサンプル効率を大幅に向上させることができる。
我々は、データセット間の相関をモデル化するためのフレームワークとして、合成データの解決可能なモデルを再考する。
本研究では,本モデルが実データを用いた伝達学習の多彩な特徴を捉えることができることを示す。
論文 参考訳(メタデータ) (2021-06-09T22:15:41Z) - Towards Accurate Knowledge Transfer via Target-awareness Representation
Disentanglement [56.40587594647692]
本稿では,TRED(Target-Awareness Representation Disentanglement)の概念を取り入れた新しいトランスファー学習アルゴリズムを提案する。
TREDは、対象のタスクに関する関連する知識を元のソースモデルから切り離し、ターゲットモデルを微調整する際、レギュレータとして使用する。
各種実世界のデータセットを用いた実験により,本手法は標準微調整を平均2%以上安定的に改善することが示された。
論文 参考訳(メタデータ) (2020-10-16T17:45:08Z) - Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。
種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。
共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
論文 参考訳(メタデータ) (2020-10-01T17:51:49Z) - On transfer learning of neural networks using bi-fidelity data for
uncertainty propagation [0.0]
本研究では,高忠実度モデルと低忠実度モデルの両方から生成された学習データを用いた伝達学習手法の適用について検討する。
前者のアプローチでは、低忠実度データに基づいて、入力を関心の出力にマッピングするニューラルネットワークモデルを訓練する。
次に、高忠実度データを使用して、低忠実度ネットワークの上層(s)のパラメータを適応させたり、より単純なニューラルネットワークをトレーニングして、低忠実度ネットワークの出力を高忠実度モデルのパラメータにマッピングする。
論文 参考訳(メタデータ) (2020-02-11T15:56:11Z) - Identifying and Compensating for Feature Deviation in Imbalanced Deep
Learning [59.65752299209042]
このようなシナリオ下でのConvNetの学習について検討する。
私たちは、ConvNetがマイナーなクラスにかなり適合していることに気づきました。
クラス依存型温度トレーニング(CDT)のConvNetの導入を提案する。
論文 参考訳(メタデータ) (2020-01-06T03:52:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。