Fugu-MT 論文翻訳(概要): Bayesian Flow Networks in Continual Learning

論文の概要: Bayesian Flow Networks in Continual Learning

arxiv url: http://arxiv.org/abs/2310.12001v1
Date: Wed, 18 Oct 2023 14:32:20 GMT
ステータス: 処理完了
システム内更新日: 2023-10-19 16:15:56.819180
Title: Bayesian Flow Networks in Continual Learning
Title（参考訳）: 連続学習におけるベイズ流ネットワーク
Authors: Mateusz Pyla, Kamil Deja, Bart{\l}omiej Twardowski, Tomasz Trzci\'nski
Abstract要約: Bayesian Flow Networks (BFNs) は、普遍的な生成モデリングの最も有望な方向の一つとして提案されており、データ型を学習する能力を持っている。我々はBFNの背後にある力学を探索し、非定常データにおける生成能力を実証的に検証する実験を行った。
参考スコア（独自算出の注目度）: 20.065146469326145
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Bayesian Flow Networks (BFNs) has been recently proposed as one of the most promising direction to universal generative modelling, having ability to learn any of the data type. Their power comes from the expressiveness of neural networks and Bayesian inference which make them suitable in the context of continual learning. We delve into the mechanics behind BFNs and conduct the experiments to empirically verify the generative capabilities on non-stationary data.
Abstract（参考訳）: Bayesian Flow Networks (BFNs) は、データ型を学習する能力を持つ普遍的生成モデリングの最も有望な方向のひとつとして最近提案されている。彼らの力は、ニューラルネットワークの表現力とベイズ推論が連続学習の文脈で適しているからである。我々はBFNの背後にある力学を探索し、非定常データにおける生成能力を実証的に検証する実験を行った。

関連論文リスト

Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文参考訳（メタデータ） (2023-10-02T03:25:32Z)
Spiking neural networks with Hebbian plasticity for unsupervised representation learning [0.0]
教師なしの手順でデータから分散内部表現を学習するための新しいスパイクニューラルネットワークモデルを提案する。オンライン相関に基づくHebbian-Bayesian学習と再配線機構を,前述した表現学習をスパイクニューラルネットワークに導入する。我々は,非スパイクBCPNNに近い性能を示し,MNISTとF-MNISTの機械学習ベンチマークでトレーニングした場合,他のヘビーンのスパイクネットワークと競合することを示す。
論文参考訳（メタデータ） (2023-05-05T22:34:54Z)
Neural networks trained with SGD learn distributions of increasing complexity [78.30235086565388]
勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。その後、トレーニング中にのみ高次の統計を利用する。本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
論文参考訳（メタデータ） (2022-11-21T15:27:22Z)
Towards prediction of turbulent flows at high Reynolds numbers using high performance computing data and deep learning [0.39146761527401425]
乱流の理解とモデル化に適したGAN(generative adversarial network)について論じる。ワッサースタイン GAN (WGAN) は小さな乱流を生成するために選択される。 DNS乱流データを用いてWGANのトレーニングを行い,学習率や損失関数などのネットワークパラメータの影響について検討した。
論文参考訳（メタデータ） (2022-10-28T13:14:06Z)
Learning to Learn with Generative Models of Neural Network Checkpoints [71.06722933442956]
ニューラルネットワークのチェックポイントのデータセットを構築し,パラメータの生成モデルをトレーニングする。提案手法は,幅広い損失プロンプトに対するパラメータの生成に成功している。我々は、教師付きおよび強化学習における異なるニューラルネットワークアーキテクチャとタスクに本手法を適用した。
論文参考訳（メタデータ） (2022-09-26T17:59:58Z)
Transfer Learning with Deep Tabular Models [66.67017691983182]
上流データにより、グラフニューラルネットワークはGBDTモデルよりも決定的な優位性を示す。そこで本研究では,表在化学習のための現実的な診断ベンチマークを提案する。上流と下流の特徴セットが異なる場合の擬似特徴法を提案する。
論文参考訳（メタデータ） (2022-06-30T14:24:32Z)
EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文参考訳（メタデータ） (2022-02-21T18:59:03Z)
Continual Learning with Invertible Generative Models [15.705568893476947]
破滅的な忘れ(CF)は、ニューラルネットワークが新しいタスクでトレーニングされている間、過去の知識を上書きするたびに起こる。本稿では,正規化の強みと生成的リハーサルアプローチを組み合わせた新しい手法を提案する。
論文参考訳（メタデータ） (2022-02-11T15:28:30Z)
FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
論文参考訳（メタデータ） (2021-06-24T15:38:34Z)
Pseudo-Rehearsal for Continual Learning with Normalizing Flows [15.705568893476947]
破滅的な忘れ(CF)は、ニューラルネットワークが新しいタスクでトレーニングされている間、過去の知識を上書きするたびに起こる。本稿では,正規化の強みと生成的リハーサルアプローチを組み合わせた新しい手法を提案する。
論文参考訳（メタデータ） (2020-07-05T20:43:52Z)
Dynamic Bayesian Neural Networks [2.28438857884398]
私たちは、Hidden Markov Neural Networkと呼ばれる時間進化型ニューラルネットワークを定義します。フィードフォワードニューラルネットワークの重みは、隠れマルコフモデルの隠れ状態によってモデル化される。フィルタリングアルゴリズムは、重みを経る時間に進化する時間に対する変動近似を学習するために用いられる。
論文参考訳（メタデータ） (2020-04-15T09:18:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。