論文の概要: Equivariant Learning of Stochastic Fields: Gaussian Processes and
Steerable Conditional Neural Processes
- arxiv url: http://arxiv.org/abs/2011.12916v3
- Date: Sat, 17 Jul 2021 13:09:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-21 02:00:47.574552
- Title: Equivariant Learning of Stochastic Fields: Gaussian Processes and
Steerable Conditional Neural Processes
- Title(参考訳): 確率場の等変学習:ガウス過程とステアブル条件付き神経過程
- Authors: Peter Holderrieth, Michael Hutchinson, Yee Whye Teh
- Abstract要約: 我々は,物理や工学で発生するような,サンプルがフィールドであるプロセスについて,学習分野の問題を考察する。
本稿では,ニューラル・プロセス・ファミリーの完全同変であるステアブル・コンディショナル・ニューラル・プロセス(SteerCNPs)を紹介する。
ガウス過程ベクトル場、画像、実世界の気象データを用いて実験したところ、SteerCNPsは過去のモデルの性能を大幅に改善することがわかった。
- 参考スコア(独自算出の注目度): 44.51932024971217
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Motivated by objects such as electric fields or fluid streams, we study the
problem of learning stochastic fields, i.e. stochastic processes whose samples
are fields like those occurring in physics and engineering. Considering general
transformations such as rotations and reflections, we show that spatial
invariance of stochastic fields requires an inference model to be equivariant.
Leveraging recent advances from the equivariance literature, we study
equivariance in two classes of models. Firstly, we fully characterise
equivariant Gaussian processes. Secondly, we introduce Steerable Conditional
Neural Processes (SteerCNPs), a new, fully equivariant member of the Neural
Process family. In experiments with Gaussian process vector fields, images, and
real-world weather data, we observe that SteerCNPs significantly improve the
performance of previous models and equivariance leads to improvements in
transfer learning tasks.
- Abstract(参考訳): 電場や流体の流れなどの物体によって動機付けされ、確率場、すなわち、試料が物理学や工学で発生するような場である確率過程の学習問題を研究する。
回転や反射といった一般変換を考えると、確率場の空間不変性は同値な推論モデルを必要とする。
均衡文学の最近の進歩を活用して、2種類のモデルの同値性を研究する。
まず、同変ガウス過程を完全に特徴づける。
第2に、ニューラル・プロセス・ファミリーの新たな完全同変であるステアブル・コンディショナル・ニューラル・プロセス(SteerCNPs)を紹介する。
gaussian process vector field, image, and real-world weather dataを用いた実験では、steercnpsが従来のモデルの性能を大幅に改善し、等価性がトランスファー学習タスクを改善することを観察した。
関連論文リスト
- Approximately Equivariant Neural Processes [47.14384085714576]
実世界のデータをモデル化する場合、学習問題は必ずしも同変ではなく、概ね同変であることが多い。
これを達成するための現在のアプローチは、通常任意のアーキテクチャや対称性群に対して最初から適用することはできない。
我々は、既存の同変アーキテクチャを用いてこれを実現するための一般的なアプローチを開発する。
論文 参考訳(メタデータ) (2024-06-19T12:17:14Z) - Practical Equivariances via Relational Conditional Neural Processes [20.192899181958264]
コンディショナル・ニューラル・プロセス(Conditional Neural Processs, CNP)は、アモルト化量子化の効率と確実な不確実性を組み合わせた条件付きメタモデルである。
本稿では,任意のニューラルプロセスモデルに等価性を組み込む効果的なアプローチとして,条件付きニューラルプロセス(RCNP)を提案する。
提案手法は, 同変過程の適用性と影響を高次元に拡張する。
論文 参考訳(メタデータ) (2023-06-19T13:27:27Z) - Variational Gaussian Process Diffusion Processes [17.716059928867345]
拡散過程(英: Diffusion process)は、微分方程式(SDE)のクラスであり、表現的モデルの豊富な族を提供する。
非線型拡散過程が先行する潜在過程を持つ生成モデルの下での確率的推論と学習は難解な問題である。
本研究では, 線形拡散過程として後続過程を近似し, アプローチの病理を指摘する。
論文 参考訳(メタデータ) (2023-06-03T09:43:59Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Learning Equivariant Energy Based Models with Equivariant Stein
Variational Gradient Descent [80.73580820014242]
本稿では,確率モデルに対称性を組み込むことにより,確率密度の効率的なサンプリングと学習の問題に焦点をあてる。
まず、等変シュタイン変分勾配Descentアルゴリズムを導入する。これは、対称性を持つ密度からサンプリングするスタインの同一性に基づく同変サンプリング法である。
我々はエネルギーベースモデルのトレーニングを改善し、スケールアップする新しい方法を提案する。
論文 参考訳(メタデータ) (2021-06-15T01:35:17Z) - Recyclable Gaussian Processes [0.0]
ガウス過程に対する独立な変分近似をリサイクルするための新しい枠組みを提案する。
主な貢献は、ガウス過程の辞書が与えられた変分アンサンブルの構築である。
私たちのフレームワークは回帰、分類、異種タスクを可能にします。
論文 参考訳(メタデータ) (2020-10-06T09:01:55Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z) - Transport Gaussian Processes for Regression [0.22843885788439797]
本稿では,GP,ワープGP,学生プロセスなどを含むプロセス構築手法を提案する。
私たちのアプローチはレイヤベースのモデルにインスパイアされ、各レイヤが生成されたプロセス上で特定のプロパティを変更する。
実世界のデータを用いた実験により,提案モデルの有効性を検証した。
論文 参考訳(メタデータ) (2020-01-30T17:44:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。