論文の概要: Exchangeable Neural ODE for Set Modeling

• arxiv url: http://arxiv.org/abs/2008.02676v1
• Date: Thu, 6 Aug 2020 14:11:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-02 06:45:05.276403
• Title: Exchangeable Neural ODE for Set Modeling
• Title（参考訳）: 集合モデリングのための交換可能なニューラルode
• Authors: Yang Li, Haidong Yi, Christopher M. Bender, Siyuan Shan, Junier B. Oliva
• Abstract要約: 常微分方程式(ODE)による置換等式を実現するためのより一般的な定式化を提案する。 提案するモジュールであるExNODE(Exchangeable Neural ODE)は,識別タスクと生成タスクの両方にシームレスに適用できる。 また、時間次元における集合モデリングを拡張し、時間的集合モデリングのためのVAEベースモデルを提案する。
• 参考スコア（独自算出の注目度）: 13.582728834152062
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning over an instance composed of a set of vectors, like a point cloud, requires that one accounts for intra-set dependent features among elements. However, since such instances are unordered, the elements' features should remain unchanged when the input's order is permuted. This property, permutation equivariance, is a challenging constraint for most neural architectures. While recent work has proposed global pooling and attention-based solutions, these may be limited in the way that intradependencies are captured in practice. In this work we propose a more general formulation to achieve permutation equivariance through ordinary differential equations (ODE). Our proposed module, Exchangeable Neural ODE (ExNODE), can be seamlessly applied for both discriminative and generative tasks. We also extend set modeling in the temporal dimension and propose a VAE based model for temporal set modeling. Extensive experiments demonstrate the efficacy of our method over strong baselines.
• Abstract（参考訳）: 点クラウドのようなベクトルの集合からなるインスタンス上の推論では、要素間のセット内依存的な特徴を考慮しなければならない。 しかし、そのようなインスタンスは非順序であるため、要素の機能は入力の順序が変われば変更されなければならない。 この性質は置換同値であり、ほとんどのニューラルアーキテクチャーにとって難しい制約である。 近年の研究では、グローバルプールと注意に基づくソリューションが提案されているが、これらは実際に依存関係を捉える方法に制限される可能性がある。 本研究では、常微分方程式(ODE)による置換同値性を実現するためのより一般的な定式化を提案する。 提案するモジュールであるExNODE(Exchangeable Neural ODE)は,識別タスクと生成タスクの両方にシームレスに適用できる。 また,時間的次元における集合モデリングを拡張し,時間的集合モデリングのためのvaeモデルを提案する。 本手法の強塩基性に対する有効性を示す実験を行った。

関連論文リスト

• On uniqueness in structured model learning [0.542249320079018]
  偏微分方程式系(PDE)の物理法則学習における一意性の問題に対処する。 構造化されたモデル学習のフレームワークとして、データから学習されるコンポーネントによって、既存のほぼ正しい物理モデルが強化される。 この一意性の結果は、完全なノイズレス測定の理想的な設定において、未知のモデル成分のユニークな識別が可能であることを示している。
  論文  参考訳（メタデータ） (2024-10-29T12:56:39Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Generalized Neural Closure Models with Interpretability [28.269731698116257]
  我々は、統合された神経部分遅延微分方程式の新規で汎用的な方法論を開発した。 マルコフ型および非マルコフ型ニューラルネットワーク(NN)の閉包パラメータ化を用いて, 偏微分方程式(PDE)における既存/低忠実度力学モデルを直接拡張する。 本研究では, 非線形波動, 衝撃波, 海洋酸性化モデルに基づく4つの実験セットを用いて, 新しい一般化ニューラルクロージャモデル(gnCMs)の枠組みを実証する。
  論文  参考訳（メタデータ） (2023-01-15T21:57:43Z)
• Improving the Sample-Complexity of Deep Classification Networks with Invariant Integration [77.99182201815763]
  変換によるクラス内分散に関する事前知識を活用することは、ディープニューラルネットワークのサンプル複雑性を改善するための強力な方法である。 そこで本研究では,アプリケーションの複雑な問題に対処するために,プルーニング法に基づく新しい単項選択アルゴリズムを提案する。 本稿では,Rotated-MNIST,SVHN,CIFAR-10データセットにおけるサンプルの複雑さの改善について述べる。
  論文  参考訳（メタデータ） (2022-02-08T16:16:11Z)
• Message Passing Neural PDE Solvers [60.77761603258397]
  我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。 本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。 本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
  論文  参考訳（メタデータ） (2022-02-07T17:47:46Z)
• Neural Flows: Efficient Alternative to Neural ODEs [8.01886971335823]
  本稿では,ORのフローである解曲線を直接ニューラルネットワークでモデル化する手法を提案する。 これにより、ニューラルネットワークのモデリング能力を維持しながら、高価な数値解法の必要性はすぐに解消される。
  論文  参考訳（メタデータ） (2021-10-25T15:24:45Z)
• Feature Engineering with Regularity Structures [4.082216579462797]
  機械学習タスクの特徴として,正則構造理論からのモデルの利用について検討する。 本研究では、時空信号に付随するモデル特徴ベクトルの柔軟な定義と、これらの特徴を線形回帰と組み合わせる方法を示す2つのアルゴリズムを提供する。 我々はこれらのアルゴリズムを、与えられた強制と境界データを用いてPDEの解を学ぶために設計されたいくつかの数値実験に適用する。
  論文  参考訳（メタデータ） (2021-08-12T17:53:47Z)
• Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
  本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。 解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2021-03-15T17:26:34Z)
• STEER: Simple Temporal Regularization For Neural ODEs [80.80350769936383]
  トレーニング中のODEの終了時刻をランダムにサンプリングする新しい正規化手法を提案する。 提案された正規化は実装が簡単で、オーバーヘッドを無視でき、様々なタスクで有効である。 本稿では,フローの正規化,時系列モデル,画像認識などの実験を通じて,提案した正規化がトレーニング時間を大幅に短縮し,ベースラインモデルよりも性能を向上できることを示す。
  論文  参考訳（メタデータ） (2020-06-18T17:44:50Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)
• Neural Controlled Differential Equations for Irregular Time Series [17.338923885534197]
  通常の微分方程式はその初期条件によって決定され、その後の観測に基づいて軌道を調整するメカニズムは存在しない。 ここでは、Emph制御微分方程式のよく理解された数学を通して、これをどのように解決するかを示す。 実験により,本モデルが類似モデル (ODE や RNN をベースとした) に対して, 種々のデータセットに対する実験的検討において, 最先端の性能を実現することを示す。
  論文  参考訳（メタデータ） (2020-05-18T17:52:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。