論文の概要: Moments of Clarity: Streamlining Latent Spaces in Machine Learning using Moment Pooling

• arxiv url: http://arxiv.org/abs/2403.08854v1
• Date: Wed, 13 Mar 2024 18:00:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-15 22:46:57.722310
• Title: Moments of Clarity: Streamlining Latent Spaces in Machine Learning using Moment Pooling
• Title（参考訳）: Moments of Clarity: Moment Poolingを用いた機械学習における遅延空間の合理化
• Authors: Rikab Gambhir, Athis Osathapan, Jesse Thaler,
• Abstract要約: モーメント・ポーリング(Moment Pooling)はディープ・セット・ネットワークの自然な拡張であり、これらのネットワークの潜在空間次元を劇的に減少させる。 クォーク/グルーオンジェット分類のコライダー物理タスクにおけるモーメントプーリングの実証を行った。 潜時次元が 1 のモーメントEFNは、高い潜時次元の通常のEFNと同様の働きをする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many machine learning applications involve learning a latent representation of data, which is often high-dimensional and difficult to directly interpret. In this work, we propose "Moment Pooling", a natural extension of Deep Sets networks which drastically decrease latent space dimensionality of these networks while maintaining or even improving performance. Moment Pooling generalizes the summation in Deep Sets to arbitrary multivariate moments, which enables the model to achieve a much higher effective latent dimensionality for a fixed latent dimension. We demonstrate Moment Pooling on the collider physics task of quark/gluon jet classification by extending Energy Flow Networks (EFNs) to Moment EFNs. We find that Moment EFNs with latent dimensions as small as 1 perform similarly to ordinary EFNs with higher latent dimension. This small latent dimension allows for the internal representation to be directly visualized and interpreted, which in turn enables the learned internal jet representation to be extracted in closed form.
• Abstract（参考訳）: 多くの機械学習アプリケーションは、しばしば高次元で直接解釈が難しいデータの潜在表現を学習する。 本研究では,Deep Sets ネットワークの自然拡張である "Moment Pooling" を提案する。 モーメント・プールングはディープ・セットの和を任意の多変量モーメントに一般化し、固定された潜在次元に対してより高効率な潜在次元を達成することができる。 我々は、クォーク/グルーオンジェット分類のコライダー物理タスクにおいて、エネルギーフローネットワーク(EFN)をモーメントEFNに拡張することで、モーメントプーリングを実証する。 遅延次元が 1 のモーメント EFN は、高い遅延次元の通常の EFN と同様の働きをする。 この小さな潜在次元は内部表現を直接視覚化し解釈し、学習した内部ジェット表現を閉じた形で抽出することを可能にする。

関連論文リスト

• Fast Monocular Scene Reconstruction with Global-Sparse Local-Dense Grids [84.90863397388776]
  本稿では,スパルス・ボクセル・ブロック・グリッドにおける署名付き距離関数(SDF)を直接使用して,距離のない高速かつ正確なシーン再構成を実現することを提案する。 我々の世界規模で疎密で局所的なデータ構造は、表面の空間的空間性を利用して、キャッシュフレンドリーなクエリを可能にし、マルチモーダルデータへの直接拡張を可能にします。 実験により、我々のアプローチはトレーニングでは10倍、レンダリングでは100倍高速であり、最先端のニューラル暗黙法に匹敵する精度を実現していることがわかった。
  論文  参考訳（メタデータ） (2023-05-22T16:50:19Z)
• Non-Separable Multi-Dimensional Network Flows for Visual Computing [62.50191141358778]
  本研究では,非分離型多次元ネットワークフローに対する新しい定式化法を提案する。 フローは次元ごとに定義されるので、最大化フローは自動的に最適な特徴次元を選択する。 概念実証として,マルチオブジェクト追跡問題にフォーマリズムを適用し,ノイズに対するロバスト性の観点からMOT16ベンチマークのスカラー定式化よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-05-15T13:21:44Z)
• A Multi-Resolution Framework for U-Nets with Applications to Hierarchical VAEs [29.995904718691204]
  無限次元関数空間上のモデルの有限次元切り込みとしてU-Netを識別する多分解能フレームワークを定式化する。 次に、我々のフレームワークを活用して、U-Netアーキテクチャを持つ最先端階層型VAE(HVAE)を特定します。
  論文  参考訳（メタデータ） (2023-01-19T17:33:48Z)
• Deep learning fluid flow reconstruction around arbitrary two-dimensional objects from sparse sensors using conformal mappings [0.0]
  本研究では,SMGFRタスクと呼ばれる新しいフレームワークを提案する。 異なる2次元物体の周りの流体を再学習することなく再構成することができる。 SMGFRタスクは将来的に流動スナップショットの予測に拡張される。
  論文  参考訳（メタデータ） (2022-02-08T11:44:16Z)
• Funnels: Exact maximum likelihood with dimensionality reduction [6.201770337181472]
  我々は、SurVAEフレームワークを使用して、ファンネルと呼ばれる新しい層を介して、サージェクティブフローを減らす次元を構築する。 提案手法の有効性を様々なデータセットで示すとともに,既存のフローの性能を向上または一致させるとともに,遅延空間サイズを小さくすることを示す。
  論文  参考訳（メタデータ） (2021-12-15T12:20:25Z)
• Adaptive Machine Learning for Time-Varying Systems: Low Dimensional Latent Space Tuning [91.3755431537592]
  本稿では,時間変化システムを対象とした適応機械学習手法を提案する。 我々は,エンコーダデコーダCNNのエンコーダ部出力において,非常に高次元(N>100k)の入力を低次元(N2)潜在空間にマッピングする。 そこで本手法では,割り込みを伴わないフィードバックに基づいて,内部の相関関係を学習し,その進化をリアルタイムで追跡する。
  論文  参考訳（メタデータ） (2021-07-13T16:05:28Z)
• Compressing Deep ODE-Nets using Basis Function Expansions [105.05435207079759]
  重みの定式化を基底関数の線形結合を用いた連続深度関数とみなす。 この観点では、ほぼ最先端の性能を維持しながら、再トレーニングすることなく、ベースの変化によって重みを圧縮することができる。 これにより、推論時間とメモリフットプリントの両方が削減され、計算環境間の高速で厳密な適応が可能となる。
  論文  参考訳（メタデータ） (2021-06-21T03:04:51Z)
• Adaptive Latent Space Tuning for Non-Stationary Distributions [62.997667081978825]
  本稿では,ディープエンコーダ・デコーダ方式cnnの低次元潜在空間の適応チューニング法を提案する。 粒子加速器における時間変動荷電粒子ビームの特性を予測するためのアプローチを実証する。
  論文  参考訳（メタデータ） (2021-05-08T03:50:45Z)
• A Point-Cloud Deep Learning Framework for Prediction of Fluid Flow Fields on Irregular Geometries [62.28265459308354]
  ネットワークは空間位置とCFD量のエンドツーエンドマッピングを学習する。 断面形状の異なるシリンダーを過ぎる非圧縮層状定常流を考察する。 ネットワークは従来のCFDの数百倍の速さで流れ場を予測する。
  論文  参考訳（メタデータ） (2020-10-15T12:15:02Z)
• A Shooting Formulation of Deep Learning [19.51427735087011]
  本稿では,ネットワーク層ごとのパラメータ化から,最適ネットワーク上でのパラメータ化へと視点を転換するシューティング定式化を提案する。 拡張性のために,連続深度ニューラルネットワークの最適重み軌跡を同定する新しい粒子アンサンブルパラメトリゼーションを提案する。
  論文  参考訳（メタデータ） (2020-06-18T07:36:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。