論文の概要: Exploring Data Geometry for Continual Learning

• arxiv url: http://arxiv.org/abs/2304.03931v1
• Date: Sat, 8 Apr 2023 06:35:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-04-11 18:52:03.417028
• Title: Exploring Data Geometry for Continual Learning
• Title（参考訳）: 連続学習のためのデータ幾何探索
• Authors: Zhi Gao, Chen Xu, Feng Li, Yunde Jia, Mehrtash Harandi, Yuwei Wu
• Abstract要約: 非定常データストリームのデータ幾何を探索することにより,新しい視点から連続学習を研究する。 提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何学を動的に拡張する。 実験により,本手法はユークリッド空間で設計したベースライン法よりも優れた性能が得られることが示された。
• 参考スコア（独自算出の注目度）: 64.4358878435983
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Continual learning aims to efficiently learn from a non-stationary stream of data while avoiding forgetting the knowledge of old data. In many practical applications, data complies with non-Euclidean geometry. As such, the commonly used Euclidean space cannot gracefully capture non-Euclidean geometric structures of data, leading to inferior results. In this paper, we study continual learning from a novel perspective by exploring data geometry for the non-stationary stream of data. Our method dynamically expands the geometry of the underlying space to match growing geometric structures induced by new data, and prevents forgetting by keeping geometric structures of old data into account. In doing so, making use of the mixed curvature space, we propose an incremental search scheme, through which the growing geometric structures are encoded. Then, we introduce an angular-regularization loss and a neighbor-robustness loss to train the model, capable of penalizing the change of global geometric structures and local geometric structures. Experiments show that our method achieves better performance than baseline methods designed in Euclidean space.
• Abstract（参考訳）: 連続学習は、古いデータの知識を忘れずに、非定常なデータストリームから効率的に学習することを目的としている。 多くの実践的応用において、データは非ユークリッド幾何学に準拠する。 したがって、一般的に用いられるユークリッド空間は、非ユークリッド幾何学的なデータ構造を優雅に捉えることができず、結果は劣る。 本稿では,非定常データストリームのためのデータ幾何を探索し,新しい視点から連続学習について検討する。 提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何を動的に拡張し,古いデータの幾何構造を考慮に入れておくことで,忘れることを防止する。 そこで, 混合曲率空間を用いて, 増大する幾何構造を符号化するインクリメンタル探索手法を提案する。 次に,球面構造と局所幾何学構造の変化をペナルティ化することが可能な模型を訓練するために,角正規化損失と近傍ロバストネス損失を導入する。 実験により, ユークリッド空間で設計したベースライン法よりも優れた性能が得られることを示した。

関連論文リスト

• Geometry-Aware Generative Autoencoders for Warped Riemannian Metric Learning and Generative Modeling on Data Manifolds [18.156807299614503]
  本稿では,多様体学習と生成モデルを組み合わせた新しいフレームワークであるGeometry-Aware Generative Autoencoder (GAGA)を紹介する。 GAGAは、シミュレーションおよび実世界のデータセットにおける競合性能を示し、単一セルの集団レベルの軌道推定における最先端の手法よりも30%改善されている。
  論文  参考訳（メタデータ） (2024-10-16T17:53:26Z)
• (Deep) Generative Geodesics [57.635187092922976]
  2つのデータポイント間の類似性を評価するために,新しい測定基準を導入する。 我々の計量は、生成距離と生成測地学の概念的定義に繋がる。 彼らの近似は、穏やかな条件下で真の値に収束することが証明されている。
  論文  参考訳（メタデータ） (2024-07-15T21:14:02Z)
• Beyond Euclid: An Illustrated Guide to Modern Machine Learning with Geometric, Topological, and Algebraic Structures [3.5357133304100326]
  現代の機械学習は、本質的に非ユークリッド的なリッチな構造化されたデータに遭遇する。 そのような非ユークリッドデータから知識を抽出するには、より広範な数学的視点が必要である。 我々は最近の進歩を直感的な統合フレームワークに統合するグラフィカルな分類法を提案する。
  論文  参考訳（メタデータ） (2024-07-12T17:48:36Z)
• A Survey of Geometric Graph Neural Networks: Data Structures, Models and Applications [67.33002207179923]
  本稿では、幾何学的GNNに関するデータ構造、モデル、および応用について調査する。 幾何学的メッセージパッシングの観点から既存のモデルの統一的なビューを提供する。 また、方法論開発と実験評価の後の研究を促進するために、アプリケーションと関連するデータセットを要約する。
  論文  参考訳（メタデータ） (2024-03-01T12:13:04Z)
• Adaptive Surface Normal Constraint for Geometric Estimation from Monocular Images [56.86175251327466]
  本稿では,幾何学的文脈を取り入れつつ,画像から深度や表面正規度などの測地を学習するための新しい手法を提案する。 提案手法は,入力画像に存在する幾何学的変動を符号化した幾何学的文脈を抽出し,幾何的制約と深度推定を相関付ける。 本手法は,画像から高品質な3次元形状を生成可能な密着型フレームワーク内での深度と表面の正規分布推定を統一する。
  論文  参考訳（メタデータ） (2024-02-08T17:57:59Z)
• Study of Manifold Geometry using Multiscale Non-Negative Kernel Graphs [32.40622753355266]
  データの幾何学的構造を研究するための枠組みを提案する。 我々は最近導入された非負のカーネル回帰グラフを用いて、点密度、固有次元、およびデータ多様体(曲率)の線型性を推定する。
  論文  参考訳（メタデータ） (2022-10-31T17:01:17Z)
• Curved Geometric Networks for Visual Anomaly Recognition [39.91252195360767]
  データ分布の根底にある性質を理解するために潜伏埋め込みを学ぶことは、曲率ゼロのユークリッド空間でしばしば定式化される。 本研究では,データ中の異常やアウト・オブ・ディストリビューション・オブジェクトを解析するための曲線空間の利点について検討する。
  論文  参考訳（メタデータ） (2022-08-02T01:15:39Z)
• Quadric hypersurface intersection for manifold learning in feature space [52.83976795260532]
  適度な高次元と大きなデータセットに適した多様体学習技術。 この手法は、二次超曲面の交点という形で訓練データから学習される。 テスト時、この多様体は任意の新しい点に対する外れ値スコアを導入するのに使うことができる。
  論文  参考訳（メタデータ） (2021-02-11T18:52:08Z)
• Computational Analysis of Deformable Manifolds: from Geometric Modelling to Deep Learning [0.0]
  非平坦空間の多様性が豊富な研究領域を提供することを示す。 形状処理とデータ解析のための幾何学的手法について検討する。
  論文  参考訳（メタデータ） (2020-09-03T16:50:48Z)
• DSG-Net: Learning Disentangled Structure and Geometry for 3D Shape Generation [98.96086261213578]
  DSG-Netは3次元形状の非交叉構造と幾何学的メッシュ表現を学習するディープニューラルネットワークである。 これは、幾何(構造)を不変に保ちながら構造(幾何学)のような不整合制御を持つ新しい形状生成アプリケーションの範囲をサポートする。 本手法は,制御可能な生成アプリケーションだけでなく,高品質な合成形状を生成できる。
  論文  参考訳（メタデータ） (2020-08-12T17:06:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。