論文の概要: Exploring Data Geometry for Continual Learning
- arxiv url: http://arxiv.org/abs/2304.03931v1
- Date: Sat, 8 Apr 2023 06:35:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 18:52:03.417028
- Title: Exploring Data Geometry for Continual Learning
- Title（参考訳）: 連続学習のためのデータ幾何探索
- Authors: Zhi Gao, Chen Xu, Feng Li, Yunde Jia, Mehrtash Harandi, Yuwei Wu
- Abstract要約: 非定常データストリームのデータ幾何を探索することにより,新しい視点から連続学習を研究する。
提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何学を動的に拡張する。
実験により,本手法はユークリッド空間で設計したベースライン法よりも優れた性能が得られることが示された。
- 参考スコア（独自算出の注目度）: 64.4358878435983
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning aims to efficiently learn from a non-stationary stream of
data while avoiding forgetting the knowledge of old data. In many practical
applications, data complies with non-Euclidean geometry. As such, the commonly
used Euclidean space cannot gracefully capture non-Euclidean geometric
structures of data, leading to inferior results. In this paper, we study
continual learning from a novel perspective by exploring data geometry for the
non-stationary stream of data. Our method dynamically expands the geometry of
the underlying space to match growing geometric structures induced by new data,
and prevents forgetting by keeping geometric structures of old data into
account. In doing so, making use of the mixed curvature space, we propose an
incremental search scheme, through which the growing geometric structures are
encoded. Then, we introduce an angular-regularization loss and a
neighbor-robustness loss to train the model, capable of penalizing the change
of global geometric structures and local geometric structures. Experiments show
that our method achieves better performance than baseline methods designed in
Euclidean space.
- Abstract（参考訳）: 連続学習は、古いデータの知識を忘れずに、非定常なデータストリームから効率的に学習することを目的としている。
多くの実践的応用において、データは非ユークリッド幾何学に準拠する。
したがって、一般的に用いられるユークリッド空間は、非ユークリッド幾何学的なデータ構造を優雅に捉えることができず、結果は劣る。
本稿では,非定常データストリームのためのデータ幾何を探索し,新しい視点から連続学習について検討する。
提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何を動的に拡張し,古いデータの幾何構造を考慮に入れておくことで,忘れることを防止する。
そこで, 混合曲率空間を用いて, 増大する幾何構造を符号化するインクリメンタル探索手法を提案する。
次に,球面構造と局所幾何学構造の変化をペナルティ化することが可能な模型を訓練するために,角正規化損失と近傍ロバストネス損失を導入する。
実験により, ユークリッド空間で設計したベースライン法よりも優れた性能が得られることを示した。
関連論文リスト
- Tight and fast generalization error bound of graph embedding in metric
space [54.279425319381374]
非ユークリッド計量空間へのグラフ埋め込みは、既存の有界よりもはるかに少ない訓練データを持つユークリッド空間におけるグラフ埋め込みよりも優れていることを示す。
我々の新しい上限は、既存の上限よりもかなり強く速く、最大で$R$と$O(frac1S)$に指数関数できる。
論文 参考訳（メタデータ） (2023-05-13T17:29:18Z) - GeoUDF: Surface Reconstruction from 3D Point Clouds via Geometry-guided
Distance Representation [73.77505964222632]
スパース点雲から離散曲面を再構成する問題に対処する学習ベース手法であるGeoUDFを提案する。
具体的には、UDFのための幾何誘導学習法とその勾配推定を提案する。
予測されたUDFから三角形メッシュを抽出するために,カスタマイズされたエッジベースマーチングキューブモジュールを提案する。
論文 参考訳（メタデータ） (2022-11-30T06:02:01Z) - Study of Manifold Geometry using Multiscale Non-Negative Kernel Graphs [32.40622753355266]
データの幾何学的構造を研究するための枠組みを提案する。
我々は最近導入された非負のカーネル回帰グラフを用いて、点密度、固有次元、およびデータ多様体(曲率)の線型性を推定する。
論文 参考訳（メタデータ） (2022-10-31T17:01:17Z) - Curved Geometric Networks for Visual Anomaly Recognition [39.91252195360767]
データ分布の根底にある性質を理解するために潜伏埋め込みを学ぶことは、曲率ゼロのユークリッド空間でしばしば定式化される。
本研究では,データ中の異常やアウト・オブ・ディストリビューション・オブジェクトを解析するための曲線空間の利点について検討する。
論文 参考訳（メタデータ） (2022-08-02T01:15:39Z) - Spherical Rotation Dimension Reduction with Geometric Loss Functions [0.0]
そのようなデータセットの第一の例は細胞周期の測定の集まりであり、そこではプロセスの本質的に循環的な性質を円や球として表すことができる。
幾何学的情報を組み込んだ非線形次元減少法である球状回転成分分析(SRCA)を提案し,より近似的な低次元多様体を提案する。
論文 参考訳（メタデータ） (2022-04-23T02:03:55Z) - Neural Convolutional Surfaces [59.172308741945336]
この研究は、大域的、粗い構造から、微細で局所的で、おそらく繰り返される幾何学を歪める形状の表現に関係している。
このアプローチは, 最先端技術よりも優れたニューラル形状圧縮を実現するとともに, 形状詳細の操作と伝達を可能にする。
論文 参考訳（メタデータ） (2022-04-05T15:40:11Z) - Hermitian Symmetric Spaces for Graph Embeddings [0.0]
C 上の対称行列空間におけるグラフの連続表現を学ぶ。
これらの空間は双曲部分空間とユークリッド部分空間を同時に認めるリッチな幾何学を提供する。
提案するモデルは, apriori のグラフ特徴を見積もることなく, まったく異なる配置に自動的に適応することができる。
論文 参考訳（メタデータ） (2021-05-11T18:14:52Z) - Quadric hypersurface intersection for manifold learning in feature space [52.83976795260532]
適度な高次元と大きなデータセットに適した多様体学習技術。
この手法は、二次超曲面の交点という形で訓練データから学習される。
テスト時、この多様体は任意の新しい点に対する外れ値スコアを導入するのに使うことができる。
論文 参考訳（メタデータ） (2021-02-11T18:52:08Z) - Computational Analysis of Deformable Manifolds: from Geometric Modelling
to Deep Learning [0.0]
非平坦空間の多様性が豊富な研究領域を提供することを示す。
形状処理とデータ解析のための幾何学的手法について検討する。
論文 参考訳（メタデータ） (2020-09-03T16:50:48Z) - DSG-Net: Learning Disentangled Structure and Geometry for 3D Shape
Generation [98.96086261213578]
DSG-Netは3次元形状の非交叉構造と幾何学的メッシュ表現を学習するディープニューラルネットワークである。
これは、幾何(構造)を不変に保ちながら構造(幾何学)のような不整合制御を持つ新しい形状生成アプリケーションの範囲をサポートする。
本手法は,制御可能な生成アプリケーションだけでなく,高品質な合成形状を生成できる。
論文 参考訳（メタデータ） (2020-08-12T17:06:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。