論文の概要: Unsupervised Learning of Equivariant Structure from Sequences
- arxiv url: http://arxiv.org/abs/2210.05972v1
- Date: Wed, 12 Oct 2022 07:29:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 13:09:35.730595
- Title: Unsupervised Learning of Equivariant Structure from Sequences
- Title(参考訳): 配列からの同変構造の教師なし学習
- Authors: Takeru Miyato, Masanori Koyama, Kenji Fukumizu
- Abstract要約: 我々は,少なくとも3つの長さの時系列から対称性を学習するための教師なしのフレームワークを提案する。
当社のフレームワークでは,データセットの非絡み合い構造が副産物として自然に現れることを実証します。
- 参考スコア(独自算出の注目度): 30.974508897223124
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this study, we present meta-sequential prediction (MSP), an unsupervised
framework to learn the symmetry from the time sequence of length at least
three. Our method leverages the stationary property (e.g. constant velocity,
constant acceleration) of the time sequence to learn the underlying equivariant
structure of the dataset by simply training the encoder-decoder model to be
able to predict the future observations. We will demonstrate that, with our
framework, the hidden disentangled structure of the dataset naturally emerges
as a by-product by applying simultaneous block-diagonalization to the
transition operators in the latent space, the procedure which is commonly used
in representation theory to decompose the feature-space based on the type of
response to group actions. We will showcase our method from both empirical and
theoretical perspectives. Our result suggests that finding a simple structured
relation and learning a model with extrapolation capability are two sides of
the same coin. The code is available at
https://github.com/takerum/meta_sequential_prediction.
- Abstract(参考訳): 本研究では,少なくとも3つの長さの時系列から対称性を学習するための教師なしフレームワークであるメタシーケンス予測(MSP)を提案する。
本手法は, エンコーダ・デコーダモデルのトレーニングにより, 時系列の定常特性(例えば, 定速度, 定加速度)を活用して, 将来の観測を予測できることで, データセットの基本的同変構造を学習する。
本稿では,本フレームワークを用いて,グループ動作に対する応答のタイプに基づいて特徴空間を分解する表現理論において一般的に用いられる手法である遷移演算子に同時ブロック対角化を適用することにより,データセットの隠蔽不整合構造が副産物として自然に現れることを示す。
実証的・理論的両面から,我々の方法を紹介する。
その結果,単純な構造的関係の発見と外挿能力を持つモデル学習は,同じコインの2つの側面であることが示唆された。
コードはhttps://github.com/takerum/meta_sequential_predictionで入手できる。
関連論文リスト
- Skeleton2vec: A Self-supervised Learning Framework with Contextualized
Target Representations for Skeleton Sequence [56.092059713922744]
予測対象として高レベルな文脈化機能を使用することで,優れた性能が得られることを示す。
具体的には、シンプルで効率的な3D行動表現学習フレームワークであるSkeleton2vecを提案する。
提案するSkeleton2vecは,従来の手法より優れ,最先端の結果が得られる。
論文 参考訳(メタデータ) (2024-01-01T12:08:35Z) - Intensity Profile Projection: A Framework for Continuous-Time
Representation Learning for Dynamic Networks [50.2033914945157]
本稿では、連続時間動的ネットワークデータのための表現学習フレームワークIntensity Profile Projectionを提案する。
このフレームワークは3つの段階から構成される: 対の強度関数を推定し、強度再構成誤差の概念を最小化する射影を学習する。
さらに、推定軌跡の誤差を厳密に制御する推定理論を開発し、その表現がノイズに敏感な追従解析に利用できることを示す。
論文 参考訳(メタデータ) (2023-06-09T15:38:25Z) - Disentanglement via Latent Quantization [60.37109712033694]
本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。
本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
論文 参考訳(メタデータ) (2023-05-28T06:30:29Z) - Equivariance with Learned Canonicalization Functions [77.32483958400282]
正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。
実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
論文 参考訳(メタデータ) (2022-11-11T21:58:15Z) - Exploring Predictive States via Cantor Embeddings and Wasserstein
Distance [0.0]
シンボリックデータにおける予測等価性をワッサースタイン距離を用いて検出する方法を示す。
結果の幾何を用いた探索データ解析は,プロセスの時間的構造に関する洞察を与える。
論文 参考訳(メタデータ) (2022-06-09T00:09:47Z) - Parameter Decoupling Strategy for Semi-supervised 3D Left Atrium
Segmentation [0.0]
本稿では,パラメータ分離戦略に基づく半教師付きセグメンテーションモデルを提案する。
提案手法は,Atrial Challengeデータセット上での最先端の半教師付き手法と競合する結果を得た。
論文 参考訳(メタデータ) (2021-09-20T14:51:42Z) - Topographic VAEs learn Equivariant Capsules [84.33745072274942]
本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。
このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。
我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
論文 参考訳(メタデータ) (2021-09-03T09:25:57Z) - Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。
ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。
我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
論文 参考訳(メタデータ) (2020-06-20T03:29:02Z) - Towards Novel Insights in Lattice Field Theory with Explainable Machine
Learning [1.5854412882298003]
本稿では,可観測物の識別のための枠組みとして,解釈可能性法と組み合わせて表現学習を提案する。
このアプローチは (2+1)d のスカラー湯河モデルの文脈で機能する。
本研究の結果から, LRPなどの帰属法は適用可能性の広さから, 新たな身体的洞察を探索する上で有用かつ多用途なツールであることが示唆された。
論文 参考訳(メタデータ) (2020-03-03T13:56:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。