論文の概要: Symmetrical SyncMap for Imbalanced General Chunking Problems
- arxiv url: http://arxiv.org/abs/2310.10045v1
- Date: Mon, 16 Oct 2023 04:03:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 16:38:16.360257
- Title: Symmetrical SyncMap for Imbalanced General Chunking Problems
- Title(参考訳): 不均衡な一般チャンキング問題に対する対称性SyncMap
- Authors: Heng Zhang and Danilo Vasconcellos Vargas
- Abstract要約: 本研究では, 長期にわたって安定な動的方程式と引力・引力点の創出法を示す。
主な考え方は、対称的なアクティベーションによって負のフィードバックループと正のフィードバックループから等しく更新することである。
我々のアルゴリズムは、12の非バランスなCGCPにおいて、他の教師なしの最先端のベースラインを超越または結び付ける。
- 参考スコア(独自算出の注目度): 11.26120401279973
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, SyncMap pioneered an approach to learn complex structures from
sequences as well as adapt to any changes in underlying structures. This is
achieved by using only nonlinear dynamical equations inspired by neuron group
behaviors, i.e., without loss functions. Here we propose Symmetrical SyncMap
that goes beyond the original work to show how to create dynamical equations
and attractor-repeller points which are stable over the long run, even dealing
with imbalanced continual general chunking problems (CGCPs). The main idea is
to apply equal updates from negative and positive feedback loops by symmetrical
activation. We then introduce the concept of memory window to allow for more
positive updates. Our algorithm surpasses or ties other unsupervised
state-of-the-art baselines in all 12 imbalanced CGCPs with various
difficulties, including dynamically changing ones. To verify its performance in
real-world scenarios, we conduct experiments on several well-studied structure
learning problems. The proposed method surpasses substantially other methods in
3 out of 4 scenarios, suggesting that symmetrical activation plays a critical
role in uncovering topological structures and even hierarchies encoded in
temporal data.
- Abstract(参考訳): 最近SyncMapは、シーケンスから複雑な構造を学習し、基盤となる構造の変化に適応するアプローチを開拓した。
これは、ニューロン群の振舞い、すなわち損失関数を伴わない非線形力学方程式のみを使用することによって達成される。
ここでは,不均衡な連続的な一般チャンキング問題(CGCP)を扱う場合でも,長期にわたって安定な動的方程式や引力器・引力器点の創出方法を示すため,もともとの作業を超えてSymmetrical SyncMapを提案する。
主な考え方は、対称的なアクティベーションによって負のフィードバックループと正のフィードバックループから等しく更新することである。
次に、よりポジティブな更新を可能にするために、メモリウィンドウの概念を導入します。
我々のアルゴリズムは、動的に変化するCGCPを含む12の非バランスなCGCPにおいて、他の教師なしのベースラインを超越または結び付ける。
実世界のシナリオでの性能を検証するために,構造学習問題のいくつかについて実験を行った。
提案手法は4つのシナリオのうち3つのうち実質的に他の手法を上回っており、対称活性化が位相構造や時間データにエンコードされた階層を解明する上で重要な役割を果たすことを示唆している。
関連論文リスト
- Hybrid Functional Maps for Crease-Aware Non-Isometric Shape Matching [42.0728900164228]
ラプラス・ベルトラミ作用素(LBO)固有モデムの固有関数と弾性薄殻ヘシアンの固有関数の非直交外部基底を結合する新しいアプローチを提案する。
各種の教師なしおよび教師なしの設定に対して広範囲な評価を行い,大幅な改善を示した。
論文 参考訳(メタデータ) (2023-12-06T18:41:01Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Intensity Profile Projection: A Framework for Continuous-Time
Representation Learning for Dynamic Networks [50.2033914945157]
本稿では、連続時間動的ネットワークデータのための表現学習フレームワークIntensity Profile Projectionを提案する。
このフレームワークは3つの段階から構成される: 対の強度関数を推定し、強度再構成誤差の概念を最小化する射影を学習する。
さらに、推定軌跡の誤差を厳密に制御する推定理論を開発し、その表現がノイズに敏感な追従解析に利用できることを示す。
論文 参考訳(メタデータ) (2023-06-09T15:38:25Z) - Understanding and Constructing Latent Modality Structures in Multi-modal
Representation Learning [53.68371566336254]
優れたパフォーマンスの鍵は、完全なモダリティアライメントではなく、有意義な潜在モダリティ構造にある、と我々は主張する。
具体的には,1)モダリティ内正規化のための深い特徴分離損失,2)モダリティ間正規化のためのブラウン橋損失,3)モダリティ内正規化およびモダリティ間正規化のための幾何学的整合損失を設計する。
論文 参考訳(メタデータ) (2023-03-10T14:38:49Z) - Temporal Difference Learning with Compressed Updates: Error-Feedback meets Reinforcement Learning [47.904127007515925]
本稿では,従来の時間差学習アルゴリズムの変種について検討する。
我々は、圧縮されたTDアルゴリズムと、最適化に広く用いられているエラーフィードバック機構が組み合わさって、漸近的でない近似を保証することを証明した。
特に、これらは一般圧縮演算子と線形関数近似とマルコフサンプリングを併用したタンデムの誤差フィードバックを考慮に入れたRLにおける最初の有限時間結果である。
論文 参考訳(メタデータ) (2023-01-03T04:09:38Z) - Linearization and Identification of Multiple-Attractors Dynamical System
through Laplacian Eigenmaps [8.161497377142584]
速度拡張カーネルを利用したグラフベースのスペクトルクラスタリング手法を提案し,同じダイナミックスに属するデータポイントを接続する。
部分力学が線型であり、n-次元埋め込みが準線型であるような2次元埋め込み空間が常に存在することを証明する。
我々は、ラプラシアン埋め込み空間から元の空間への微分同相性を学び、ラプラシアン埋め込みが良好な再構成精度とより高速な訓練時間をもたらすことを示す。
論文 参考訳(メタデータ) (2022-02-18T12:43:25Z) - Multiway Non-rigid Point Cloud Registration via Learned Functional Map
Synchronization [105.14877281665011]
我々は、点雲上に定義された学習関数に関する地図を同期させることにより、複数の非剛体形状を登録する新しい方法であるSyNoRiMを提案する。
提案手法は,登録精度において最先端の性能を達成できることを実証する。
論文 参考訳(メタデータ) (2021-11-25T02:37:59Z) - Learning Iterative Robust Transformation Synchronization [71.73273007900717]
グラフニューラルネットワーク(GNN)を用いて変換同期を学習することを提案する。
本研究では、ロバストな損失関数のハンドクラフトを回避するとともに、グラフニューラルネットワーク(GNN)を用いて変換同期を学習することを提案する。
論文 参考訳(メタデータ) (2021-11-01T07:03:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。