論文の概要: Tree Echo State Autoencoders with Grammars
- arxiv url: http://arxiv.org/abs/2004.08925v1
- Date: Sun, 19 Apr 2020 18:04:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-11 23:47:36.851628
- Title: Tree Echo State Autoencoders with Grammars
- Title(参考訳): 文法を用いた樹木エコー状態オートエンコーダ
- Authors: Benjamin Paassen, Irena Koprinska, Kalina Yacef
- Abstract要約: 木の非ベクトル的かつ離散的な性質は、木形式の出力を持つ関数を構築するのを難しくする。
既存のオートエンコーディングアプローチは、ツリードメインの特定の文法構造を考慮に入れない。
本研究では,木文法でガイドされる木エコー状態オートエンコーダ(TES-AE)を提案する。
- 参考スコア(独自算出の注目度): 3.7280152311394827
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tree data occurs in many forms, such as computer programs, chemical
molecules, or natural language. Unfortunately, the non-vectorial and discrete
nature of trees makes it challenging to construct functions with tree-formed
output, complicating tasks such as optimization or time series prediction.
Autoencoders address this challenge by mapping trees to a vectorial latent
space, where tasks are easier to solve, and then mapping the solution back to a
tree structure. However, existing autoencoding approaches for tree data fail to
take the specific grammatical structure of tree domains into account and rely
on deep learning, thus requiring large training datasets and long training
times. In this paper, we propose tree echo state autoencoders (TES-AE), which
are guided by a tree grammar and can be trained within seconds by virtue of
reservoir computing. In our evaluation on three datasets, we demonstrate that
our proposed approach is not only much faster than a state-of-the-art deep
learning autoencoding approach (D-VAE) but also has less autoencoding error if
little data and time is given.
- Abstract(参考訳): ツリーデータは、コンピュータプログラム、化学分子、自然言語など、多くの形式で発生する。
残念なことに、ツリーの非ベクトル的かつ離散的性質は、ツリー形式の出力を持つ関数の構築を困難にし、最適化や時系列予測のようなタスクを複雑にする。
オートエンコーダはこの課題に対処し、木をベクトル的潜在空間にマッピングし、タスクの解決を容易にする。
しかしながら、ツリーデータに対する既存の自動エンコーディングアプローチでは、ツリードメインの特定の文法構造を考慮に入れず、ディープラーニングに依存しているため、大きなトレーニングデータセットと長いトレーニング時間が必要になる。
本稿では,木文法によって導かれ,貯水池計算により数秒以内に訓練できる木エコー状態オートエンコーダ(tes-ae)を提案する。
3つのデータセットに対する評価では、提案手法は最先端のディープラーニングオートエンコーディング手法(D-VAE)よりもはるかに高速であるだけでなく、データや時間が少ない場合の自動エンコーディングエラーが少ないことも示している。
関連論文リスト
- Learning a Decision Tree Algorithm with Transformers [75.96920867382859]
メタ学習によってトレーニングされたトランスフォーマーベースのモデルであるMetaTreeを導入し、強力な決定木を直接生成する。
我々は、多くのデータセットに欲求決定木とグローバルに最適化された決定木の両方を適合させ、MetaTreeを訓練して、強力な一般化性能を実現する木のみを生成する。
論文 参考訳(メタデータ) (2024-02-06T07:40:53Z) - Tree Prompting: Efficient Task Adaptation without Fine-Tuning [112.71020326388029]
Tree Promptingはプロンプトの決定ツリーを構築し、複数のLMコールをリンクしてタスクを解決する。
分類データセットの実験により、Tree Promptingは競合するメソッドよりも精度が向上し、微調整と競合することが示された。
論文 参考訳(メタデータ) (2023-10-21T15:18:22Z) - New Linear-time Algorithm for SubTree Kernel Computation based on
Root-Weighted Tree Automata [0.0]
本稿では,SubTreeカーネル計算のための重み付き木オートマトンの概念に基づく線形時間アルゴリズムを提案する。
提案アルゴリズムの主な考え方は、DAGの削減とノードのソートを置き換えることである。
我々のアプローチには3つの大きな利点がある:それは出力に敏感であり、木の種類(順序のない木と順序のない木)に敏感であり、インクリメンタルな木カーネルベースの学習手法によく適応している。
論文 参考訳(メタデータ) (2023-02-02T13:37:48Z) - Structure-Unified M-Tree Coding Solver for MathWord Problem [57.825176412485504]
従来,数式表現の2次木構造を考慮に入れたモデルでは,性能が向上した。
本稿では、出力構造を統一するために、任意のM枝(M-tree)を持つ木を適用した構造統一M-Tree符号化(S-UMCr)を提案する。
広く使われているMAWPSとMath23Kデータセットの実験結果は、SUMC-rが複数の最先端モデルを上回るだけでなく、低リソース条件下でもはるかに優れた性能を発揮することを示した。
論文 参考訳(メタデータ) (2022-10-22T12:20:36Z) - Autoencoders as Tools for Program Synthesis [0.43012765978447565]
本稿では,業界グレードプログラミング言語のプログラム合成のための変分オートエンコーダモデルを提案する。
本モデルでは,ソースコードの内部階層構造を組み込んで解析木で動作する。
論文 参考訳(メタデータ) (2021-08-16T14:51:11Z) - Visualizing hierarchies in scRNA-seq data using a density tree-biased
autoencoder [50.591267188664666]
本研究では,高次元scRNA-seqデータから意味のある木構造を同定する手法を提案する。
次に、低次元空間におけるデータのツリー構造を強調する木バイアスオートエンコーダDTAEを紹介する。
論文 参考訳(メタデータ) (2021-02-11T08:48:48Z) - Recursive Tree Grammar Autoencoders [3.791857415239352]
本稿では,木をボトムアップ文法で符号化し,木を木文法で復号する,新しいオートエンコーダ手法を提案する。
提案手法は, 4つのベンチマークデータセットにおいて, 自動符号化誤差, トレーニング時間, 最適化スコアを改善することを実験的に示す。
論文 参考訳(メタデータ) (2020-12-03T17:37:25Z) - Recursive Top-Down Production for Sentence Generation with Latent Trees [77.56794870399288]
自然および合成言語に対する文脈自由文法の生成特性をモデル化する。
潜伏二分木構造にN$の葉を持つ動的プログラミングアルゴリズムを提案する。
また,Multi30kデータセットを用いたドイツ語と英語の翻訳実験を行った。
論文 参考訳(メタデータ) (2020-10-09T17:47:16Z) - TreeCaps: Tree-Based Capsule Networks for Source Code Processing [28.61567319928316]
本研究では、カプセルネットワークとツリーベースの畳み込みニューラルネットワークを融合させることにより、新しい学習手法であるTreeCapsを提案する。
TreeCapsは、これらのセマンティック保存プログラム変換に耐える上で、最も堅牢であることに気付きました。
論文 参考訳(メタデータ) (2020-09-05T16:37:19Z) - Born-Again Tree Ensembles [9.307453801175177]
ツリーアンサンブルは、様々な領域で優れた予測品質を提供するが、複数のツリーの同時使用により、アンサンブルの解釈可能性が低下する。
本研究では,その特徴空間全体において,与えられたツリーのアンサンブルと全く同じ振る舞いを再現する,最小サイズの1つの決定木を構築する過程について検討する。
このアルゴリズムは、実践的な関心のある多くのデータセットに対して最適な生長木を生成する。
論文 参考訳(メタデータ) (2020-03-24T22:17:21Z) - Tree-structured Attention with Hierarchical Accumulation [103.47584968330325]
階層的累積」は解析木構造を一定時間複雑度で自己注意に符号化する。
提案手法は,4つの IWSLT 翻訳タスクと WMT'14 翻訳タスクにおいて,SOTA 法より優れている。
論文 参考訳(メタデータ) (2020-02-19T08:17:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。