論文の概要: Solving morphological analogies: from retrieval to generation
- arxiv url: http://arxiv.org/abs/2303.18062v1
- Date: Thu, 30 Mar 2023 12:36:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 13:57:41.419846
- Title: Solving morphological analogies: from retrieval to generation
- Title(参考訳): 形態素アナロジーの解法:検索から生成へ
- Authors: Esteban Marquer and Miguel Couceiro
- Abstract要約: 分析推論は人間の推論の能力であり、難解な推論タスクの解決に用いられてきた。
本稿では,ARにおける2つの重要な課題である類似検出と解決に対処し,対処するためのディープラーニング(DL)フレームワークを提案する。
このフレームワークは、単語間の形態的類似比(APs)のSiganalogiesデータセットで徹底的にテストされ、多くの言語においてシンボル的アプローチよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 1.7132914341329848
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Analogical inference is a remarkable capability of human reasoning, and has
been used to solve hard reasoning tasks. Analogy based reasoning (AR) has
gained increasing interest from the artificial intelligence community and has
shown its potential in multiple machine learning tasks such as classification,
decision making and recommendation with competitive results. We propose a deep
learning (DL) framework to address and tackle two key tasks in AR: analogy
detection and solving. The framework is thoroughly tested on the Siganalogies
dataset of morphological analogical proportions (APs) between words, and shown
to outperform symbolic approaches in many languages. Previous work have
explored the behavior of the Analogy Neural Network for classification (ANNc)
on analogy detection and of the Analogy Neural Network for retrieval (ANNr) on
analogy solving by retrieval, as well as the potential of an autoencoder (AE)
for analogy solving by generating the solution word. In this article we
summarize these findings and we extend them by combining ANNr and the AE
embedding model, and checking the performance of ANNc as an retrieval method.
The combination of ANNr and AE outperforms the other approaches in almost all
cases, and ANNc as a retrieval method achieves competitive or better
performance than 3CosMul. We conclude with general guidelines on using our
framework to tackle APs with DL.
- Abstract(参考訳): 分析推論は人間の推論の顕著な能力であり、難解な推論タスクの解決に用いられてきた。
アナロジーに基づく推論(AR)は、人工知能コミュニティから関心が高まり、分類、意思決定、競争結果による推薦など、複数の機械学習タスクにおいてその可能性を示している。
本稿では,arにおける2つの重要な課題であるアナロジー検出と解法に対処するための,ディープラーニング(dl)フレームワークを提案する。
このフレームワークは、単語間の形態的類似比(APs)のSiganalogiesデータセットで徹底的にテストされ、多くの言語においてシンボル的アプローチよりも優れていることを示す。
これまでの研究は、類推検出における類推ニューラルネットワーク(annc)の挙動と、検索による類推解決における類推ニューラルネットワーク(annr)の挙動と、類推解決のためのオートエンコーダ(ae)のポテンシャルについて研究してきた。
本稿では,これらの知見を要約し,ANNrとAE埋め込みモデルを組み合わせて拡張し,ANNcの性能を検索手法として検証する。
ANNrとAEの組み合わせは、ほぼすべてのケースにおいて他のアプローチよりも優れており、ANNcは3CosMulよりも競争力や性能が高い。
我々は、我々のフレームワークをDLでAPに対処するための一般的なガイドラインで締めくくった。
関連論文リスト
- RAVEN: In-Context Learning with Retrieval Augmented Encoder-Decoder
Language Models [60.53467388496444]
RAVENは検索強化されたマスク付き言語モデリングとプレフィックス言語モデリングを組み合わせたモデルである。
我々は、RAVENがATLASを著しく上回り、特定のシナリオにおいて最も先進的な言語モデルに匹敵する結果が得られることを示した。
論文 参考訳(メタデータ) (2023-08-15T17:59:18Z) - ANALOGYKB: Unlocking Analogical Reasoning of Language Models with A
Million-scale Knowledge Base [22.606064986021412]
既存の知識グラフ(KGs)から派生した100万規模の類似知識ベース(KB)であるANALOGYKBを提案する。
ANALOGYKBは、KGsから直接抽出できる同一関係のアナログと、大きなLMで可能となる選択とフィルタリングパイプラインで識別される類似関係のアナログである。
論文 参考訳(メタデータ) (2023-05-10T09:03:01Z) - Nested Named Entity Recognition from Medical Texts: An Adaptive Shared
Network Architecture with Attentive CRF [53.55504611255664]
ネスト現象によるジレンマを解決するために,ASACと呼ばれる新しい手法を提案する。
提案手法は,適応共有(AS)部と注意条件付きランダムフィールド(ACRF)モジュールの2つの鍵モジュールを含む。
我々のモデルは、異なるカテゴリのエンティティ間の暗黙の区別と関係をキャプチャすることで、より良いエンティティ表現を学ぶことができる。
論文 参考訳(メタデータ) (2022-11-09T09:23:56Z) - LogiGAN: Learning Logical Reasoning via Adversarial Pre-training [58.11043285534766]
本稿では,言語モデルの論理的推論能力を向上させるために,教師なしの対人事前学習フレームワークLogiGANを提案する。
人間の学習におけるリフレクティブ思考の促進効果に着想を得て,逆生成検証アーキテクチャを用いて学習思考過程をシミュレートする。
LogiGANで事前トレーニングされたベースモデルと大規模言語モデルの両方で、12のデータセットで明らかなパフォーマンス改善が示されている。
論文 参考訳(メタデータ) (2022-05-18T08:46:49Z) - Deep Learning Reproducibility and Explainable AI (XAI) [9.13755431537592]
ディープラーニング(DL)学習アルゴリズムの非決定性とそのニューラルネットワーク(NN)モデルの説明可能性への影響について検討した。
この問題について議論するため、2つの畳み込みニューラルネットワーク(CNN)をトレーニングし、その結果を比較した。
論文 参考訳(メタデータ) (2022-02-23T12:06:20Z) - Neural Class Expression Synthesis [2.0474076605741036]
クラス表現学習は説明可能な教師あり機械学習の一分野である。
記述論理における表現学習のための既存のアプローチは、探索アルゴリズムやハードルールベースである。
そこで我々は,合成手法を考案した新しいアプローチのファミリーを提案する。
論文 参考訳(メタデータ) (2021-11-16T14:05:24Z) - Tackling Morphological Analogies Using Deep Learning -- Extended Version [8.288496996031684]
分析比例は "A is to B as C is to D" という形の言明である
本稿では,Deep Learningを用いて形態的類似を検知し,解決する手法を提案する。
複数の言語にまたがる類似検出と分解能において,本モデルの競合性能を実証する。
論文 参考訳(メタデータ) (2021-11-09T13:45:23Z) - A Neural Approach for Detecting Morphological Analogies [7.89271130004391]
分析比例は "A is to B as C is to D" という形の言明である
形態的類似を検出するための深層学習手法を提案する。
論文 参考訳(メタデータ) (2021-08-09T11:21:55Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Few-shot Visual Reasoning with Meta-analogical Contrastive Learning [141.2562447971]
本稿では,類似推論に頼って,数ショット(または低ショット)の視覚推論問題を解くことを提案する。
両領域の要素間の構造的関係を抽出し、類似学習と可能な限り類似するように強制する。
RAVENデータセット上での本手法の有効性を検証し, トレーニングデータが少ない場合, 最先端の手法より優れることを示す。
論文 参考訳(メタデータ) (2020-07-23T14:00:34Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。