論文の概要: Concepts, Properties and an Approach for Compositional Generalization
- arxiv url: http://arxiv.org/abs/2102.04225v1
- Date: Mon, 8 Feb 2021 14:22:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-11 07:53:59.342480
- Title: Concepts, Properties and an Approach for Compositional Generalization
- Title(参考訳): 構成一般化のための概念・性質・アプローチ
- Authors: Yuanpeng Li
- Abstract要約: 本報告は, 構成一般化に関する一連の研究を結びつけ, アプローチを要約する。
このアプローチでは、アーキテクチャ設計と正規化を使用して表現の情報を規制する。
この研究が、作曲の一般化の基礎を明確にし、人工知能の進歩に繋がることを願っている。
- 参考スコア(独自算出の注目度): 2.0559497209595823
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Compositional generalization is the capacity to recognize and imagine a large
amount of novel combinations from known components. It is a key in human
intelligence, but current neural networks generally lack such ability. This
report connects a series of our work for compositional generalization, and
summarizes an approach. The first part contains concepts and properties. The
second part looks into a machine learning approach. The approach uses
architecture design and regularization to regulate information of
representations. This report focuses on basic ideas with intuitive and
illustrative explanations. We hope this work would be helpful to clarify
fundamentals of compositional generalization and lead to advance artificial
intelligence.
- Abstract(参考訳): 構成一般化は、既知のコンポーネントから多くの新しい組み合わせを認識し、想像する能力である。
これは人間の知能の鍵だが、現在のニューラルネットワークにはそのような能力がない。
本報告は, 構成一般化に関する一連の研究を結びつけ, アプローチを要約する。
最初の部分は概念と特性を含んでいる。
第2部では、機械学習のアプローチを検討する。
このアプローチは、アーキテクチャ設計と正規化を使用して表現の情報を調整します。
本報告では,直感的かつ説明的な基本的な概念について述べる。
この研究が、構成一般化の基本を明らかにするのに役立ち、人工知能の進歩に繋がることを願っている。
関連論文リスト
- A Complexity-Based Theory of Compositionality [53.025566128892066]
AIでは、構成表現は配布外一般化の強力な形式を可能にすることができる。
ここでは、構成性に関する直観を考慮し、拡張する構成性の公式な定義を提案する。
この定義は概念的には単純で量的であり、アルゴリズム情報理論に基礎を置いており、あらゆる表現に適用できる。
論文 参考訳(メタデータ) (2024-10-18T18:37:27Z) - Improving Compositional Generalization Using Iterated Learning and
Simplicial Embeddings [19.667133565610087]
構成の一般化は人間には容易だが、ディープニューラルネットワークには難しい。
簡単な埋め込みモデルで繰り返し学習を行うことにより、この能力を向上させることを提案する。
このような変化の組み合わせは、他のアプローチよりも構成の一般化を改善することが示される。
論文 参考訳(メタデータ) (2023-10-28T18:30:30Z) - Provable Compositional Generalization for Object-Centric Learning [55.658215686626484]
既知の概念の新規な構成に一般化する学習表現は、人間と機械の知覚のギャップを埋めるのに不可欠である。
本稿では,デコーダの構造的仮定を満足し,エンコーダとデコーダの整合性を強制するオートエンコーダが,構成を確実に一般化するオブジェクト中心表現を学習することを示す。
論文 参考訳(メタデータ) (2023-10-09T01:18:07Z) - Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-29T13:05:15Z) - Separating Skills and Concepts for Novel Visual Question Answering [66.46070380927372]
アウト・オブ・ディストリビューションデータへの一般化は、VQA(Visual Question Answering)モデルにおいて問題となっている。
「スキル」とは、数え方や属性認識などの視覚的なタスクであり、その疑問に言及された「概念」に適用される。
モデル内でこれらの2つの要因を暗黙的に分離するスキルと概念を学習するための新しい手法を提案する。
論文 参考訳(メタデータ) (2021-07-19T18:55:10Z) - Improving Compositional Generalization in Classification Tasks via
Structure Annotations [33.90268697120572]
人間は構成を一般化する能力は大きいが、最先端のニューラルモデルはそれを行うのに苦労している。
まず、自然言語のシーケンス・ツー・シーケンス・データセットを、合成の一般化も必要とする分類データセットに変換する方法について検討する。
第二に、構造的ヒントを提供すること(特にトランスフォーマーモデルの注意マスクとしてパースツリーとエンティティリンクを提供すること)は、構成の一般化に役立つことを示す。
論文 参考訳(メタデータ) (2021-06-19T06:07:27Z) - Flexible Compositional Learning of Structured Visual Concepts [17.665938343060112]
本研究では,豊かな関係構造を持つ抽象的な視覚形態を用いて,異なるタイプの視覚構成を学習する方法について検討する。
さまざまなシナリオで、ほんの数例から意味のある構成の一般化ができることが分かりました。
構成性の特別な場合を調べる過去の研究とは異なり、我々の研究は、単一の計算アプローチが多くの異なる種類の構成一般化を考慮できることを示す。
論文 参考訳(メタデータ) (2021-05-20T15:48:05Z) - Compositional Processing Emerges in Neural Networks Solving Math
Problems [100.80518350845668]
人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。
我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。
私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
論文 参考訳(メタデータ) (2021-05-19T07:24:42Z) - Compositional Generalization by Learning Analytical Expressions [87.15737632096378]
メモリ拡張ニューラルモデルは、合成一般化を達成するために解析式に接続される。
良く知られたベンチマークSCANの実験は、我々のモデルが構成的一般化の優れた能力をつかむことを示した。
論文 参考訳(メタデータ) (2020-06-18T15:50:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。