論文の概要: Modelling Commonsense Commonalities with Multi-Facet Concept Embeddings
- arxiv url: http://arxiv.org/abs/2403.16984v2
- Date: Tue, 4 Jun 2024 21:36:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-07 00:30:45.609433
- Title: Modelling Commonsense Commonalities with Multi-Facet Concept Embeddings
- Title(参考訳): 多面的概念埋め込みを用いたCommonsense Commonalitiesのモデリング
- Authors: Hanane Kteich, Na Li, Usashi Chatterjee, Zied Bouraoui, Steven Schockaert,
- Abstract要約: 概念埋め込みは興味のある性質を共有する概念を識別する。
標準埋め込みは基本的な分類学的カテゴリーを反映しており、より特定の側面を参照する共通点を見つけるのに適さない。
これは、より多様なコモンセンス特性をキャプチャし、下流タスクの結果を継続的に改善する埋め込みにつながることを示す。
- 参考スコア(独自算出の注目度): 25.52752452574944
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept embeddings offer a practical and efficient mechanism for injecting commonsense knowledge into downstream tasks. Their core purpose is often not to predict the commonsense properties of concepts themselves, but rather to identify commonalities, i.e.\ sets of concepts which share some property of interest. Such commonalities are the basis for inductive generalisation, hence high-quality concept embeddings can make learning easier and more robust. Unfortunately, standard embeddings primarily reflect basic taxonomic categories, making them unsuitable for finding commonalities that refer to more specific aspects (e.g.\ the colour of objects or the materials they are made of). In this paper, we address this limitation by explicitly modelling the different facets of interest when learning concept embeddings. We show that this leads to embeddings which capture a more diverse range of commonsense properties, and consistently improves results in downstream tasks such as ultra-fine entity typing and ontology completion.
- Abstract(参考訳): コンセプト埋め込みは、下流のタスクに常識知識を注入するための実用的で効率的なメカニズムを提供する。
彼らの中核的な目的は、しばしば概念自体の常識的性質を予測しないことではなく、共通の性質、すなわちある興味のある性質を共有する概念の集合を識別することである。
このような共通性は帰納的一般化の基礎であり、したがって高品質な概念の埋め込みは学習を容易にし、より堅牢にすることができる。
残念なことに、標準埋め込みは主に基本的な分類学のカテゴリーを反映しており、より特定の側面(例えば、対象の色や素材)を参照する共通点を見つけるのに適さない。
本稿では,概念の埋め込みを学習する際の関心の異なる側面を明示的にモデル化することで,この制限に対処する。
これは、より多様なコモンセンス特性をキャプチャし、超微細なエンティティタイピングやオントロジー補完といった下流タスクの結果を一貫して改善する埋め込みにつながることを示す。
関連論文リスト
- What do Deck Chairs and Sun Hats Have in Common? Uncovering Shared
Properties in Large Concept Vocabularies [33.879307754303746]
概念は多くのアプリケーションにおいて中心的な役割を果たす。
これまでの研究は、言語モデルから非文脈化概念の埋め込みを蒸留することに重点を置いてきた。
我々は,潜在的に大きな概念語彙から,他の概念と共通する概念を識別する戦略を提案する。
そして、それらが他の概念と共有する性質の観点で概念を表現する。
論文 参考訳(メタデータ) (2023-10-23T10:53:25Z) - Provable Compositional Generalization for Object-Centric Learning [57.42720932595342]
既知の概念の新規な構成に一般化する学習表現は、人間と機械の知覚のギャップを埋めるのに不可欠である。
本稿では,デコーダの構造的仮定を満足し,エンコーダとデコーダの整合性を強制するオートエンコーダが,構成を確実に一般化するオブジェクト中心表現を学習することを示す。
論文 参考訳(メタデータ) (2023-10-09T01:18:07Z) - CommonsenseVIS: Visualizing and Understanding Commonsense Reasoning
Capabilities of Natural Language Models [30.63276809199399]
本稿では,外部コモンセンス知識ベースを用いた視覚的説明システムであるCommonsenseVISについて述べる。
本システムでは,異なる概念とその基盤となる関係について,多段階の可視化とインタラクティブなモデル探索と編集を行う。
論文 参考訳(メタデータ) (2023-07-23T17:16:13Z) - Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-29T13:05:15Z) - Automatic Concept Extraction for Concept Bottleneck-based Video
Classification [58.11884357803544]
本稿では,概念に基づくビデオ分類に必要かつ十分な概念抽象セットを厳格に構成する概念発見抽出モジュールを提案する。
提案手法は,自然言語における概念概念の抽象概念を応用し,複雑なタスクに概念ボトルネック法を一般化する。
論文 参考訳(メタデータ) (2022-06-21T06:22:35Z) - Visual Superordinate Abstraction for Robust Concept Learning [80.15940996821541]
概念学習は言語意味論と結びついた視覚表現を構成する。
視覚概念の本質的な意味的階層を探索する失敗のボトルネックについて説明する。
本稿では,意味認識型視覚サブ空間を明示的にモデル化するビジュアル・スーパーオーディネート・抽象化・フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-28T14:27:38Z) - Translational Concept Embedding for Generalized Compositional Zero-shot
Learning [73.60639796305415]
一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。
本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
論文 参考訳(メタデータ) (2021-12-20T21:27:51Z) - Is Disentanglement all you need? Comparing Concept-based &
Disentanglement Approaches [24.786152654589067]
概念に基づく説明と非絡み合いのアプローチの概要を述べる。
両クラスからの最先端のアプローチは、データ非効率、分類/回帰タスクの特定の性質に敏感、あるいは採用した概念表現に敏感であることを示す。
論文 参考訳(メタデータ) (2021-04-14T15:06:34Z) - Concepts, Properties and an Approach for Compositional Generalization [2.0559497209595823]
本報告は, 構成一般化に関する一連の研究を結びつけ, アプローチを要約する。
このアプローチでは、アーキテクチャ設計と正規化を使用して表現の情報を規制する。
この研究が、作曲の一般化の基礎を明確にし、人工知能の進歩に繋がることを願っている。
論文 参考訳(メタデータ) (2021-02-08T14:22:30Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。