論文の概要: Simple Mechanisms for Representing, Indexing and Manipulating Concepts
- arxiv url: http://arxiv.org/abs/2310.12143v1
- Date: Wed, 18 Oct 2023 17:54:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-19 15:26:30.764654
- Title: Simple Mechanisms for Representing, Indexing and Manipulating Concepts
- Title(参考訳): 概念の表現、索引付け、操作のための単純なメカニズム
- Authors: Yuanzhi Li, Raghu Meka, Rina Panigrahy, Kulin Shah
- Abstract要約: 我々は、概念の具体的な表現やシグネチャを生成するために、そのモーメント統計行列を見ることで概念を学ぶことができると論じる。
概念が交差しているとき、概念のシグネチャを使用して、関連する多くの相互交差した概念の共通テーマを見つけることができる。
- 参考スコア(独自算出の注目度): 46.715152257557804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep networks typically learn concepts via classifiers, which involves
setting up a model and training it via gradient descent to fit the
concept-labeled data. We will argue instead that learning a concept could be
done by looking at its moment statistics matrix to generate a concrete
representation or signature of that concept. These signatures can be used to
discover structure across the set of concepts and could recursively produce
higher-level concepts by learning this structure from those signatures. When
the concepts are `intersected', signatures of the concepts can be used to find
a common theme across a number of related `intersected' concepts. This process
could be used to keep a dictionary of concepts so that inputs could correctly
identify and be routed to the set of concepts involved in the (latent)
generation of the input.
- Abstract(参考訳): ディープネットワークは通常、分類器を通じて概念を学習し、モデルの設定と、概念ラベル付きデータに適合するように勾配降下によってそれを訓練する。
その代わりに、その概念の具体的な表現やシグネチャを生成するために、そのモーメント統計行列を見ることで概念を学ぶことができると論じる。
これらのシグネチャは、概念の集合全体の構造の発見に使用することができ、それらのシグネチャからこの構造を学習することで、再帰的に高レベルな概念を生み出すことができる。
概念が 'intersected' である場合、その概念のシグネチャを使用して、関連する複数の 'intersected' 概念の共通テーマを見つけることができる。
このプロセスは、入力を正しく識別し、入力の(相対的な)生成に関連する概念の集合にルーティングできるように、概念の辞書を保持するために使うことができる。
関連論文リスト
- Grounded learning for compositional vector semantics [1.4344589271451351]
本研究では、スパイクニューラルネットワークアーキテクチャ内で構成分布意味論を実装する方法を提案する。
また,ラベル付き画像を用いて単語表現を訓練する手法についても述べる。
論文 参考訳(メタデータ) (2024-01-10T22:12:34Z) - CEIR: Concept-based Explainable Image Representation Learning [0.4198865250277024]
本稿では,概念に基づく説明可能な画像表現(CEIR)を導入し,ラベルに依存しない高品質な表現を導出する。
提案手法は, CIFAR10, CIFAR100, STL10などのベンチマーク上で, 最先端の非教師付きクラスタリング性能を示す。
CEIRは、微調整なしで、オープンワールドイメージから関連概念をシームレスに抽出することができる。
論文 参考訳(メタデータ) (2023-12-17T15:37:41Z) - Implicit Concept Removal of Diffusion Models [96.03200681493348]
テキスト・ツー・イメージ(T2I)拡散モデルは、透かしや安全でない画像などの不要な概念を不注意に生成する。
幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
論文 参考訳(メタデータ) (2023-10-09T17:13:10Z) - A Recursive Bateson-Inspired Model for the Generation of Semantic Formal
Concepts from Spatial Sensory Data [77.34726150561087]
本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。
このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。
このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
論文 参考訳(メタデータ) (2023-07-16T15:59:13Z) - ConceptX: A Framework for Latent Concept Analysis [21.760620298330235]
本稿では,言語モデル(pLM)における潜在表現空間の解釈と注釈付けを行うための,ループ型ヒューマン・イン・ザ・ループ・フレームワークであるConceptXを提案する。
我々は、教師なしの手法を用いて、これらのモデルで学んだ概念を発見し、人間が概念の説明を生成するためのグラフィカルインターフェースを実現する。
論文 参考訳(メタデータ) (2022-11-12T11:31:09Z) - ZeroC: A Neuro-Symbolic Model for Zero-shot Concept Recognition and
Acquisition at Inference Time [49.067846763204564]
人間は、ゼロショットで新しい視覚概念を認識し、獲得する驚くべき能力を持っている。
ゼロショット概念認識・獲得(ZeroC)は,ゼロショット方式で新規概念を認識・取得できる,ニューロシンボリックアーキテクチャである。
論文 参考訳(メタデータ) (2022-06-30T06:24:45Z) - Automatic Concept Extraction for Concept Bottleneck-based Video
Classification [58.11884357803544]
本稿では,概念に基づくビデオ分類に必要かつ十分な概念抽象セットを厳格に構成する概念発見抽出モジュールを提案する。
提案手法は,自然言語における概念概念の抽象概念を応用し,複雑なタスクに概念ボトルネック法を一般化する。
論文 参考訳(メタデータ) (2022-06-21T06:22:35Z) - Visual Concepts Tokenization [65.61987357146997]
本稿では,教師なしトランスフォーマーに基づく視覚概念トークン化フレームワーク VCT を提案する。
これらの概念トークンを得るためには、概念トークン間の自己注意なしで画像トークン層から視覚情報を抽出するために、クロスアテンションのみを用いる。
さらに,異なる概念トークンが独立した視覚概念を表現することを容易にするために,概念分離損失を提案する。
論文 参考訳(メタデータ) (2022-05-20T11:25:31Z) - The Conceptual VAE [7.15767183672057]
本稿では,変分オートエンコーダの枠組みに基づく新しい概念モデルを提案する。
このモデルは、概念のβ-VAEモデルにインスパイアされ、密接に関連しています。
モデルが概念分類器としてどのように使用できるか、そしてインスタンス毎に少ないラベルから学習するためにどのように適応できるかを示す。
論文 参考訳(メタデータ) (2022-03-21T17:27:28Z) - Corpus-level and Concept-based Explanations for Interpretable Document
Classification [23.194220621342254]
本稿では,キーワードとモデル予測の間の因果関係を捉えるためのコーパスレベルの説明手法を提案する。
また,より高レベルな概念を自動学習し,モデル予測タスクにおいて重要となる概念に基づく説明手法を提案する。
論文 参考訳(メタデータ) (2020-04-24T20:54:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。