論文の概要: Do Vision-Language Pretrained Models Learn Primitive Concepts?

• arxiv url: http://arxiv.org/abs/2203.17271v1
• Date: Thu, 31 Mar 2022 17:59:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-01 13:53:48.847564
• Title: Do Vision-Language Pretrained Models Learn Primitive Concepts?
• Title（参考訳）: 視覚言語事前学習モデルは原始概念を学ぶか?
• Authors: Tian Yun, Usha Bhalla, Ellie Pavlick, Chen Sun
• Abstract要約: 本研究では,事前学習された視覚言語モデルから,色や形状の属性といった原始概念の概念が自動的に現れるかどうかを考察する。 我々は、原始概念の活性化を合成概念にマッピングする構成的導出を学ぶ。 我々の研究は、最先端のVL事前訓練モデルが視覚記述子として非常に有用な原始概念を学習していることを明らかにする。
• 参考スコア（独自算出の注目度）: 20.130052062267676
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language pretrained models have achieved impressive performance on multimodal reasoning and zero-shot recognition tasks. Many of these VL models are pretrained on unlabeled image and caption pairs from the internet. In this paper, we study whether the notion of primitive concepts, such as color and shape attributes, emerges automatically from these pretrained VL models. We propose to learn compositional derivations that map primitive concept activations into composite concepts, a task which we demonstrate to be straightforward given true primitive concept annotations. This compositional derivation learning (CompDL) framework allows us to quantitively measure the usefulness and interpretability of the learned derivations, by jointly considering the entire set of candidate primitive concepts. Our study reveals that state-of-the-art VL pretrained models learn primitive concepts that are highly useful as visual descriptors, as demonstrated by their strong performance on fine-grained visual recognition tasks, but those concepts struggle to provide interpretable compositional derivations, which highlights limitations of existing VL models. Code and models will be released.
• Abstract（参考訳）: 視覚言語事前学習モデルは、マルチモーダル推論とゼロショット認識タスクで印象的なパフォーマンスを達成している。 これらのVLモデルの多くは、未ラベルの画像とインターネットからのキャプションペアで事前訓練されている。 本稿では,これらの事前学習されたVLモデルから,色や形状などの原始概念の概念が自動的に現れるかどうかを考察する。 そこで本研究では,プリミティブ概念のアクティベーションを合成概念にマッピングする合成導出法を学ぶことを提案する。 このコンポジション導出学習(CompDL)フレームワークは,学習された導出物の有用性と解釈性を定量的に測定することを可能にする。 本研究は,最先端のvlプリトレーニングモデルが,細粒度の視覚認識タスクにおいて高い性能を示すように,視覚記述子として非常に有用な原始概念を学習することを示すが,これらの概念は解釈可能な構成導出を提供することに苦慮しており,既存のvlモデルの限界を強調するものである。 コードとモデルはリリースされる。

関連論文リスト

• Restyling Unsupervised Concept Based Interpretable Networks with Generative Models [14.604305230535026]
  本稿では,事前学習された生成モデルの潜在空間に概念特徴をマッピングすることに依存する新しい手法を提案する。 本手法の有効性を,解釈可能な予測ネットワークの精度,再現性,学習概念の忠実性,一貫性の観点から定量的に検証した。
  論文  参考訳（メタデータ） (2024-07-01T14:39:41Z)
• Improving Concept Alignment in Vision-Language Concept Bottleneck Models [9.228586820098723]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、クラス予測を行う前に、イメージを人間の解釈可能な概念にマッピングする。 近年のアプローチでは、大規模言語モデル(LLM)にテキスト概念の生成を促すことでCBM構築を自動化する。 LLMによって生成されたものよりも、人間の専門家によって定義された概念でCBMを構築することが望まれる。
  論文  参考訳（メタデータ） (2024-05-03T03:02:00Z)
• Advancing Ante-Hoc Explainable Models through Generative Adversarial Networks [24.45212348373868]
  本稿では,視覚的分類タスクにおけるモデル解釈可能性と性能を向上させるための新しい概念学習フレームワークを提案する。 本手法では, 教師なし説明生成器を一次分類器ネットワークに付加し, 対角訓練を利用する。 この研究は、タスク整合概念表現を用いた本質的に解釈可能なディープビジョンモデルを構築するための重要なステップを示す。
  論文  参考訳（メタデータ） (2024-01-09T16:16:16Z)
• One-Shot Open Affordance Learning with Foundation Models [54.15857111929812]
  私たちは、モデルがベースオブジェクトカテゴリ毎に1つの例でトレーニングされる、ワンショットのオープンアフォーダンスラーニング(OOAL)を紹介します。 本稿では,視覚的特徴と手頃なテキスト埋め込みとの整合性を高める,シンプルで効果的な設計の視覚言語フレームワークを提案する。 2つのアベイランスセグメンテーションのベンチマーク実験により、提案手法はトレーニングデータの1%未満で最先端のモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2023-11-29T16:23:06Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• Retrieval-Enhanced Contrastive Vision-Text Models [61.783728119255365]
  そこで本研究では,メモリから取得したクロスモーダルな情報を推論時に表現することで,その埋め込みを洗練できる視覚テキストモデルを提案する。 注目すべきことに、これは凍ったCLIPの上に軽量の単層核融合トランスを用いて行うことができる。 検索強化コントラスト訓練(RECO)がCLIPの性能を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2023-06-12T15:52:02Z)
• Concept-based Explanations using Non-negative Concept Activation Vectors and Decision Tree for CNN Models [4.452019519213712]
  本稿では、概念に基づく説明書から抽出した概念に基づいて決定木を訓練することで、畳み込みニューラルネットワーク(CNN)モデルの解釈可能性を高めることができるかどうかを評価する。
  論文  参考訳（メタデータ） (2022-11-19T21:42:55Z)
• Concept-Based Explanations for Tabular Data [0.0]
  ディープニューラルネットワーク(DNN)のための概念に基づく説明可能性を提案する。 本研究では,人間レベルの直観に合致する解釈可能性を示す手法の有効性を示す。 また,DNNのどの層がどの層を学習したのかを定量化したTCAVに基づく公平性の概念を提案する。
  論文  参考訳（メタデータ） (2022-09-13T02:19:29Z)
• Translational Concept Embedding for Generalized Compositional Zero-shot Learning [73.60639796305415]
  一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。 本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-12-20T21:27:51Z)
• A Minimalist Dataset for Systematic Generalization of Perception, Syntax, and Semantics [131.93113552146195]
  我々は,機械が一般化可能な概念を学習する能力を調べるため,新しいデータセットであるHINT(Hand written arithmetic with INTegers)を提案する。 HINTでは、イメージなどの生信号から概念がどのように認識されるかを学ぶことが機械のタスクである。 我々は、RNN、Transformer、GPT-3など、様々なシーケンス・ツー・シーケンスモデルで広範囲に実験を行った。
  論文  参考訳（メタデータ） (2021-03-02T01:32:54Z)
• Behind the Scene: Revealing the Secrets of Pre-trained Vision-and-Language Models [65.19308052012858]
  最近のTransformerベースの大規模事前学習モデルは、視覚言語(V+L)研究に革命をもたらした。 VALUEは,マルチモーダル事前学習における内部動作の解明を目的とした,精密に設計された探索タスクのセットである。 主要な観察:事前訓練されたモデルは、推論中の画像よりもテキストに出席する傾向を示す。
  論文  参考訳（メタデータ） (2020-05-15T01:06:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。