論文の概要: Contrastive Pretraining for Visual Concept Explanations of Socioeconomic Outcomes

• arxiv url: http://arxiv.org/abs/2404.09768v2
• Date: Thu, 13 Jun 2024 14:00:24 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-14 23:16:04.445427
• Title: Contrastive Pretraining for Visual Concept Explanations of Socioeconomic Outcomes
• Title（参考訳）: 社会経済的成果の視覚的概念記述のための対照的な事前訓練
• Authors: Ivica Obadic, Alex Levering, Lars Pennig, Dario Oliveira, Diego Marcos, Xiaoxiang Zhu,
• Abstract要約: ポストホックの概念に基づく説明は、ポリシー作成においてこれらのモデルを広く採用するための重要なステップである。 本研究では,社会経済研究におけるタスク固有のコントラスト損失とポストホック概念の説明可能性を用いた表現学習の相互作用について検討した。
• 参考スコア（独自算出の注目度）: 15.842647992041751
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Predicting socioeconomic indicators from satellite imagery with deep learning has become an increasingly popular research direction. Post-hoc concept-based explanations can be an important step towards broader adoption of these models in policy-making as they enable the interpretation of socioeconomic outcomes based on visual concepts that are intuitive to humans. In this paper, we study the interplay between representation learning using an additional task-specific contrastive loss and post-hoc concept explainability for socioeconomic studies. Our results on two different geographical locations and tasks indicate that the task-specific pretraining imposes a continuous ordering of the latent space embeddings according to the socioeconomic outcomes. This improves the model's interpretability as it enables the latent space of the model to associate concepts encoding typical urban and natural area patterns with continuous intervals of socioeconomic outcomes. Further, we illustrate how analyzing the model's conceptual sensitivity for the intervals of socioeconomic outcomes can shed light on new insights for urban studies.
• Abstract（参考訳）: 深層学習による衛星画像からの社会経済指標の予測は、ますますポピュラーな研究方向になりつつある。 ポストホックの概念に基づく説明は、人間の直感的な視覚概念に基づく社会経済的な結果の解釈を可能にするため、政策決定においてこれらのモデルを広く採用するための重要なステップとなる。 本稿では,社会経済研究におけるタスク固有のコントラスト損失とポストホック概念の説明可能性を用いた表現学習の相互作用について検討する。 本研究は,2つの異なる地理的位置と課題に関する結果から,タスク固有の事前訓練が,社会経済的結果に応じて潜伏空間の埋め込みを連続的に順序付けすることを示唆している。 これにより、モデルの潜在空間が典型的な都市および自然地域パターンをコードする概念と社会経済的な結果の連続的な間隔を関連付けることができるため、モデルの解釈可能性が改善される。 さらに、社会経済的な結果の間隔に対するモデルの概念的感度の分析が、都市研究の新たな洞察に光を当てる方法について述べる。

関連論文リスト

• Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
  自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。 我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。 我々は、理論的な主張を合成データ実験で裏付ける。
  論文  参考訳（メタデータ） (2024-06-01T18:01:03Z)
• Understanding Inter-Concept Relationships in Concept-Based Models [12.229150338065828]
  概念モデルによって学習された概念表現を分析し、これらのモデルが概念間の関係を正しく捉えているかどうかを理解する。 まず、最先端の概念に基づくモデルが、安定性と堅牢性に欠ける表現を生成することを実証的に示し、そのような手法は概念間の関係を捉えるのに失敗する。 そこで我々は,概念間関係を利用して概念介入の精度を向上させる新しいアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2024-05-28T14:20:49Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• ConcEPT: Concept-Enhanced Pre-Training for Language Models [57.778895980999124]
  ConcEPTは、概念知識を事前訓練された言語モデルに注入することを目的としている。 これは、事前訓練されたコンテキストで言及されたエンティティの概念を予測するために、外部エンティティの概念予測を利用する。 実験の結果,ConcEPTは概念強化事前学習により概念知識を向上することがわかった。
  論文  参考訳（メタデータ） (2024-01-11T05:05:01Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• A Novel Neural-symbolic System under Statistical Relational Learning [50.747658038910565]
  本稿では,GBPGRと呼ばれる2段階の確率的グラフィカル推論フレームワークを提案する。 GBPGRでは、シンボル推論の結果を用いて、ディープラーニングモデルによる予測を洗練し、修正する。 提案手法は高い性能を示し, 帰納的タスクと帰納的タスクの両方において効果的な一般化を示す。
  論文  参考訳（メタデータ） (2023-09-16T09:15:37Z)
• Knowledge-infused Contrastive Learning for Urban Imagery-based Socioeconomic Prediction [13.26632316765164]
  衛星・ストリートビュー画像のようなウェブ上の都市画像は、社会経済予測の重要な情報源として現れてきた。 本稿では,都市イメージに基づく社会経済予測のための知識注入型コントラスト学習モデルを提案する。 提案手法は,衛星画像と路面画像の両方に適用可能である。
  論文  参考訳（メタデータ） (2023-02-25T14:53:17Z)
• Causal Reasoning Meets Visual Representation Learning: A Prospective Study [117.08431221482638]
  解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。 人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。 本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
  論文  参考訳（メタデータ） (2022-04-26T02:22:28Z)
• Is Disentanglement all you need? Comparing Concept-based & Disentanglement Approaches [24.786152654589067]
  概念に基づく説明と非絡み合いのアプローチの概要を述べる。 両クラスからの最先端のアプローチは、データ非効率、分類/回帰タスクの特定の性質に敏感、あるいは採用した概念表現に敏感であることを示す。
  論文  参考訳（メタデータ） (2021-04-14T15:06:34Z)
• Debiasing Concept-based Explanations with Causal Analysis [4.911435444514558]
  本研究は,特徴の相違する情報と相関する概念の問題点について考察する。 観測されていない変数の影響をモデル化するための新しい因果前グラフを提案する。 提案手法は,概念が完成していない場合に有効であることを示す。
  論文  参考訳（メタデータ） (2020-07-22T15:42:46Z)
• Socioeconomic correlations of urban patterns inferred from aerial images: interpreting activation maps of Convolutional Neural Networks [0.10152838128195464]
  都市化は近代社会にとって大きな課題であり、社会経済的不平等を広げつつ経済機会へのより良いアクセスを約束する。 ここでは,フランス全土の社会経済的地位を航空画像から予測し,都市トポロジの観点からクラスの活性化マップを解釈することによって,このギャップを埋める。 これらの結果は解釈可能なモデルを構築するための道を開くもので、都市化とその影響をよりよく追跡し理解するのに役立ちます。
  論文  参考訳（メタデータ） (2020-04-10T04:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。