論文の概要: Learning Interpretable Queries for Explainable Image Classification with Information Pursuit

• arxiv url: http://arxiv.org/abs/2312.11548v1
• Date: Sat, 16 Dec 2023 21:43:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-20 18:30:19.133495
• Title: Learning Interpretable Queries for Explainable Image Classification with Information Pursuit
• Title（参考訳）: 情報探索による説明可能な画像分類のための解釈可能なクエリの学習
• Authors: Stefan Kolek, Aditya Chattopadhyay, Kwan Ho Ryan Chan, Hector Andrade-Loarca, Gitta Kutyniok, R\'ene Vidal
• Abstract要約: Information Pursuit (IP) は、データに関する解釈可能なクエリのシーケンスを欲求的に選択する説明可能な予測アルゴリズムである。 本稿では,データセットから直接解釈可能なクエリの辞書を学習する,新しいアプローチを提案する。
• 参考スコア（独自算出の注目度）: 18.089603786027503
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Information Pursuit (IP) is an explainable prediction algorithm that greedily selects a sequence of interpretable queries about the data in order of information gain, updating its posterior at each step based on observed query-answer pairs. The standard paradigm uses hand-crafted dictionaries of potential data queries curated by a domain expert or a large language model after a human prompt. However, in practice, hand-crafted dictionaries are limited by the expertise of the curator and the heuristics of prompt engineering. This paper introduces a novel approach: learning a dictionary of interpretable queries directly from the dataset. Our query dictionary learning problem is formulated as an optimization problem by augmenting IP's variational formulation with learnable dictionary parameters. To formulate learnable and interpretable queries, we leverage the latent space of large vision and language models like CLIP. To solve the optimization problem, we propose a new query dictionary learning algorithm inspired by classical sparse dictionary learning. Our experiments demonstrate that learned dictionaries significantly outperform hand-crafted dictionaries generated with large language models.
• Abstract（参考訳）: Information Pursuit (IP) は、情報ゲインの順にデータに関する解釈可能なクエリのシーケンスをグレードに選択し、観測されたクエリと問い合わせのペアに基づいて各ステップの後方を更新する説明可能な予測アルゴリズムである。 標準パラダイムは、人間のプロンプトの後、ドメインの専門家または大きな言語モデルによって計算された潜在的なデータクエリの手作り辞書を使用する。 しかし実際には、手作り辞書はキュレーターの専門知識と急進的な工学のヒューリスティックによって制限されている。 本稿では,データセットから直接解釈可能なクエリの辞書を学習する,新しいアプローチを提案する。 学習可能な辞書パラメータを用いたipの変分定式化を補強することにより,クエリ辞書学習問題を最適化問題として定式化する。 学習可能なクエリと解釈可能なクエリを定式化するために、大きなビジョンとCLIPのような言語モデルの潜時空間を活用する。 そこで本研究では,従来のスパース辞書学習にヒントを得たクエリ辞書学習アルゴリズムを提案する。 実験の結果,学習辞書は大規模言語モデルで生成した手作り辞書よりも有意に優れていた。

関連論文リスト

• LexMatcher: Dictionary-centric Data Collection for LLM-based Machine Translation [67.24113079928668]
  本稿では、バイリンガル辞書に見られる感覚のカバレッジによって駆動されるデータキュレーション手法であるLexMatcherを提案する。 我々の手法は、WMT2022テストセットの確立されたベースラインよりも優れています。
  論文  参考訳（メタデータ） (2024-06-03T15:30:36Z)
• Dense X Retrieval: What Retrieval Granularity Should We Use? [59.359325855708974]
  しばしば見過ごされる設計選択は、コーパスが索引付けされる検索単位である。 提案手法はテキスト内の原子式として定義され,それぞれが別個のファクトイドをカプセル化している。 その結果,命題に基づく検索は,従来の通訳法や文による検索方法よりも格段に優れていることがわかった。
  論文  参考訳（メタデータ） (2023-12-11T18:57:35Z)
• CompoundPiece: Evaluating and Improving Decompounding Performance of Language Models [77.45934004406283]
  複合語を構成語に分割する作業である「分解」を体系的に研究する。 We introduced a dataset of 255k compound and non-compound words across 56 various languages obtained from Wiktionary。 分割のための専用モデルを訓練するための新しい手法を導入する。
  論文  参考訳（メタデータ） (2023-05-23T16:32:27Z)
• Dense Sparse Retrieval: Using Sparse Language Models for Inference Efficient Dense Retrieval [37.22592489907125]
  本研究では,高密度検索にスパース言語モデルを用いて推論効率を向上する方法について検討する。 スパース言語モデルは、ほとんど精度を落とさず、推論速度を最大4.3倍改善した直接置換として使用することができる。
  論文  参考訳（メタデータ） (2023-03-31T20:21:32Z)
• Semantic Parsing for Conversational Question Answering over Knowledge Graphs [63.939700311269156]
  本研究では,ユーザの質問にSparqlパースとアノテートし,システム回答が実行結果に対応するデータセットを開発する。 本稿では,2つの意味解析手法を提案し,その課題を強調した。 私たちのデータセットとモデルはhttps://github.com/Edinburgh/SPICE.orgで公開されています。
  論文  参考訳（メタデータ） (2023-01-28T14:45:11Z)
• Regularized Contrastive Learning of Semantic Search [0.0]
  トランスフォーマーベースのモデルは、セマンティック表現を学習する能力に優れたため、検索モデルとして広く利用されている。 本稿では,正規化コントラスト学習という新たな正規化手法を提案する。 文ごとに異なるセマンティック表現を増補し、レギュレータとして対照的な目的に含める。
  論文  参考訳（メタデータ） (2022-09-27T08:25:19Z)
• Better Language Model with Hypernym Class Prediction [101.8517004687825]
  クラスベース言語モデル (LM) は、コンテキストの疎結合に$n$-gramのLMで対処するために長年開発されてきた。 本研究では,このアプローチをニューラルLMの文脈で再考する。
  論文  参考訳（メタデータ） (2022-03-21T01:16:44Z)
• Studying word order through iterative shuffling [14.530986799844873]
  NLPベンチマークタスクの実行には,単語順序エンコードが不可欠であることを示す。 我々は、固定言語モデルの下で最も高い確率を持つ単語の袋を注文する、新しい効率的な手続きであるBISを使用する。 IBISのような推論手順のシャッフルが言語モデリングや制約付き生成にどのように役立つかについて議論する。
  論文  参考訳（メタデータ） (2021-09-10T13:27:06Z)
• Efficient Nearest Neighbor Language Models [114.40866461741795]
  非パラメトリックニューラルネットワークモデル(NLM)は、外部データストアを用いてテキストの予測分布を学習する。 比較性能を維持しながら、推論速度の最大6倍の高速化を実現する方法を示す。
  論文  参考訳（メタデータ） (2021-09-09T12:32:28Z)
• PUDLE: Implicit Acceleration of Dictionary Learning by Backpropagation [4.081440927534577]
  本稿では,PUDLE(Provable Unfolded Dictionary LEarning)による実験結果に関する最初の理論的証明を提供する。 我々は、損失の最小化、展開、収束のバックプロパゲーションについて強調する。 合成および画像復号化実験により,本研究の成果を補完する。
  論文  参考訳（メタデータ） (2021-05-31T18:49:58Z)
• Deep learning models for representing out-of-vocabulary words [1.4502611532302039]
  本稿では,語彙外(OOV)単語を表現するためのディープラーニングモデルの性能評価を行う。 OOV単語を扱うための最善のテクニックはタスクごとに異なるが、OV単語のコンテキストと形態構造に基づいて埋め込みを推論する深層学習手法であるComickは、有望な結果を得た。
  論文  参考訳（メタデータ） (2020-07-14T19:31:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。