論文の概要: This looks like what? Challenges and Future Research Directions for Part-Prototype Models

• arxiv url: http://arxiv.org/abs/2502.09340v1
• Date: Thu, 13 Feb 2025 14:00:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-14 13:47:35.251154
• Title: This looks like what? Challenges and Future Research Directions for Part-Prototype Models
• Title（参考訳）: これは何のように見えるか? パートプロトタイプモデルの課題と今後の研究方向
• Authors: Khawla Elhadri, Tomasz Michalski, Adam Wróbel, Jörg Schlötterer, Bartosz Zieliński, Christin Seifert,
• Abstract要約: パートプロトタイプモデル(PPM)は、入力画像と学習されたプロトタイプのセットを比較して決定する。 PPMSは本質的に解釈可能であるにもかかわらず、ポストホックモデルに対する価値ある代替品とはみなされていない。
• 参考スコア（独自算出の注目度）: 2.1418711158896295
• License:
• Abstract: The growing interest in eXplainable Artificial Intelligence (XAI) has prompted research into models with built-in interpretability, the most prominent of which are part-prototype models. Part-Prototype Models (PPMs) make decisions by comparing an input image to a set of learned prototypes, providing human-understandable explanations in the form of ``this looks like that''. Despite their inherent interpretability, PPMS are not yet considered a valuable alternative to post-hoc models. In this survey, we investigate the reasons for this and provide directions for future research. We analyze papers from 2019 to 2024, and derive a taxonomy of the challenges that current PPMS face. Our analysis shows that the open challenges are quite diverse. The main concern is the quality and quantity of prototypes. Other concerns are the lack of generalization to a variety of tasks and contexts, and general methodological issues, including non-standardized evaluation. We provide ideas for future research in five broad directions: improving predictive performance, developing novel architectures grounded in theory, establishing frameworks for human-AI collaboration, aligning models with humans, and establishing metrics and benchmarks for evaluation. We hope that this survey will stimulate research and promote intrinsically interpretable models for application domains. Our list of surveyed papers is available at https://github.com/aix-group/ppm-survey.
• Abstract（参考訳）: eXplainable Artificial Intelligence (XAI)への関心が高まり、組み込みの解釈可能性を持つモデルの研究が進められている。 パートプロトタイプモデル(PPM)は、入力画像と学習したプロトタイプのセットを比較して、‘このように見える’という形式で人間の理解可能な説明を提供する。 PPMSは本質的に解釈可能であるにもかかわらず、ポストホックモデルに対する価値ある代替品とはみなされていない。 本調査では,この原因について検討し,今後の研究の方向性について述べる。 我々は2019年から2024年までの論文を分析し、現在のPPMSが直面する課題の分類を導出する。 私たちの分析によると、オープンな課題は非常に多様である。 主な関心事は、プロトタイプの品質と量である。 その他の懸念は、様々なタスクやコンテキストへの一般化の欠如、非標準化評価を含む一般的な方法論の問題である。 予測性能の向上、理論に基づく新しいアーキテクチャの開発、人間とAIの協調のためのフレームワークの確立、人間とのモデル整合、評価のためのメトリクスとベンチマークの確立。 この調査が研究を刺激し、アプリケーションドメインの本質的な解釈モデルを促進することを願っている。 調査した論文のリストはhttps://github.com/aix-group/ppm-survey.comで公開されている。

関連論文リスト

• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• LLM Reading Tea Leaves: Automatically Evaluating Topic Models with Large Language Models [12.500091504010067]
  トピックモデリングのための新しい評価手法であるWALM(Word Agreement with Language Model)を提案する。 異なる種類のトピックモデルを含む広範な実験により、WALMは人間の判断に合致することを示した。
  論文  参考訳（メタデータ） (2024-06-13T11:19:50Z)
• Learning from models beyond fine-tuning [78.20895343699658]
  Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。 LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。 本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
  論文  参考訳（メタデータ） (2023-10-12T10:20:36Z)
• Generative Judge for Evaluating Alignment [84.09815387884753]
  本稿では,これらの課題に対処するために,13Bパラメータを持つ生成判断器Auto-Jを提案する。 我々のモデルは,大規模な実環境シナリオ下でのユーザクエリとLLM生成応答に基づいて訓練されている。 実験的に、Auto-Jはオープンソースモデルとクローズドソースモデルの両方を含む、強力なライバルのシリーズを上回っている。
  論文  参考訳（メタデータ） (2023-10-09T07:27:15Z)
• Robust Visual Question Answering: Datasets, Methods, and Future Challenges [23.59923999144776]
  視覚的な質問応答には、画像と自然言語の質問に与えられた正確な自然言語の回答を提供するシステムが必要である。 従来の一般的なVQA手法は、答えを予測する前に画像のグラウンド化など適切な振る舞いを学ぶのではなく、トレーニングデータに存在するバイアスを記憶する傾向がある。 VQAのロバスト性を評価するために,様々なデータセットとデバイアス法が提案されている。
  論文  参考訳（メタデータ） (2023-07-21T10:12:09Z)
• Did the Models Understand Documents? Benchmarking Models for Language Understanding in Document-Level Relation Extraction [2.4665182280122577]
  近年,ドキュメントレベルの関係抽出 (DocRE) が注目されている。 モデルはDocREで一貫したパフォーマンス向上を達成するが、根底にある決定ルールはまだ検討されていない。 本稿では,この質問に答える第一歩として,モデルを包括的に評価する新たな視点を紹介する。
  論文  参考訳（メタデータ） (2023-06-20T08:52:05Z)
• Large-scale Multi-Modal Pre-trained Models: A Comprehensive Survey [66.18478838828231]
  マルチモーダルな事前訓練型大型モデルは近年ますます注目を集めている。 本稿では, 自然言語処理, コンピュータビジョン, 音声処理における従来の深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・ 次に,マルチモーダル・プレトレーニング・モデル(MM-PTM)のタスク定義,課題,メリットを紹介し,データ,目的,ネットワーク,知識強化による事前トレーニングに着目して,MM-PTMについて議論する。
  論文  参考訳（メタデータ） (2023-02-20T15:34:03Z)
• Towards Human-Interpretable Prototypes for Visual Assessment of Image Classification Models [9.577509224534323]
  人間に似た推論プロセスに基づいて、解釈可能な設計のモデルが必要です。 ProtoPNetは、教師なしの方法で視覚的に意味のあるプロトタイプを発見すると主張している。 これらのプロトタイプはまだ明確な説明に向けて長い道のりがある。
  論文  参考訳（メタデータ） (2022-11-22T11:01:22Z)
• Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring Systems [64.4896118325552]
  モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。 AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
  論文  参考訳（メタデータ） (2020-07-14T03:49:43Z)
• Rethinking Generalization of Neural Models: A Named Entity Recognition Case Study [81.11161697133095]
  NERタスクをテストベッドとして、異なる視点から既存モデルの一般化挙動を分析する。 詳細な分析による実験は、既存のニューラルNERモデルのボトルネックを診断する。 本論文の副産物として,最近のNER論文の包括的要約を含むプロジェクトをオープンソース化した。
  論文  参考訳（メタデータ） (2020-01-12T04:33:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。