論文の概要: Clarifying Model Transparency: Interpretability versus Explainability in Deep Learning with MNIST and IMDB Examples

• arxiv url: http://arxiv.org/abs/2509.10929v1
• Date: Sat, 13 Sep 2025 18:06:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-16 17:26:22.844168
• Title: Clarifying Model Transparency: Interpretability versus Explainability in Deep Learning with MNIST and IMDB Examples
• Title（参考訳）: モデル透明性の明確化:MNISTおよびIMDBを用いた深層学習における解釈可能性と説明可能性
• Authors: Mitali Raj,
• Abstract要約: ドキュメントは、ディープラーニングパラダイムにおける解釈可能性と説明可能性の比較調査を提供する。 解釈可能性(interpretability)は、人間の操作機構を理解するためのモデル固有の能力に関係している。 例えば、特徴属性法は、特定のMNISTイメージが「7」であると認識される理由を明らかにし、単語レベルの重要さはIMDBの感情結果を明らかにすることができる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The impressive capabilities of deep learning models are often counterbalanced by their inherent opacity, commonly termed the "black box" problem, which impedes their widespread acceptance in high-trust domains. In response, the intersecting disciplines of interpretability and explainability, collectively falling under the Explainable AI (XAI) umbrella, have become focal points of research. Although these terms are frequently used as synonyms, they carry distinct conceptual weights. This document offers a comparative exploration of interpretability and explainability within the deep learning paradigm, carefully outlining their respective definitions, objectives, prevalent methodologies, and inherent difficulties. Through illustrative examinations of the MNIST digit classification task and IMDB sentiment analysis, we substantiate a key argument: interpretability generally pertains to a model's inherent capacity for human comprehension of its operational mechanisms (global understanding), whereas explainability is more commonly associated with post-hoc techniques designed to illuminate the basis for a model's individual predictions or behaviors (local explanations). For example, feature attribution methods can reveal why a specific MNIST image is recognized as a '7', and word-level importance can clarify an IMDB sentiment outcome. However, these local insights do not render the complex underlying model globally transparent. A clear grasp of this differentiation, as demonstrated by these standard datasets, is vital for fostering dependable and sound artificial intelligence.
• Abstract（参考訳）: ディープラーニングモデルの印象的な能力は、しばしばその固有の不透明さによって相反するものであり、一般に「ブラックボックス」問題と呼ばれ、高信頼ドメインで広く受け入れられることを妨げる。 これに対し、説明可能なAI(XAI)の傘の下に、解釈可能性と説明可能性の交差する分野が研究の焦点となっている。 これらの用語はしばしば同義語として使われるが、異なる概念的な重みを持つ。 この文書は、深層学習パラダイムにおける解釈可能性と説明可能性について比較検討し、それぞれの定義、目的、一般的な方法論、固有の困難について慎重に概説する。 MNISTの数字分類タスクとIMDBの感情分析の実証的な検証を通じて、重要な議論を裏付ける: 解釈可能性とは、一般に、その操作機構の人間の理解能力(言語的理解)に関連するモデル固有の能力であり、一方、説明可能性とは、モデルの個々の予測や行動の基礎を照らすために設計されたポストホック技術(局所的な説明)とより一般的に関連している。 例えば、特徴属性法は、特定のMNISTイメージが「7」であると認識される理由を明らかにし、単語レベルの重要さはIMDBの感情結果を明らかにすることができる。 しかし、これらの局所的な洞察は、複雑な基盤となるモデルをグローバルに透明にしない。 これらの標準データセットが示すように、この区別を明確に把握することは、信頼性と健全な人工知能の育成に不可欠である。

関連論文リスト

• Data Science Principles for Interpretable and Explainable AI [0.7581664835990121]
  解釈可能でインタラクティブな機械学習は、複雑なモデルをより透明で制御しやすいものにすることを目的としている。 本論は, この分野における文献の発達から重要な原則を合成するものである。
  論文  参考訳（メタデータ） (2024-05-17T05:32:27Z)
• Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
  本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。 オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。 大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
  論文  参考訳（メタデータ） (2024-02-23T16:50:07Z)
• From Understanding to Utilization: A Survey on Explainability for Large Language Models [27.295767173801426]
  この調査は、Large Language Models (LLMs) における説明可能性の向上を示唆している。 主に、トレーニング済みの Transformer ベースの LLM に重点を置いています。 説明可能性の活用を考える際に、モデル編集、制御生成、モデル拡張に集中するいくつかの魅力的な方法を検討する。
  論文  参考訳（メタデータ） (2024-01-23T16:09:53Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Relate to Predict: Towards Task-Independent Knowledge Representations for Reinforcement Learning [11.245432408899092]
  強化学習は、エージェントが複雑なタスクを学習できるようにする。 知識を解釈し、タスク間で再利用することは難しい。 本稿では,対象中心の知識分離を明示する帰納的バイアスを導入する。 知識分離における明示性の程度は、学習の高速化、精度の向上、一般化の向上、理解可能性の向上と相関していることを示す。
  論文  参考訳（メタデータ） (2022-12-10T13:33:56Z)
• Interpretable Representations in Explainable AI: From Theory to Practice [7.031336702345381]
  解釈可能な表現は、ブラックボックス予測システムをターゲットにした多くの説明器のバックボーンである。 人間の理解可能な概念の存在と欠如をエンコードする解釈可能な表現の特性について検討する。
  論文  参考訳（メタデータ） (2020-08-16T21:44:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。