Fugu-MT 論文翻訳(概要): Explaining high-dimensional text classifiers

論文の概要: Explaining high-dimensional text classifiers

arxiv url: http://arxiv.org/abs/2311.13454v1
Date: Wed, 22 Nov 2023 15:20:12 GMT
ステータス: 処理完了
システム内更新日: 2023-11-23 14:37:36.781478
Title: Explaining high-dimensional text classifiers
Title（参考訳）: 高次元テキスト分類器の説明
Authors: Odelia Melamed, Rich Caruana
Abstract要約: ニューラルネットワーク分類器における理論的に証明された高次元特性を用いた新しい説明可能性法を提案する。 1)IMDBレビューデータセットの古典的感情分析タスク,2)データセットスクリプトのマルウェア検出タスク。
参考スコア（独自算出の注目度）: 13.713928834928517
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Explainability has become a valuable tool in the last few years, helping humans better understand AI-guided decisions. However, the classic explainability tools are sometimes quite limited when considering high-dimensional inputs and neural network classifiers. We present a new explainability method using theoretically proven high-dimensional properties in neural network classifiers. We present two usages of it: 1) On the classical sentiment analysis task for the IMDB reviews dataset, and 2) our Malware-Detection task for our PowerShell scripts dataset.
Abstract（参考訳）: 説明責任はここ数年で価値あるツールとなり、人間がai誘導の決定をより理解するのに役立つ。しかし、古典的な説明可能性ツールは、高次元の入力とニューラルネットワークの分類器を考えると、時にはかなり制限される。ニューラルネットワーク分類器における理論的に証明された高次元特性を用いた新しい説明可能性法を提案する。その使い方は2つあります。 1)IMDBレビューデータセットの古典的感情分析タスクについて 2) PowerShellスクリプトデータセットのMalware-Detectionタスク。

関連論文リスト

Automatically Interpreting Millions of Features in Large Language Models [1.8035046415192353]
スパースオートエンコーダ(SAE)は、活性化を高次元の潜在空間に変換するために用いられる。 SAEの機能に関する自然言語の説明を生成・評価するためのオープンソースのパイプラインを構築します。我々の大規模分析は、SAE潜伏剤がニューロンよりもはるかに解釈可能であることを確認しています。
論文参考訳（メタデータ） (2024-10-17T17:56:01Z)
Representing visual classification as a linear combination of words [0.0]
視覚分類タスクの言語ベースの記述子を識別するために,視覚言語モデルを用いた説明可能性戦略を提案する。画像とテキストの間に予め訓練された結合埋め込み空間を利用することで,新しい分類課題を単語の線形結合として推定する。その結果,ドメイン特化言語訓練の欠如にもかかわらず,結果として得られた記述子は臨床知識とほぼ一致していることが判明した。
論文参考訳（メタデータ） (2023-11-18T02:00:20Z)
Sparse Autoencoders Find Highly Interpretable Features in Language Models [0.0]
多意味性は、ニューラルネットワークが内部で何をしているのかについて、簡潔で理解しやすい説明を見つけるのを妨げます。スパースオートエンコーダを用いて言語モデルの内部アクティベーションを再構築する。我々の手法は将来の機械的解釈可能性の基盤となるかもしれない。
論文参考訳（メタデータ） (2023-09-15T17:56:55Z)
ShadowNet for Data-Centric Quantum System Learning [188.683909185536]
本稿では,ニューラルネットワークプロトコルと古典的シャドウの強みを組み合わせたデータ中心学習パラダイムを提案する。ニューラルネットワークの一般化力に基づいて、このパラダイムはオフラインでトレーニングされ、これまで目に見えないシステムを予測できる。量子状態トモグラフィーおよび直接忠実度推定タスクにおいて、我々のパラダイムのインスタンス化を示し、60量子ビットまでの数値解析を行う。
論文参考訳（メタデータ） (2023-08-22T09:11:53Z)
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文参考訳（メタデータ） (2023-06-14T23:24:01Z)
Explainable Deep Belief Network based Auto encoder using novel Extended Garson Algorithm [6.228766191647919]
我々はDeep Belief Network based Auto-Encoder (DBNA) を説明するアルゴリズムを開発した。 DBN内の各入力機能のコントリビューションを決定するために使用される。この方法によって同定された重要な特徴は、ウォルドチ広場(chi2)で得られたものと比較される。
論文参考訳（メタデータ） (2022-07-18T10:44:02Z)
Leveraging Sparse Linear Layers for Debuggable Deep Networks [86.94586860037049]
学習した深い特徴表現に疎い線形モデルを適用することで、よりデバッグ可能なニューラルネットワークを実現する方法を示す。その結果、スパースな説明は、スプリアス相関を特定し、誤分類を説明し、視覚および言語タスクにおけるモデルバイアスを診断するのに役立ちます。
論文参考訳（メタデータ） (2021-05-11T08:15:25Z)
A neural anisotropic view of underspecification in deep learning [60.119023683371736]
ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
論文参考訳（メタデータ） (2021-04-29T14:31:09Z)
Quantifying Learnability and Describability of Visual Concepts Emerging in Representation Learning [91.58529629419135]
我々は、ディープニューラルネットワークによって自動的に発見された視覚的なグルーピングを特徴付ける方法を検討する。本稿では、任意の画像グループ化の解釈可能性の定量化に使用できる視覚的学習可能性と記述可能性という2つの概念を紹介する。
論文参考訳（メタデータ） (2020-10-27T18:41:49Z)
Explainability in Deep Reinforcement Learning [68.8204255655161]
説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
論文参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。