Fugu-MT 論文翻訳(概要): Hide-and-Seek: A Template for Explainable AI

論文の概要: Hide-and-Seek: A Template for Explainable AI

arxiv url: http://arxiv.org/abs/2005.00130v1
Date: Thu, 30 Apr 2020 22:34:37 GMT
ステータス: 処理完了
システム内更新日: 2022-12-08 02:55:59.366411
Title: Hide-and-Seek: A Template for Explainable AI
Title（参考訳）: Hide-and-Seek: 説明可能なAIのテンプレート
Authors: Thanos Tagaris, Andreas Stafylopatis
Abstract要約: 本研究では,解釈可能なニューラルネットワークを学習するためのHyden-and-Seek(HnS)と呼ばれる新しいフレームワークを提案する。大規模な実験は、予測力を犠牲にすることなく、高い解釈可能性をニューラルネットワークに含めることができることを示している。
参考スコア（独自算出の注目度）: 1.14219428942199
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Lack of transparency has been the Achilles heal of Neural Networks and their wider adoption in industry. Despite significant interest this shortcoming has not been adequately addressed. This study proposes a novel framework called Hide-and-Seek (HnS) for training Interpretable Neural Networks and establishes a theoretical foundation for exploring and comparing similar ideas. Extensive experimentation indicates that a high degree of interpretability can be imputed into Neural Networks, without sacrificing their predictive power.
Abstract（参考訳）: 透明性の欠如は、ニューラルネットワークとその業界での広範な採用に対するアキレスの癒しである。かなりの関心にもかかわらず、この欠点は十分に解決されていない。本研究では,解釈可能なニューラルネットワークを学習するためのHyden-and-Seek(HnS)という新しいフレームワークを提案し,類似したアイデアを探索・比較するための理論的基盤を確立する。大規模な実験は、予測力を犠牲にすることなく、高い解釈可能性をニューラルネットワークに含めることができることを示している。

関連論文リスト

Interpreting Neural Networks through Mahalanobis Distance [0.0]
本稿では,ニューラルネットワークの線形層とマハラノビス距離を結合する理論的枠組みを提案する。この研究は理論的であり、経験的データを含んでいないが、提案された距離に基づく解釈は、モデルロバスト性を高め、一般化を改善し、ニューラルネットワークの決定をより直観的な説明を提供する可能性がある。
論文参考訳（メタデータ） (2024-10-25T07:21:44Z)
Perturbation on Feature Coalition: Towards Interpretable Deep Neural Networks [0.1398098625978622]
ディープニューラルネットワーク(DNN)の“ブラックボックス”という性質は、透明性と信頼性を損なう。本稿では,ネットワークの深い情報を利用して相関した特徴を抽出する,特徴連立による摂動に基づく解釈を提案する。
論文参考訳（メタデータ） (2024-08-23T22:44:21Z)
Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
論文参考訳（メタデータ） (2024-08-08T17:20:08Z)
Explaining Deep Neural Networks by Leveraging Intrinsic Methods [0.9790236766474201]
この論文はeXplainable AIの分野に貢献し、ディープニューラルネットワークの解釈可能性の向上に重点を置いている。中心となる貢献は、これらのネットワークをより解釈しやすくすることを目的とした新しい技術の導入である。第2に、この研究は、訓練された深層ニューラルネットワーク内のニューロンに関する新しい研究を掘り下げ、その活性化値に関連する見過ごされた現象に光を当てた。
論文参考訳（メタデータ） (2024-07-17T01:20:17Z)
Coding schemes in neural networks learning classification tasks [52.22978725954347]
完全接続型広義ニューラルネットワーク学習タスクについて検討する。ネットワークが強力なデータ依存機能を取得することを示す。驚くべきことに、内部表現の性質は神経の非線形性に大きく依存する。
論文参考訳（メタデータ） (2024-06-24T14:50:05Z)
Understanding polysemanticity in neural networks through coding theory [0.8702432681310401]
本稿では,ネットワークの解釈可能性に関する新たな実践的アプローチと,多意味性やコードの密度に関する理論的考察を提案する。ランダムなプロジェクションによって、ネットワークがスムーズか非微分可能かが明らかになり、コードがどのように解釈されるかを示す。我々のアプローチは、ニューラルネットワークにおける解釈可能性の追求を前進させ、その基盤となる構造についての洞察を与え、回路レベルの解釈可能性のための新たな道を提案する。
論文参考訳（メタデータ） (2024-01-31T16:31:54Z)
A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
逆の例では、機械学習モデルを操作して誤った予測を行うことができます。敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。本研究は, 対角移動可能性の展望を考察した。
論文参考訳（メタデータ） (2023-10-26T17:45:26Z)
Neural Bayesian Network Understudy [13.28673601999793]
ニューラルネットワークは条件付き確率を出力するように訓練でき、ベイズネットワークとほぼ同じ機能を提供する。ニューラルネットワークに与えられた因果構造から推定される独立関係を符号化する2つのトレーニング戦略を提案する。
論文参考訳（メタデータ） (2022-11-15T15:56:51Z)
Rank Diminishing in Deep Neural Networks [71.03777954670323]
ニューラルネットワークのランクは、層をまたがる情報を測定する。これは機械学習の幅広い領域にまたがる重要な構造条件の例である。しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
論文参考訳（メタデータ） (2022-06-13T12:03:32Z)
Searching for the Essence of Adversarial Perturbations [73.96215665913797]
本稿では,ニューラルネットワークの誤予測の原因となる,人間の認識可能な情報を含む対人摂動について述べる。この人間の認識可能な情報の概念は、敵の摂動に関連する重要な特徴を説明できる。
論文参考訳（メタデータ） (2022-05-30T18:04:57Z)
Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
過パラメータのニューラルネットワークが制約を満たしていることを示す。公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
論文参考訳（メタデータ） (2020-12-30T18:46:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。