論文の概要: Defining and Extracting generalizable interaction primitives from DNNs
- arxiv url: http://arxiv.org/abs/2401.16318v1
- Date: Mon, 29 Jan 2024 17:21:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-30 14:07:24.329922
- Title: Defining and Extracting generalizable interaction primitives from DNNs
- Title(参考訳): DNNからの一般化可能な相互作用プリミティブの定義と抽出
- Authors: Lu Chen, Siyu Lou, Benhao Huang, Quanshi Zhang
- Abstract要約: 我々は、異なるディープニューラルネットワーク(DNN)で共有される相互作用を抽出する新しい方法を開発した。
実験により、抽出された相互作用は、異なるDNNが共有する共通知識をよりよく反映できることが示された。
- 参考スコア(独自算出の注目度): 24.897875218177266
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Faithfully summarizing the knowledge encoded by a deep neural network (DNN)
into a few symbolic primitive patterns without losing much information
represents a core challenge in explainable AI. To this end, Ren et al. (2023c)
have derived a series of theorems to prove that the inference score of a DNN
can be explained as a small set of interactions between input variables.
However, the lack of generalization power makes it still hard to consider such
interactions as faithful primitive patterns encoded by the DNN. Therefore,
given different DNNs trained for the same task, we develop a new method to
extract interactions that are shared by these DNNs. Experiments show that the
extracted interactions can better reflect common knowledge shared by different
DNNs.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)によって符号化された知識を、多くの情報を失うことなく、いくつかの象徴的な原始パターンに忠実に要約することは、説明可能なAIにおける中核的な課題である。
この目的のために、Ren et al. (2023c) は DNN の推論スコアを入力変数間の小さな相互作用の集合として説明できることを示す一連の定理を導出した。
しかし、一般化力の欠如により、DNNが符号化した忠実な原始パターンのような相互作用を考えることは依然として困難である。
そこで,同じタスクで訓練された異なるDNNに対して,これらのDNNが共有するインタラクションを抽出する新しい手法を開発した。
実験により、抽出された相互作用は、異なるDNNが共有する共通知識をよりよく反映できることが示された。
関連論文リスト
- Deep Neural Networks Tend To Extrapolate Predictably [56.04573160453392]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳(メタデータ) (2023-10-02T03:25:32Z) - Technical Note: Defining and Quantifying AND-OR Interactions for
Faithful and Concise Explanation of DNNs [35.149004732692134]
我々は、入力変数間の符号化された相互作用を定量化し、ディープニューラルネットワーク(DNN)を説明することを目的とする。
具体的には、まず相互作用の定義を再考し、次に相互作用に基づく説明に対する忠実さと簡潔さを正式に定義する。
論文 参考訳(メタデータ) (2023-04-26T06:33:31Z) - Does a Neural Network Really Encode Symbolic Concepts? [28.47083100708405]
本稿では,インタラクション概念の信頼性を4つの観点から検討する。
広範囲にわたる実証研究により、よく訓練されたDNNは、通常スパース、転送可能、差別的な概念を符号化することを示した。
論文 参考訳(メタデータ) (2023-02-25T13:58:37Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Discovering and Explaining the Representation Bottleneck of DNNs [21.121270460158712]
本稿では,ディープニューラルネットワーク(DNN)の特徴表現のボトルネックについて検討する。
入力変数間の多階相互作用に焦点をあて、その順序は相互作用の複雑さを表す。
DNNは単純すぎる相互作用と複雑すぎる相互作用の両方を符号化する傾向にあるが、通常は中間複雑性の相互作用を学習することができない。
論文 参考訳(メタデータ) (2021-11-11T14:35:20Z) - A Practical Tutorial on Graph Neural Networks [49.919443059032226]
グラフニューラルネットワーク(GNN)は、人工知能(AI)分野において最近人気が高まっている。
このチュートリアルでは、GNNのパワーとノベルティをAI実践者に公開している。
論文 参考訳(メタデータ) (2020-10-11T12:36:17Z) - Interpreting Multivariate Shapley Interactions in DNNs [33.67263820904767]
本稿では,多変量相互作用の観点から,ディープニューラルネットワーク(DNN)を説明することを目的とする。
本稿では,DNNの複数入力変数間の相互作用の意義を定義し,定量化する。
論文 参考訳(メタデータ) (2020-10-10T17:02:51Z) - Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。
DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。
コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
論文 参考訳(メタデータ) (2020-06-30T14:56:05Z) - Neural Additive Models: Interpretable Machine Learning with Neural Nets [77.66871378302774]
ディープニューラルネットワーク(DNN)は、さまざまなタスクにおいて優れたパフォーマンスを達成した強力なブラックボックス予測器である。
本稿では、DNNの表現性と一般化した加法モデルの固有知性を組み合わせたニューラル付加モデル(NAM)を提案する。
NAMは、ニューラルネットワークの線形結合を学び、それぞれが単一の入力機能に付随する。
論文 参考訳(メタデータ) (2020-04-29T01:28:32Z) - Architecture Disentanglement for Deep Neural Networks [174.16176919145377]
ディープニューラルネットワーク(DNN)の内部動作を説明するために,ニューラルアーキテクチャ・ディコンタングルメント(NAD)を導入する。
NADは、訓練済みのDNNを独立したタスクに従ってサブアーキテクチャに切り離すことを学び、推論プロセスを記述する情報フローを形成する。
その結果、誤分類された画像は、タスクサブアーキテクチャーに正しいサブアーキテクチャーに割り当てられる確率が高いことが示された。
論文 参考訳(メタデータ) (2020-03-30T08:34:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。