論文の概要: Neural Basis Models for Interpretability

• arxiv url: http://arxiv.org/abs/2205.14120v1
• Date: Fri, 27 May 2022 17:31:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-30 13:31:11.312928
• Title: Neural Basis Models for Interpretability
• Title（参考訳）: 解釈性のためのニューラルベースモデル
• Authors: Filip Radenovic, Abhimanyu Dubey and Dhruv Mahajan
• Abstract要約: 一般化加法モデル(GAMs)は本質的に解釈可能なモデルのクラスである。 形状関数の基底分解を利用するGAMの全く新しいサブファミリーを提案する。 少数の基底関数はすべての機能で共有され、与えられたタスクに対して共同で学習される。
• 参考スコア（独自算出の注目度）: 33.51591891812176
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Due to the widespread use of complex machine learning models in real-world applications, it is becoming critical to explain model predictions. However, these models are typically black-box deep neural networks, explained post-hoc via methods with known faithfulness limitations. Generalized Additive Models (GAMs) are an inherently interpretable class of models that address this limitation by learning a non-linear shape function for each feature separately, followed by a linear model on top. However, these models are typically difficult to train, require numerous parameters, and are difficult to scale. We propose an entirely new subfamily of GAMs that utilizes basis decomposition of shape functions. A small number of basis functions are shared among all features, and are learned jointly for a given task, thus making our model scale much better to large-scale data with high-dimensional features, especially when features are sparse. We propose an architecture denoted as the Neural Basis Model (NBM) which uses a single neural network to learn these bases. On a variety of tabular and image datasets, we demonstrate that for interpretable machine learning, NBMs are the state-of-the-art in accuracy, model size, and, throughput and can easily model all higher-order feature interactions.
• Abstract（参考訳）: 現実のアプリケーションで複雑な機械学習モデルが広く使われているため、モデル予測を説明することが重要になっている。 しかしながら、これらのモデルは一般的にブラックボックスのディープニューラルネットワークであり、既知の忠実性制限のあるメソッドを介してポストホックを説明する。 一般化加法モデル(GAMs)は、各特徴に対する非線形形状関数を別々に学習し、その上に線形モデルが続くことによって、この制限に対処する本質的に解釈可能なモデルのクラスである。 しかし、これらのモデルは通常、訓練が難しく、多くのパラメータが必要であり、スケーリングが難しい。 形状関数の基底分解を利用したGAMの全く新しいサブファミリーを提案する。 全ての特徴において少数の基本関数が共有され、与えられたタスクに対して共同で学習されるので、特に機能が不足している場合に、高次元の特徴を持つ大規模データよりも、モデルスケールがはるかに良くなる。 本稿では,単一のニューラルネットワークを用いて学習するニューラル基底モデル(nbm)と呼ばれるアーキテクチャを提案する。 様々な表や画像のデータセットにおいて、解釈可能な機械学習では、NBMは精度、モデルサイズ、スループットの最先端技術であり、全ての高階特徴相互作用を簡単にモデル化できることを実証する。

関連論文リスト

• Neural Network-Based Piecewise Survival Models [0.3999851878220878]
  ニューラルネットワークに基づくサバイバルモデルのファミリが提示される。 これらのモデルは、一般的に使用される離散時間および部分指数モデルの拡張と見なすことができる。
  論文  参考訳（メタデータ） (2024-03-27T15:08:00Z)
• Accurate deep learning sub-grid scale models for large eddy simulations [0.0]
  大型渦流シミュレーション(LES)のために開発されたサブグリッドスケール(SGS)乱流モデルについて述べる。 彼らの開発には、物理インフォームド・ロバストで効率的なDeep Learning (DL)アルゴリズムの定式化が必要だった。 2つの摩擦レイノルズ数における正準流路流れの直接シミュレーションによるデータの明示的なフィルタリングは、訓練と試験のための正確なデータを提供した。
  論文  参考訳（メタデータ） (2023-07-19T15:30:06Z)
• Interpreting Black-box Machine Learning Models for High Dimensional Datasets [40.09157165704895]
  我々は、高次元データセット上でブラックボックスモデルをトレーニングし、その分類が行われる埋め込みを学習する。 次に、トップk特徴空間上の解釈可能な代理モデルを用いてブラックボックスモデルの挙動を近似する。 我々のアプローチは、異なるデータセットでテストした場合、TabNetやXGboostのような最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2022-08-29T07:36:17Z)
• On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
  異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。 このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。 我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-09T17:12:32Z)
• On the balance between the training time and interpretability of neural ODE for time series modelling [77.34726150561087]
  本稿は,現代のニューラルODEを,時系列モデリングアプリケーションのためのより単純なモデルに還元することはできないことを示す。 ニューラルODEの複雑さは、従来の時系列モデリングツールと比較されるか、超える。 本稿では,ニューラルネットワークとODEシステムを用いた時系列モデリングの新しい視点を提案する。
  論文  参考訳（メタデータ） (2022-06-07T13:49:40Z)
• Low-Rank Constraints for Fast Inference in Structured Models [110.38427965904266]
  この研究は、大規模構造化モデルの計算とメモリの複雑さを低減するための単純なアプローチを示す。 言語モデリング,ポリフォニック・ミュージック・モデリング,教師なし文法帰納法,ビデオ・モデリングのためのニューラルパラメータ構造モデルを用いた実験により,我々の手法は大規模状態空間における標準モデルの精度と一致することを示した。
  論文  参考訳（メタデータ） (2022-01-08T00:47:50Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• A Simple and Interpretable Predictive Model for Healthcare [0.0]
  ディープラーニングモデルは、現在、病気予測のための最先端のソリューションの大半を支配しています。 トレーニング可能なパラメータが数百万に分散したこれらのディープラーニングモデルは、トレーニングとデプロイに大量の計算とデータを必要とします。 EHRデータに適用するための,より単純かつ解釈可能な非深層学習モデルを開発した。
  論文  参考訳（メタデータ） (2020-07-27T08:13:37Z)
• Causality-aware counterfactual confounding adjustment for feature representations learned by deep models [14.554818659491644]
  因果モデリングは機械学習(ML)における多くの課題に対する潜在的な解決策として認識されている。 深層ニューラルネットワーク(DNN)モデルによって学習された特徴表現を分解するために、最近提案された対実的アプローチが依然として使われている方法について説明する。
  論文  参考訳（メタデータ） (2020-04-20T17:37:36Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。