論文の概要: Counterfactual Explanations of Neural Network-Generated Response Curves
- arxiv url: http://arxiv.org/abs/2304.04063v2
- Date: Thu, 13 Apr 2023 15:48:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-14 20:07:05.016370
- Title: Counterfactual Explanations of Neural Network-Generated Response Curves
- Title（参考訳）: ニューラルネットワーク生成応答曲線の反事実的説明
- Authors: Giorgio Morales and John Sheppard
- Abstract要約: 本稿では,回帰ニューラルネットワークを用いて応答を近似するシステムについて考察する。
本稿では, 応答曲線の形状に最も関連性の高い特徴の同定に, 反実的説明(CFE)を用いることを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Response curves exhibit the magnitude of the response of a sensitive system
to a varying stimulus. However, response of such systems may be sensitive to
multiple stimuli (i.e., input features) that are not necessarily independent.
As a consequence, the shape of response curves generated for a selected input
feature (referred to as "active feature") might depend on the values of the
other input features (referred to as "passive features"). In this work, we
consider the case of systems whose response is approximated using regression
neural networks. We propose to use counterfactual explanations (CFEs) for the
identification of the features with the highest relevance on the shape of
response curves generated by neural network black boxes. CFEs are generated by
a genetic algorithm-based approach that solves a multi-objective optimization
problem. In particular, given a response curve generated for an active feature,
a CFE finds the minimum combination of passive features that need to be
modified to alter the shape of the response curve. We tested our method on a
synthetic dataset with 1-D inputs and two crop yield prediction datasets with
2-D inputs. The relevance ranking of features and feature combinations obtained
on the synthetic dataset coincided with the analysis of the equation that was
used to generate the problem. Results obtained on the yield prediction datasets
revealed that the impact on fertilizer responsivity of passive features depends
on the terrain characteristics of each field.
- Abstract（参考訳）: 反応曲線は、様々な刺激に対する感度システムの応答の大きさを示す。
しかし、そのようなシステムの応答は必ずしも独立ではない複数の刺激(すなわち入力特徴)に敏感である。
その結果、選択された入力特徴(「アクティブ特徴」と呼ばれる)に対して生成された応答曲線の形状は、他の入力特徴(「パッシブ特徴」と呼ばれる)の値に依存する可能性がある。
本研究では,回帰ニューラルネットワークを用いて応答を近似するシステムについて考察する。
本稿では,ニューラルネットワークブラックボックスが生成する応答曲線の形状に最も関連性が高い特徴の同定に,CFE(反実的説明)を用いることを提案する。
cfeは多目的最適化問題を解決する遺伝的アルゴリズムに基づくアプローチによって生成される。
特に、アクティブな特徴に対して生成された応答曲線を考えると、CFEは応答曲線の形状を変えるために修正される必要のある受動的特徴の最小の組み合わせを見つける。
我々は,1次元入力と2次元入力を用いた2つの収量予測データセットを用いた合成データセット上で実験を行った。
合成データセットで得られた特徴量と特徴の組み合わせの関連性ランキングは,問題発生に用いた方程式の解析と一致した。
収量予測データセットで得られた結果から, 受動特性の肥料応答性への影響は各分野の地形特性に依存することがわかった。
関連論文リスト
- Noise-Resilient Unsupervised Graph Representation Learning via Multi-Hop Feature Quality Estimation [53.91958614666386]
グラフニューラルネットワーク(GNN)に基づく教師なしグラフ表現学習(UGRL)
マルチホップ特徴量推定(MQE)に基づく新しいUGRL法を提案する。
論文 参考訳（メタデータ） (2024-07-29T12:24:28Z) - ENN: A Neural Network with DCT Adaptive Activation Functions [2.2713084727838115]
離散コサイン変換(DCT)を用いて非線形活性化関数をモデル化する新しいモデルであるExpressive Neural Network(ENN)を提案する。
このパラメータ化は、トレーニング可能なパラメータの数を低く保ち、勾配ベースのスキームに適合し、異なる学習タスクに適応する。
ENNのパフォーマンスは、いくつかのシナリオにおいて40%以上の精度のギャップを提供する、アートベンチマークの状態を上回ります。
論文 参考訳（メタデータ） (2023-07-02T21:46:30Z) - A Model-free Closeness-of-influence Test for Features in Supervised
Learning [23.345517302581044]
本研究では,2つの特徴が応答値に与える影響の差について検討する。
まず、特徴の影響に対する近接性の概念を提案し、この定義がモデルにおける係数の大きさに関するよく知られた概念を回復させることを示す。
そこで本研究では,モデルなし教師あり学習問題における影響の近接性をテストする新しい手法を提案する。
論文 参考訳（メタデータ） (2023-06-20T19:20:18Z) - Neural Networks for Scalar Input and Functional Output [0.0]
フィードフォワードニューラルネットワーク(NN)はスカラー入力を用いて関数応答を予測するように設計されている。
目的関数を用いてNNの出力を変更し、ネットワークトレーニングのための異なる目的関数を導入する。
複数のシナリオにおいて従来の関数・オン・スカラー回帰モデルよりも優れる。
論文 参考訳（メタデータ） (2022-08-10T16:04:58Z) - Exploring Linear Feature Disentanglement For Neural Networks [63.20827189693117]
Sigmoid、ReLU、Tanhなどの非線形活性化関数は、ニューラルネットワーク(NN)において大きな成功を収めた。
サンプルの複雑な非線形特性のため、これらの活性化関数の目的は、元の特徴空間から線形分離可能な特徴空間へサンプルを投影することである。
この現象は、現在の典型的なNNにおいて、すべての特徴がすべての非線形関数によって変換される必要があるかどうかを探求することに興味をそそる。
論文 参考訳（メタデータ） (2022-03-22T13:09:17Z) - Understanding Interlocking Dynamics of Cooperative Rationalization [90.6863969334526]
選択的合理化(Selective rationalization)は、ニューラルネットワークの出力を予測するのに十分な入力の小さなサブセットを見つけることによって、複雑なニューラルネットワークの予測を説明する。
このような合理化パラダイムでは,モデルインターロックという大きな問題が浮かび上がっている。
A2Rと呼ばれる新しい合理化フレームワークを提案し、アーキテクチャに第3のコンポーネントを導入し、選択とは対照的にソフトアテンションによって駆動される予測器を提案する。
論文 参考訳（メタデータ） (2021-10-26T17:39:18Z) - Linear approximability of two-layer neural networks: A comprehensive
analysis based on spectral decay [4.042159113348107]
まず、単一ニューロンの場合について考察し、コルモゴロフ幅で定量化される線形近似性は、共役核の固有値崩壊によって制御されることを示す。
また,2層ニューラルネットワークについても同様の結果が得られた。
論文 参考訳（メタデータ） (2021-08-10T23:30:29Z) - And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。
そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。
MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
論文 参考訳（メタデータ） (2021-02-15T08:19:05Z) - An Investigation of Potential Function Designs for Neural CRF [75.79555356970344]
本稿では,ニューラルCRFモデルに対する一連の表現力のあるポテンシャル関数について検討する。
実験により, 隣接する2つのラベルと隣接する2つの単語のベクトル表現に基づく分解された二次ポテンシャル関数が, 常に最高の性能を達成することを示す。
論文 参考訳（メタデータ） (2020-11-11T07:32:18Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - Density-embedding layers: a general framework for adaptive receptive
fields [1.0152838128195467]
本稿では,密度埋め込み層の理論的枠組みを提案する。
このフレームワークは最近の手法をキャプチャして一般化し、受容場の微調整を可能にする。
本稿では,いくつかの新しいレイヤを定義し,古典的MNISTデータセット上で実験的に検証する。
論文 参考訳（メタデータ） (2020-06-23T06:09:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。