論文の概要: Towards Comparative Physical Interpretation of Spatial Variability Aware Neural Networks: A Summary of Results

• arxiv url: http://arxiv.org/abs/2110.15866v1
• Date: Fri, 29 Oct 2021 15:40:42 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-01 15:29:05.479836
• Title: Towards Comparative Physical Interpretation of Spatial Variability Aware Neural Networks: A Summary of Results
• Title（参考訳）: 空間変動を考慮したニューラルネットワークの比較物理解釈に向けて:結果の概要
• Authors: Jayant Gupta, Carl Molnar, Gaoxiang Luo, Joe Knight and Shashi Shekhar
• Abstract要約: 空間変数認識ニューラルネットワーク(SVANN)が与えられた場合、その目標は、比較物理的解釈のための数学的(または計算的)モデルを調べることである。 本研究では,地理的に異質な特徴に基づく新しい比較手法を用いて,SVANNの物理的解釈について検討する。
• 参考スコア（独自算出の注目度）: 0.7297229770329212
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Given Spatial Variability Aware Neural Networks (SVANNs), the goal is to investigate mathematical (or computational) models for comparative physical interpretation towards their transparency (e.g., simulatibility, decomposability and algorithmic transparency). This problem is important due to important use-cases such as reusability, debugging, and explainability to a jury in a court of law. Challenges include a large number of model parameters, vacuous bounds on generalization performance of neural networks, risk of overfitting, sensitivity to noise, etc., which all detract from the ability to interpret the models. Related work on either model-specific or model-agnostic post-hoc interpretation is limited due to a lack of consideration of physical constraints (e.g., mass balance) and properties (e.g., second law of geography). This work investigates physical interpretation of SVANNs using novel comparative approaches based on geographically heterogeneous features. The proposed approach on feature-based physical interpretation is evaluated using a case-study on wetland mapping. The proposed physical interpretation improves the transparency of SVANN models and the analytical results highlight the trade-off between model transparency and model performance (e.g., F1-score). We also describe an interpretation based on geographically heterogeneous processes modeled as partial differential equations (PDEs).
• Abstract（参考訳）: SVANN(Spatial Variability Aware Neural Networks)を前提として、その透明性(シミュラビリティ、デコンポスタビリティ、アルゴリズムの透明性など)に対する物理解釈の数学的(または計算的)モデルを検討することが目的である。 この問題は、裁判所における陪審員の再利用性、デバッグ性、説明可能性などの重要なユースケースのために重要である。 課題には、多数のモデルパラメータ、ニューラルネットワークの一般化性能の空き境界、過度な適合のリスク、ノイズに対する感受性などが含まれる。 モデル固有あるいはモデル非依存のポストホック解釈に関する関連する研究は、物理的制約(例えば質量収支)と特性(例えば、地理の第2法則)の考慮の欠如によって制限されている。 本研究では,地理的に異質な特徴に基づく新しい比較手法を用いて,SVANNの物理的解釈について検討する。 湿地マッピングのケーススタディを用いて,特徴量に基づく物理解釈手法の評価を行った。 提案する物理解釈はsvannモデルの透過性を改善し,解析結果はモデル透過性とモデル性能(例えばf1-score)のトレードオフを強調する。 また,偏微分方程式 (pdes) としてモデル化された地理的に異質なプロセスに基づく解釈についても述べる。

関連論文リスト

• Disentangled Representation Learning for Parametric Partial Differential Equations [31.240283037552427]
  ニューラル演算子パラメータから不整合表現を学習するための新しいパラダイムを提案する。 DisentangOは、ブラックボックス・ニューラル・オペレーターパラメータに埋め込まれた変動の潜在的物理的要因を明らかにし、取り除くように設計された、新しいハイパーニューラル・オペレーターアーキテクチャである。 本研究では、DentangOが有意義かつ解釈可能な潜在特徴を効果的に抽出し、ニューラルネットワークフレームワークにおける予測性能と身体的理解の分離を橋渡しすることを示す。
  論文  参考訳（メタデータ） (2024-10-03T01:40:39Z)
• Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
  本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。 具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。 そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
  論文  参考訳（メタデータ） (2024-08-08T17:20:08Z)
• Understanding Disparities in Post Hoc Machine Learning Explanation [2.965442487094603]
  従来の研究では、既存のポストホックな説明法は説明の忠実度に相違があることが強調されている(「レース」と「ジェンダー」は敏感な属性である)。 データの性質から生じる格差を説明するための課題を特に評価する。 結果は、モデル説明の相違はデータやモデルの性質にも依存できることを示している。
  論文  参考訳（メタデータ） (2024-01-25T22:09:28Z)
• Analyzing the Effects of Handling Data Imbalance on Learned Features from Medical Images by Looking Into the Models [50.537859423741644]
  不均衡なデータセットでモデルをトレーニングすることは、学習問題にユニークな課題をもたらす可能性がある。 ニューラルネットワークの内部ユニットを深く調べて、データの不均衡処理が学習した機能にどのように影響するかを観察します。
  論文  参考訳（メタデータ） (2022-04-04T09:38:38Z)
• Equivariance Allows Handling Multiple Nuisance Variables When Analyzing Pooled Neuroimaging Datasets [53.34152466646884]
  本稿では,構造空間上でインスタンス化された同変表現学習における最近の結果と,因果推論における古典的結果の簡易な利用が,いかに効果的に実現されたかを示す。 いくつかの仮定の下で、我々のモデルが複数のニュアンス変数を扱えることを実証し、そうでなければサンプルの大部分を取り除く必要のあるシナリオにおいて、プールされた科学データセットの分析を可能にする。
  論文  参考訳（メタデータ） (2022-03-29T04:54:06Z)
• Combining Discrete Choice Models and Neural Networks through Embeddings: Formulation, Interpretability and Performance [10.57079240576682]
  本研究では、ニューラルネットワーク(ANN)を用いた理論とデータ駆動選択モデルを組み合わせた新しいアプローチを提案する。 特に、分類的または離散的説明変数を符号化するために、埋め込みと呼ばれる連続ベクトル表現を用いる。 我々のモデルは最先端の予測性能を提供し、既存のANNモデルよりも優れ、必要なネットワークパラメータの数を劇的に削減します。
  論文  参考訳（メタデータ） (2021-09-24T15:55:31Z)
• On the Lack of Robust Interpretability of Neural Text Classifiers [14.685352584216757]
  本研究では,事前学習したトランスフォーマーエンコーダをベースとしたニューラルテキスト分類器の解釈の堅牢性を評価する。 どちらのテストも、期待された行動から驚くほど逸脱しており、実践者が解釈から引き出す可能性のある洞察の程度について疑問を呈している。
  論文  参考訳（メタデータ） (2021-06-08T18:31:02Z)
• A comprehensive comparative evaluation and analysis of Distributional Semantic Models [61.41800660636555]
  我々は、静的DSMによって生成されたり、BERTによって生成された文脈化されたベクトルを平均化して得られるような、型分布ベクトルの包括的評価を行う。 その結果、予測ベースモデルの優越性は現実よりも明らかであり、ユビキタスではないことが明らかとなった。 我々は認知神経科学からRepresentational similarity Analysis(RSA)の方法論を借りて、分布モデルによって生成された意味空間を検査する。
  論文  参考訳（メタデータ） (2021-05-20T15:18:06Z)
• Ada-SISE: Adaptive Semantic Input Sampling for Efficient Explanation of Convolutional Neural Networks [26.434705114982584]
  畳み込みニューラルネットワークの効率的な解釈手法を提案する。 実験の結果,提案手法は実行時間を最大30%削減できることがわかった。
  論文  参考訳（メタデータ） (2021-02-15T19:10:00Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。