論文の概要: DeepROCK: Error-controlled interaction detection in deep neural networks
- arxiv url: http://arxiv.org/abs/2309.15319v1
- Date: Tue, 26 Sep 2023 23:58:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-28 17:20:25.381314
- Title: DeepROCK: Error-controlled interaction detection in deep neural networks
- Title（参考訳）: DeepROCK:ディープニューラルネットワークにおけるエラー制御インタラクション検出
- Authors: Winston Chen, William Stafford Noble, Yang Young Lu
- Abstract要約: ディープニューラルネットワーク(DNN)の複雑さは、それを強力にすると同時に、解釈を困難にする。
既存の手法では、予測結果に影響を与える特徴的相互作用を識別することで、DNNの内部メカニズムを解明しようとする。
本稿では,特定の特徴集合の依存構造を模倣するダミー変数であるノックオフを用いて,この制限に対処するDeepROCKという手法を提案する。
- 参考スコア（独自算出の注目度）: 5.095097384893415
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The complexity of deep neural networks (DNNs) makes them powerful but also
makes them challenging to interpret, hindering their applicability in
error-intolerant domains. Existing methods attempt to reason about the internal
mechanism of DNNs by identifying feature interactions that influence prediction
outcomes. However, such methods typically lack a systematic strategy to
prioritize interactions while controlling confidence levels, making them
difficult to apply in practice for scientific discovery and hypothesis
validation. In this paper, we introduce a method, called DeepROCK, to address
this limitation by using knockoffs, which are dummy variables that are designed
to mimic the dependence structure of a given set of features while being
conditionally independent of the response. Together with a novel DNN
architecture involving a pairwise-coupling layer, DeepROCK jointly controls the
false discovery rate (FDR) and maximizes statistical power. In addition, we
identify a challenge in correctly controlling FDR using off-the-shelf feature
interaction importance measures. DeepROCK overcomes this challenge by proposing
a calibration procedure applied to existing interaction importance measures to
make the FDR under control at a target level. Finally, we validate the
effectiveness of DeepROCK through extensive experiments on simulated and real
datasets.
- Abstract（参考訳）: ディープニューラルネットワーク(dnn)の複雑さは、それらは強力だが、解釈が難しくなり、エラー耐性のドメインでの適用性が阻害される。
既存の手法では、予測結果に影響を与える特徴的相互作用を識別することで、DNNの内部メカニズムを解明しようとする。
しかし、そのような手法は、信頼度を制御しながら相互作用を優先順位付けする体系的な戦略を欠いているため、科学的発見や仮説検証の実践は困難である。
本稿では,指定した特徴集合の依存構造を条件付き独立に模倣するように設計されたダミー変数であるノックオフを用いて,この制限に対処するために,deeprockと呼ばれる手法を提案する。
ペアワイズ結合層を含む新しいDNNアーキテクチャとともに、DeepROCKは偽発見率(FDR)を共同制御し、統計的パワーを最大化する。
さらに,市販の特徴的相互作用重要度尺度を用いてFDRを正しく制御する上での課題を明らかにした。
deeprockはこの課題を克服し、fdrを目標レベルで制御するための既存のインタラクション重要度対策に適用するキャリブレーション手順を提案する。
最後に、シミュレーションおよび実データに対する広範囲な実験を通してDeepROCKの有効性を検証する。
関連論文リスト
- Causal GNNs: A GNN-Driven Instrumental Variable Approach for Causal Inference in Networks [0.0]
CgNNは、隠れた共同設立者のバイアスを緩和し、因果効果の推定を改善するための新しいアプローチである。
以上の結果から,CgNNは隠れた共同創設者バイアスを効果的に軽減し,複雑なネットワークデータにおける因果推論のための堅牢なGNN駆動IVフレームワークを提供することが示された。
論文 参考訳（メタデータ） (2024-09-13T05:39:00Z) - Targeted Cause Discovery with Data-Driven Learning [66.86881771339145]
本稿では,観測結果から対象変数の因果変数を推定する機械学習手法を提案する。
我々は、シミュレートされたデータの教師あり学習を通じて因果関係を特定するために訓練されたニューラルネットワークを用いる。
大規模遺伝子制御ネットワークにおける因果関係の同定における本手法の有効性を実証した。
論文 参考訳（メタデータ） (2024-08-29T02:21:11Z) - DeepFDR: A Deep Learning-based False Discovery Rate Control Method for
Neuroimaging Data [1.9207817188259122]
ボクセルベースの多重テストは神経画像データ解析に広く用いられている。
従来の偽発見率(FDR)制御法は、ボクセルベースのテストの空間依存性を無視する。
DeepFDRは、教師なしのディープラーニングベースのイメージセグメンテーションを使用して、ボクセルベースの多重テスト問題に対処する。
論文 参考訳（メタデータ） (2023-10-20T08:27:13Z) - Adversarial Training Using Feedback Loops [1.6114012813668932]
ディープニューラルネットワーク(DNN)は、一般化性に制限があるため、敵の攻撃に非常に敏感である。
本稿では制御理論に基づく新しいロバスト化手法を提案する。
フィードバック制御アーキテクチャに基づく新しい逆行訓練アプローチは、フィードバックループ逆行訓練(FLAT)と呼ばれる。
論文 参考訳（メタデータ） (2023-08-23T02:58:02Z) - Neurosymbolic hybrid approach to driver collision warning [64.02492460600905]
自律運転システムには2つの主要なアルゴリズムアプローチがある。
ディープラーニングだけでは、多くの分野で最先端の結果が得られています。
しかし、ディープラーニングモデルが機能しない場合、デバッグが非常に難しい場合もあります。
論文 参考訳（メタデータ） (2022-03-28T20:29:50Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳（メタデータ） (2021-08-16T03:58:00Z) - Towards Adversarial-Resilient Deep Neural Networks for False Data
Injection Attack Detection in Power Grids [7.351477761427584]
偽データインジェクション攻撃(FDIA)は、電力システムの状態推定に重大なセキュリティ上の脅威をもたらす。
最近の研究では、機械学習(ML)技術、特にディープニューラルネットワーク(DNN)が提案されている。
論文 参考訳（メタデータ） (2021-02-17T22:26:34Z) - And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。
そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。
MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
論文 参考訳（メタデータ） (2021-02-15T08:19:05Z) - A Compact Deep Learning Model for Face Spoofing Detection [4.250231861415827]
プレゼンテーションアタック検出(PAD)は研究コミュニティから大きな注目を集めている。
我々は、統一されたニューラルネットワークアーキテクチャにおいて、幅広い機能と深い機能の両方を融合することで、この問題に対処する。
この手順は、ROSE-Youtu、SiW、NUAA Imposterなどのさまざまなスプーフィングデータセットで行われます。
論文 参考訳（メタデータ） (2021-01-12T21:20:09Z) - Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。
実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。
以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
論文 参考訳（メタデータ） (2020-04-30T19:12:50Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳（メタデータ） (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。