論文の概要: Limited but consistent gains in adversarial robustness by co-training object recognition models with human EEG
- arxiv url: http://arxiv.org/abs/2409.03646v1
- Date: Thu, 5 Sep 2024 16:04:57 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 20:03:34.033332
- Title: Limited but consistent gains in adversarial robustness by co-training object recognition models with human EEG
- Title（参考訳）: 物体認識モデルと人間の脳波の協調学習による対向強靭性の限定的かつ一貫した向上
- Authors: Manshan Guo, Bhavin Choksi, Sari Sadiya, Alessandro T. Gifford, Martina G. Vilas, Radoslaw M. Cichy, Gemma Roig,
- Abstract要約: 分類と脳波予測の2つのタスクでResNet50-backboneモデルを訓練した。
ネットワークの脳波予測精度には有意な相関がみられた。
それぞれの脳波チャンネルからのデータを分解し,頭頂後頭頂部の電極からの最も強い寄与を観察した。
- 参考スコア（独自算出の注目度）: 40.006249083417266
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In contrast to human vision, artificial neural networks (ANNs) remain relatively susceptible to adversarial attacks. To address this vulnerability, efforts have been made to transfer inductive bias from human brains to ANNs, often by training the ANN representations to match their biological counterparts. Previous works relied on brain data acquired in rodents or primates using invasive techniques, from specific regions of the brain, under non-natural conditions (anesthetized animals), and with stimulus datasets lacking diversity and naturalness. In this work, we explored whether aligning model representations to human EEG responses to a rich set of real-world images increases robustness to ANNs. Specifically, we trained ResNet50-backbone models on a dual task of classification and EEG prediction; and evaluated their EEG prediction accuracy and robustness to adversarial attacks. We observed significant correlation between the networks' EEG prediction accuracy, often highest around 100 ms post stimulus onset, and their gains in adversarial robustness. Although effect size was limited, effects were consistent across different random initializations and robust for architectural variants. We further teased apart the data from individual EEG channels and observed strongest contribution from electrodes in the parieto-occipital regions. The demonstrated utility of human EEG for such tasks opens up avenues for future efforts that scale to larger datasets under diverse stimuli conditions with the promise of stronger effects.
- Abstract（参考訳）: 人間のビジョンとは対照的に、人工知能(ANN)は敵の攻撃に比較的敏感である。
この脆弱性に対処するため、人間の脳からANNに誘導バイアスを移す努力がなされており、しばしば生物学的なバイアスと一致するようにANN表現を訓練している。
以前の研究は、脳の特定の領域から、非自然条件(麻酔動物)下で、そして多様性と自然性を欠いた刺激データセットを用いて、ネズミや霊長類から得られた脳のデータに頼っていた。
本研究では,モデル表現と人間の脳波応答との整合性について検討した。
具体的には、分類と脳波予測の2つのタスクでResNet50バックボーンモデルを訓練し、敵攻撃に対する脳波予測精度と堅牢性を評価した。
ネットワークの脳波予測精度は,刺激開始後100ms前後が最も高く,対向的強靭性では有意な相関がみられた。
効果の大きさは限られていたが、異なるランダムな初期化にまたがって効果は一貫しており、アーキテクチャ上の変異に対して堅牢であった。
さらに個々の脳波チャンネルからのデータを分解し,頭頂後頭頂部の電極からの強い寄与を観察した。
このようなタスクに対する人間の脳波の実証的な有用性は、様々な刺激条件下で大きなデータセットに拡張し、より強力な効果を約束する将来の取り組みの道を開く。
関連論文リスト
- RISE-iEEG: Robust to Inter-Subject Electrodes Implantation Variability iEEG Classifier [0.0]
RISE-iEEGはRobust Inter-Subject Electrode implantation Variability iEEGの略である。
iEEGデコーダモデルを開発し,各患者に電極の座標を必要とせずに複数の患者のデータに適用した。
分析の結果, RISE-iEEG は HTNet や EEGNet よりも F1 よりも10%高い値を示した。
論文 参考訳（メタデータ） (2024-08-12T18:33:19Z) - Fixed Inter-Neuron Covariability Induces Adversarial Robustness [26.878913741674058]
敵対的摂動の脆弱性はディープニューラルネットワーク(DNN)の重大な欠陥である
我々は,各ニューロンが固定された,しかし学習された共変性パターンに従うように,活性化が互いに一致したニューロンからなる自己持続活性化層を開発した。
SCA層を持つモデルは高い精度を達成し、対向的な摂動データでトレーニングされることなく、最先端のAuto-PGD攻撃に対して多層パーセプトロンモデルよりもはるかに堅牢性を示した。
論文 参考訳（メタデータ） (2023-08-07T23:46:14Z) - Perturbing a Neural Network to Infer Effective Connectivity: Evidence
from Synthetic EEG Data [0.7829352305480285]
ニューラルネットワークをトレーニングして、過去のデータに基づいて将来の脳波信号を予測し、ネットワークの入力を摂動させ、効果的な接続性を得ました。
CNNとTransformerは3チャンネルと90チャンネルの合成脳波データで最高の性能を示し、古典的なグランガー因果性法よりも優れていた。
論文 参考訳（メタデータ） (2023-07-19T06:14:54Z) - A Neural Active Inference Model of Perceptual-Motor Learning [62.39667564455059]
アクティブ推論フレームワーク(英: active inference framework、AIF)は、現代の神経科学を基盤とした、有望な新しい計算フレームワークである。
本研究では,ヒトの視覚行動指導において,AIFが期待する役割を捉える能力をテストする。
本稿では,多次元世界状態から自由エネルギーの一次元分布にマッピングする先行関数の新たな定式化について述べる。
論文 参考訳（メタデータ） (2022-11-16T20:00:38Z) - Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。
本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。
ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
論文 参考訳（メタデータ） (2021-12-02T12:45:46Z) - Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。
IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
論文 参考訳（メタデータ） (2021-07-26T10:40:59Z) - Bootstrapping Your Own Positive Sample: Contrastive Learning With
Electronic Health Record Data [62.29031007761901]
本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。
EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。
私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
論文 参考訳（メタデータ） (2021-04-07T06:02:04Z) - A Novel Transferability Attention Neural Network Model for EEG Emotion
Recognition [51.203579838210885]
脳波感情認識のための伝達型注目ニューラルネットワーク(TANN)を提案する。
TANNは、伝達可能な脳波領域のデータとサンプルを適応的に強調することにより、感情的な識別情報を学習する。
これは、複数の脳領域レベル判別器と1つのサンプルレベル判別器の出力を測定することで実現できる。
論文 参考訳（メタデータ） (2020-09-21T02:42:30Z) - Prediction of Human Empathy based on EEG Cortical Asymmetry [0.0]
特定の周波数帯における脳振動の側方化は、自己申告された共感スコアの重要な予測因子である。
結果は、感情の表現や認識が困難である人々を支援する脳-コンピュータインターフェースの開発に利用される。
論文 参考訳（メタデータ） (2020-05-06T13:49:56Z) - Adversarial-based neural networks for affect estimations in the wild [3.3335236123901995]
本研究では,本研究で提案した対戦型ネットワークによる潜在機能の利用について検討する。
具体的には,判別器にいくつかのモードをアグリゲートすることで,生成器が抽出した潜在特性にさらに適応する。
最近リリースされたSEWAデータセットの実験は、結果の進歩的な改善を示唆している。
論文 参考訳（メタデータ） (2020-02-03T16:52:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。