論文の概要: Fooling the primate brain with minimal, targeted image manipulation
- arxiv url: http://arxiv.org/abs/2011.05623v3
- Date: Wed, 30 Mar 2022 05:36:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-26 22:55:37.111850
- Title: Fooling the primate brain with minimal, targeted image manipulation
- Title(参考訳): 最小限の画像操作による霊長類脳の摂食
- Authors: Li Yuan, Will Xiao, Giorgia Dellaferrera, Gabriel Kreiman, Francis
E.H. Tay, Jiashi Feng, Margaret S. Livingstone
- Abstract要約: 本稿では、行動に反映される神経活動と知覚の両方の変化をもたらす、最小限の標的画像摂動を生成するための一連の手法を提案する。
我々の研究は、敵対的攻撃、すなわち最小限のターゲットノイズによる画像の操作で同じ目標を共有し、ANNモデルに画像の誤分類を誘導する。
- 参考スコア(独自算出の注目度): 67.78919304747498
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial neural networks (ANNs) are considered the current best models of
biological vision. ANNs are the best predictors of neural activity in the
ventral stream; moreover, recent work has demonstrated that ANN models fitted
to neuronal activity can guide the synthesis of images that drive pre-specified
response patterns in small neuronal populations. Despite the success in
predicting and steering firing activity, these results have not been connected
with perceptual or behavioral changes. Here we propose an array of methods for
creating minimal, targeted image perturbations that lead to changes in both
neuronal activity and perception as reflected in behavior. We generated
'deceptive images' of human faces, monkey faces, and noise patterns so that
they are perceived as a different, pre-specified target category, and measured
both monkey neuronal responses and human behavior to these images. We found
several effective methods for changing primate visual categorization that
required much smaller image change compared to untargeted noise. Our work
shares the same goal with adversarial attack, namely the manipulation of images
with minimal, targeted noise that leads ANN models to misclassify the images.
Our results represent a valuable step in quantifying and characterizing the
differences in perturbation robustness of biological and artificial vision.
- Abstract(参考訳): 人工ニューラルネットワーク(ANN)は、現在の生物視覚の最良のモデルと考えられている。
ANNは腹水流における神経活動の最良の予測因子であり、近年の研究は、神経活動に適合したANNモデルが、小さな神経細胞集団で事前に特定された応答パターンを駆動する画像の合成を導くことを実証している。
射撃活動の予測と操舵の成功にもかかわらず、これらの結果は知覚的・行動的変化とは関係がない。
本稿では,行動に反映されたニューロン活動と知覚の両方の変化をもたらす最小の標的画像摂動生成法を提案する。
ヒトの顔、サルの顔、ノイズパターンの「知覚イメージ」を生成し、それぞれを別々に特定された対象カテゴリーとして認識し、サルの神経反応と人間の行動の両方を測定した。
対象外雑音に比べて画像変化の少ない霊長類視覚分類を効果的に変更する方法がいくつか見出された。
我々の研究は、敵対的攻撃、すなわち最小限のターゲットノイズによる画像の操作で同じ目標を共有し、ANNモデルに画像の誤分類を誘導する。
本研究は,生体と人工視覚の摂動堅牢性の違いを定量化し,特徴付けるための貴重なステップである。
関連論文リスト
- Neural Dynamics Model of Visual Decision-Making: Learning from Human Experts [28.340344705437758]
視覚入力から行動出力まで,包括的な視覚的意思決定モデルを実装した。
我々のモデルは人間の行動と密接に一致し、霊長類の神経活動を反映する。
ニューロイメージング・インフォームド・ファインチューニング手法を導入し、モデルに適用し、性能改善を実現した。
論文 参考訳(メタデータ) (2024-09-04T02:38:52Z) - Adapting Brain-Like Neural Networks for Modeling Cortical Visual
Prostheses [68.96380145211093]
皮質補綴は視覚野に移植された装置で、電気的にニューロンを刺激することで失った視力を回復しようとする。
現在、これらのデバイスが提供する視覚は限られており、刺激による視覚知覚を正確に予測することはオープンな課題である。
我々は、視覚システムの有望なモデルとして登場した「脳様」畳み込みニューラルネットワーク(CNN)を活用することで、この問題に対処することを提案する。
論文 参考訳(メタデータ) (2022-09-27T17:33:19Z) - Guiding Visual Attention in Deep Convolutional Neural Networks Based on
Human Eye Movements [0.0]
ディープ畳み込みニューラルネットワーク(DCNN)は、当初は生物学的ビジョンの原理にインスパイアされていた。
近年のディープラーニングの進歩は、この類似性を減らしているようだ。
有用なモデルを得るための純粋にデータ駆動型アプローチについて検討する。
論文 参考訳(メタデータ) (2022-06-21T17:59:23Z) - Human Eyes Inspired Recurrent Neural Networks are More Robust Against Adversarial Noises [7.689542442882423]
我々は人間の脳にインスパイアされたデュアルストリーム視覚モデルを設計した。
このモデルは網膜のような入力層を特徴とし、次の焦点(固定点)を決定する2つのストリームと、固定点を取り巻く視覚を解釈する2つのストリームを含む。
このモデルを,物体認識,視線行動,対向強靭性の観点から評価した。
論文 参考訳(メタデータ) (2022-06-15T03:44:42Z) - Prune and distill: similar reformatting of image information along rat
visual cortex and deep neural networks [61.60177890353585]
深部畳み込み神経ネットワーク(CNN)は、脳の機能的類似、視覚野の腹側流の優れたモデルを提供することが示されている。
ここでは、CNNまたは視覚野の内部表現で知られているいくつかの顕著な統計的パターンについて考察する。
我々は、CNNと視覚野が、オブジェクト表現の次元展開/縮小と画像情報の再構成と、同様の密接な関係を持っていることを示す。
論文 参考訳(メタデータ) (2022-05-27T08:06:40Z) - Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。
本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。
ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
論文 参考訳(メタデータ) (2021-12-02T12:45:46Z) - Overcoming the Domain Gap in Contrastive Learning of Neural Action
Representations [60.47807856873544]
神経科学の基本的な目標は、神経活動と行動の関係を理解することである。
我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。
このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
論文 参考訳(メタデータ) (2021-11-29T15:27:51Z) - Seeing eye-to-eye? A comparison of object recognition performance in
humans and deep convolutional neural networks under image manipulation [0.0]
本研究では,ヒトとフィードフォワードニューラルネットワークの視覚コア物体認識性能の行動比較を目的とした。
精度分析の結果、人間はDCNNを全ての条件で上回るだけでなく、形状や色の変化に対する強い堅牢性も示している。
論文 参考訳(メタデータ) (2020-07-13T10:26:30Z) - Retinopathy of Prematurity Stage Diagnosis Using Object Segmentation and
Convolutional Neural Networks [68.96150598294072]
未熟児網膜症(英: Retinopathy of Prematurity、ROP)は、主に体重の低い未熟児に影響を及ぼす眼疾患である。
網膜の血管の増殖を招き、視力喪失を招き、最終的には網膜剥離を招き、失明を引き起こす。
近年,ディープラーニングを用いて診断を自動化する試みが盛んに行われている。
本稿では,従来のモデルの成功を基盤として,オブジェクトセグメンテーションと畳み込みニューラルネットワーク(CNN)を組み合わせた新しいアーキテクチャを開発する。
提案システムでは,まず対象分割モデルを訓練し,画素レベルでの区切り線を識別し,その結果のマスクを追加の"カラー"チャネルとして付加する。
論文 参考訳(メタデータ) (2020-04-03T14:07:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。