論文の概要: Measuring Robustness and Efficiency in a Connectome-Constrained Fly Visual System Model: Linking an Adversarial and a Perceptual Illusion
- arxiv url: http://arxiv.org/abs/2611.14498v2
- Date: Wed, 11 Nov 2026 10:04:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.916537
- Title: Measuring Robustness and Efficiency in a Connectome-Constrained Fly Visual System Model: Linking an Adversarial and a Perceptual Illusion
- Title(参考訳): コネクトーム制約型フライ・ヴィジュアル・システムにおけるロバストネスと効率の測定--対角線と知覚的イリュージョンをリンクして-
- Abstract要約: 我々は,そのシナプスコネクトーム(FlyNet)によって制約されたハエ視覚系のタスク最適化連続時間リカレントニューラルネットワークを,人工ニューラルネットワークに対してベンチマークする。
FlyNetは逆の脆弱性があるが、その計算に比べて、人工知能ニューラルネットワークよりも一般的なビデオの破損に対して堅牢である。
- 参考スコア(独自算出の注目度): 97.51538234290761
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Biological visual systems compute reliably under tight metabolic and wiring constraints, whereas artificial vision systems consume far more energy and can be sensitive to adversarial perturbations. Whether networks with brain-like wiring are more robust at lower computational cost is unclear. We address this by benchmarking a task-optimized, continuous-time recurrent neural network of the fly visual system constrained by its synaptic connectome (FlyNet) against artificial neural networks. We compare it against CNNs, RAFT, and continuous-time recurrent neural networks without detailed connectome constraints (sCTRNN, CTRNN) on a collision-detection task within a differentiable 3D rendering pipeline. FlyNet is adversarially vulnerable but, relative to its compute, more robust to common video corruptions than RAFT, while using up to five orders of magnitude fewer FLOPs. The CTRNNs remain more robust than FlyNet across almost all tested perturbations, suggesting that connectome constraints benefit efficiency, through their low edge count, over robustness. Recurrence improves robustness to white-box attacks in RAFT and temporal context improves robustness to common corruptions. FlyNet's position and velocity representations degrade under adversarial textures but recover under counterfactual textures that restore correct classification while staying equally far from training, ruling out unfamiliar textures as the cause of failure. The reverse-phi illusion similarly disrupts these representations and inverts the same low-level motion statistic as the adversarial textures. Optimizing this input statistic alone, without access to the network, suffices to induce classification failure, attributing both perturbations to the same circuit vulnerability. Connectome-constrained models can thus surface adversarial failure mechanisms as testable hypotheses about biological perceptual vulnerabilities.
- Abstract(参考訳): 生物学的視覚システムは、厳密な代謝と配線の制約の下で確実に計算するが、人工視覚システムははるかに多くのエネルギーを消費し、敵の摂動に敏感である。
脳のような配線を持つネットワークが低い計算コストでより堅牢であるかどうかは不明だ。
我々は,そのシナプスコネクトーム(FlyNet)によって制約されたハエ視覚系のタスク最適化された連続時間リカレントニューラルネットワークを,人工ニューラルネットワークに対してベンチマークすることで,この問題に対処する。
我々は、CNN、RAFT、連続時間リカレントニューラルネットワークに対して、複雑なコネクトーム制約(sCTRNN、CTRNN)を、微分可能な3Dレンダリングパイプライン内の衝突検出タスクで比較する。
FlyNetは逆の脆弱性があるが、その計算と比較して、RAFTよりも一般的なビデオの破損に対して堅牢であり、FLOPは最大5桁も少ない。
CTRNNは、ほとんど全てのテストされた摂動に対してFlyNetよりも堅牢であり、コネクトームの制約は、低エッジ数、ロバスト性を通じて効率性に恩恵をもたらすことを示唆している。
再帰性はRAFTにおけるホワイトボックス攻撃に対するロバスト性を改善し、時間的文脈は共通の腐敗に対するロバスト性を改善する。
FlyNetの位置と速度の表現は、敵のテクスチャの下で低下するが、偽のテクスチャの下で回復し、トレーニングから等しく離れたまま正しい分類を復元し、不慣れなテクスチャを失敗の原因として除外する。
逆フィイリュージョンも同様にこれらの表現を乱し、敵のテクスチャと同じ低レベルな動き統計を逆転させる。
この入力統計量だけを最適化し、ネットワークにアクセスすることなく、分類障害を引き起こすのに十分であり、両方の摂動は同じ回路脆弱性に起因する。
そのため、コネクトームに制約されたモデルは、生物学的知覚の脆弱性に関する検証可能な仮説として、敵対的障害機構を表面化することができる。
関連論文リスト
- Towards Adversarially Robust Multigraph Neural Networks for Financial Crime Analysis [3.572952868431779]
本稿では,マルチグラフニューラルネットワークの構造的攻撃と対角トレーニングのためのフレームワークを提案する。
合成パターン検出と現実的なAMLデータセットの実験は、学習した攻撃が学習不能な摂動を著しく上回っていることを示している。
これらの結果は、マルチグラフニューラルネットワークが学習した構造的攻撃に対して脆弱であり、敵の訓練が効果的な防御を提供することを示す。
論文 参考訳(メタデータ) (2026-10-22T08:12:55Z) - A Comparative Study of Adversarial Robustness in CNN and CNN-ANFIS Architectures [0.0]
畳み込みニューラルネットワーク(CNN)は画像分類性能は高いが、解釈性に欠け、敵攻撃に弱い。
DCNFISのようなニューロファジィハイブリッドは、完全に接続されたCNN分類器をアダプティブ・ニューロファジィ推論システム(ANFIS)に置き換え、解釈性を改善する。
この研究は、標準のCNNと、MNIST、Fashion-MNIST、CIFAR-10、CIFAR-100のANFISで強化されたものとを比較した。
以上の結果から,ANFIS統合はクリーンな精度を常に向上せず,ロバスト性にアーキテクチャ依存的な影響があることが示唆された。
論文 参考訳(メタデータ) (2026-02-02T20:13:45Z) - Sensory robustness through top-down feedback and neural stochasticity in recurrent vision models [0.9188951403098383]
我々は、トップダウンフィードバックプロジェクションの有無のイメージ分類について、畳み込みリカレントニューラルネットワーク(ConvRNN)を訓練した。
トップダウンフィードバックを持つConvRNNは、ノイズの摂動や敵の攻撃に対して、顕著な速度精度のトレードオフと堅牢性を示した。
論文 参考訳(メタデータ) (2025-08-09T22:51:50Z) - A Tunable Despeckling Neural Network Stabilized via Diffusion Equation [15.996302571895045]
ニューラルネットワークの実際のデータへの適応性を判断するための基準として、Adrialversa攻撃を用いることができる。
本稿では,ニューラルネットワークブロックと拡散正則性ブロックを1つのネットワークにアンロールしてエンドツーエンドのトレーニングを行う,チューニング可能な正規化ニューラルネットワークフレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-24T17:08:43Z) - A Learning Convolutional Neural Network Approach for Network Robustness
Prediction [13.742495880357493]
ネットワークの堅牢性は、様々な社会的・産業的ネットワークにとって再び悪意ある攻撃にとって重要である。
本稿では,畳み込みニューラルネットワーク(LFR-CNN)を用いた学習特徴表現に基づくネットワークロバスト性予測の改良手法を提案する。
このスキームでは、高次元のネットワークデータを低次元の表現に圧縮し、CNNに渡してロバストネス予測を行う。
論文 参考訳(メタデータ) (2022-03-20T13:45:55Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳(メタデータ) (2021-08-16T03:58:00Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z) - Extreme Value Preserving Networks [65.2037926048262]
最近の証拠は、畳み込みニューラルネットワーク(CNN)がテクスチャに偏りがあることを示しており、CNNはテクスチャに逆らう摂動に対して損なわれない。
本稿では,SIFTの優れた特性を活用してCNNアーキテクチャを改良し,精度と堅牢性を向上させることを目的とする。
論文 参考訳(メタデータ) (2020-11-17T02:06:52Z) - Neural Networks with Recurrent Generative Feedback [61.90658210112138]
畳み込みニューラルネットワーク(CNN)でこの設計をインスタンス化する
実験では、標準ベンチマーク上の従来のフィードフォワードCNNに対して、CNN-Fは敵のロバスト性を大幅に改善した。
論文 参考訳(メタデータ) (2020-07-17T19:32:48Z) - Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。
実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。
以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
論文 参考訳(メタデータ) (2020-04-30T19:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。