論文の概要: Brain-like representational straightening of natural movies in robust feedforward neural networks

• arxiv url: http://arxiv.org/abs/2308.13870v1
• Date: Sat, 26 Aug 2023 13:04:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-29 18:25:08.355795
• Title: Brain-like representational straightening of natural movies in robust feedforward neural networks
• Title（参考訳）: 頑健なフィードフォワードニューラルネットワークにおける自然映画の脳様表現的直線化
• Authors: Tahereh Toosi and Elias B. Issa
• Abstract要約: 表現の直線化(Representational straightening)とは、自然映画から撮影された一連のフレームの視覚的特徴表現の曲率を減少させることである。 入力画像中の雑音に対するロバスト性は、フィードフォワードニューラルネットワークにおいて表現的ストレート化をもたらす。
• 参考スコア（独自算出の注目度）: 2.8749107965043286
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Representational straightening refers to a decrease in curvature of visual feature representations of a sequence of frames taken from natural movies. Prior work established straightening in neural representations of the primate primary visual cortex (V1) and perceptual straightening in human behavior as a hallmark of biological vision in contrast to artificial feedforward neural networks which did not demonstrate this phenomenon as they were not explicitly optimized to produce temporally predictable movie representations. Here, we show robustness to noise in the input image can produce representational straightening in feedforward neural networks. Both adversarial training (AT) and base classifiers for Random Smoothing (RS) induced remarkably straightened feature codes. Demonstrating their utility within the domain of natural movies, these codes could be inverted to generate intervening movie frames by linear interpolation in the feature space even though they were not trained on these trajectories. Demonstrating their biological utility, we found that AT and RS training improved predictions of neural data in primate V1 over baseline models providing a parsimonious, bio-plausible mechanism -- noise in the sensory input stages -- for generating representations in early visual cortex. Finally, we compared the geometric properties of frame representations in these networks to better understand how they produced representations that mimicked the straightening phenomenon from biology. Overall, this work elucidating emergent properties of robust neural networks demonstrates that it is not necessary to utilize predictive objectives or train directly on natural movie statistics to achieve models supporting straightened movie representations similar to human perception that also predict V1 neural responses.
• Abstract（参考訳）: 表現的直線化(representational straightening)とは、自然映画から取られた一連のフレームの視覚的特徴表現の曲率の低下を指す。 以前の研究は、霊長類一次視覚野(V1)の神経表現においてストレートニングを確立し、人間の行動における知覚的ストレートニングは、この現象が時間的に予測可能な映画表現に明示的に最適化されていないことを示さなかった人工フィードフォワードニューラルネットワークとは対照的に生物学的ビジョンの指標として確立した。 ここでは,入力画像中の雑音に対する頑健さが,フィードフォワードニューラルネットワークにおける表現的ストレート化をもたらすことを示す。 対人訓練(AT)とランダム平滑化(RS)のための基本分類器の両方が、著しく直線化された特徴符号を誘導した。 自然映画の領域内での実用性を実証し、これらの符号は、これらの軌道で訓練されていなくても、特徴空間における線形補間によって干渉する映画フレームを生成するために逆転することができる。 その生物学的有用性を実証し、ATとRSのトレーニングによって、初期視覚野の表現を生成するために、準同型で生体工学的なメカニズム(感覚入力段階のノイズ)を提供するベースラインモデルよりも、霊長類V1の神経データの予測が改善されたことを発見した。 最後に、これらのネットワークにおけるフレーム表現の幾何学的性質を比較して、生物学の直交現象を模倣した表現をいかに生み出したかをよりよく理解した。 全体として、ロバストなニューラルネットワークの創発的特性を明らかにするこの研究は、v1の神経反応を予測する人間の知覚に似た直線化された映画表現をサポートするモデルを実現するために、予測目標や自然映画統計を直接訓練する必要はないことを証明している。

関連論文リスト

• Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
  本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。 まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。 我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
  論文  参考訳（メタデータ） (2025-02-03T20:30:46Z)
• Learning predictable and robust neural representations by straightening image sequences [16.504807843249196]
  我々は、ストレートニングを明確に定量化し、促進する自己教師型学習(SSL)の目標を開発する。 本研究では、この目的が、スムーズにレンダリングされた合成画像シーケンス上で、ディープフィードフォワードニューラルネットワークをトレーニングする際の効果を実証する。
  論文  参考訳（メタデータ） (2024-11-04T03:58:09Z)
• Long-Range Feedback Spiking Network Captures Dynamic and Static Representations of the Visual Cortex under Movie Stimuli [25.454851828755054]
  視覚野が、文脈に富む情報を含む自然の映画刺激をどのように表現するかについては、限られた知見がある。 本研究では、大脳皮質領域間のトップダウン接続を模倣した長距離フィードバックスパイクネットワーク(LoRaFB-SNet)を提案する。 本稿では,マウスのモデル表現と視覚皮質表現の類似性を測定するために,時系列表現類似性分析(TSRSA)を提案する。
  論文  参考訳（メタデータ） (2023-06-02T08:25:58Z)
• A polar prediction model for learning to represent visual transformations [10.857320773825357]
  本稿では,自然映像の規則性を利用して正確な予測を行う自己教師付き表現学習フレームワークを提案する。 自然なビデオデータセットをトレーニングすると、従来の動き補償よりも優れた予測性能が得られる。 我々のフレームワークは、視覚システムが時間的予測を単純化する形で感覚入力をどのように表現するかを理解するための、原則化されたフレームワークを提供する。
  論文  参考訳（メタデータ） (2023-03-06T19:00:59Z)
• Adapting Brain-Like Neural Networks for Modeling Cortical Visual Prostheses [68.96380145211093]
  皮質補綴は視覚野に移植された装置で、電気的にニューロンを刺激することで失った視力を回復しようとする。 現在、これらのデバイスが提供する視覚は限られており、刺激による視覚知覚を正確に予測することはオープンな課題である。 我々は、視覚システムの有望なモデルとして登場した「脳様」畳み込みニューラルネットワーク(CNN)を活用することで、この問題に対処することを提案する。
  論文  参考訳（メタデータ） (2022-09-27T17:33:19Z)
• Neural Implicit Representations for Physical Parameter Inference from a Single Video [49.766574469284485]
  本稿では,外見モデルのためのニューラル暗黙表現と,物理現象をモデル化するためのニューラル常微分方程式(ODE)を組み合わせることを提案する。 提案モデルでは,大規模なトレーニングデータセットを必要とする既存のアプローチとは対照的に,単一のビデオから物理的パラメータを識別することが可能になる。 ニューラル暗示表現を使用することで、高解像度ビデオの処理とフォトリアリスティック画像の合成が可能になる。
  論文  参考訳（メタデータ） (2022-04-29T11:55:35Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Learning Personal Representations from fMRIby Predicting Neurofeedback Performance [52.77024349608834]
  機能的MRI(fMRI)によって導かれる自己神経変調タスクを行う個人のための個人表現を学習するためのディープニューラルネットワーク手法を提案する。 この表現は、直近のfMRIフレームが与えられた次のfMRIフレームにおける扁桃体活動を予測する自己教師型リカレントニューラルネットワークによって学習され、学習された個々の表現に条件付けされる。
  論文  参考訳（メタデータ） (2021-12-06T10:16:54Z)
• Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
  神経科学の基本的な目標は、神経活動と行動の関係を理解することである。 我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。 このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
  論文  参考訳（メタデータ） (2021-11-29T15:27:51Z)
• Drop, Swap, and Generate: A Self-Supervised Approach for Generating Neural Activity [33.06823702945747]
  我々はSwap-VAEと呼ばれる神経活動の不整合表現を学習するための新しい教師なしアプローチを導入する。 このアプローチは、生成モデリングフレームワークとインスタンス固有のアライメント損失を組み合わせたものです。 我々は、行動に関連付けられた関連する潜在次元に沿って、ニューラルネットワークをアンタングルする表現を構築することが可能であることを示す。
  論文  参考訳（メタデータ） (2021-11-03T16:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。