論文の概要: Brain-like Flexible Visual Inference by Harnessing Feedback-Feedforward Alignment

• arxiv url: http://arxiv.org/abs/2310.20599v1
• Date: Tue, 31 Oct 2023 16:35:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-01 14:18:47.815823
• Title: Brain-like Flexible Visual Inference by Harnessing Feedback-Feedforward Alignment
• Title（参考訳）: フィードバックフィードアライメントを用いた脳様フレキシブル視覚推定
• Authors: Tahereh Toosi and Elias B. Issa
• Abstract要約: 自然視では、フィードバック接続は万能な視覚推論機能をサポートする。 本稿では,フィードバックとフィードフォワード経路を相互信頼割当計算グラフとして活用する学習アルゴリズムであるFeedback-Feedforward Alignment(FFA)を紹介する。 本研究では,広く使用されているMNISTデータセットとCIFAR10データセットに対する分類と再構成タスクの協調最適化におけるFFAの有効性を示す。
• 参考スコア（独自算出の注目度）: 2.8749107965043286
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In natural vision, feedback connections support versatile visual inference capabilities such as making sense of the occluded or noisy bottom-up sensory information or mediating pure top-down processes such as imagination. However, the mechanisms by which the feedback pathway learns to give rise to these capabilities flexibly are not clear. We propose that top-down effects emerge through alignment between feedforward and feedback pathways, each optimizing its own objectives. To achieve this co-optimization, we introduce Feedback-Feedforward Alignment (FFA), a learning algorithm that leverages feedback and feedforward pathways as mutual credit assignment computational graphs, enabling alignment. In our study, we demonstrate the effectiveness of FFA in co-optimizing classification and reconstruction tasks on widely used MNIST and CIFAR10 datasets. Notably, the alignment mechanism in FFA endows feedback connections with emergent visual inference functions, including denoising, resolving occlusions, hallucination, and imagination. Moreover, FFA offers bio-plausibility compared to traditional backpropagation (BP) methods in implementation. By repurposing the computational graph of credit assignment into a goal-driven feedback pathway, FFA alleviates weight transport problems encountered in BP, enhancing the bio-plausibility of the learning algorithm. Our study presents FFA as a promising proof-of-concept for the mechanisms underlying how feedback connections in the visual cortex support flexible visual functions. This work also contributes to the broader field of visual inference underlying perceptual phenomena and has implications for developing more biologically inspired learning algorithms.
• Abstract（参考訳）: 自然な視覚では、フィードバック接続は、目立たない、またはうるさいボトムアップの感覚情報を理解したり、イマジネーションのような純粋なトップダウンプロセスを仲介するなど、多彩な視覚推論機能をサポートする。 しかし、フィードバック経路がこれらの能力を柔軟に生み出すことを学習するメカニズムは明確ではない。 フィードフォワードとフィードバック経路のアライメントによってトップダウン効果が出現し,それぞれが目的を最適化する。 この協調最適化を実現するために,フィードバックとフィードフォワード経路を相互信頼割当計算グラフとして活用し,アライメントを可能にする学習アルゴリズムであるFeedback-Feedforward Alignment (FFA)を導入する。 本研究では,広く使用されているMNISTおよびCIFAR10データセットに対する分類と再構成タスクの協調最適化におけるFFAの有効性を示す。 特に、ffaのアライメント機構は、幻覚、咬合解消、幻覚、想像など、創発的な視覚推論機能との接続をフィードバックする。 さらに、FFAは、実装における従来のバックプロパゲーション(BP)手法と比較して、生物の楽観性を提供する。 ffaは、クレジット割り当ての計算グラフを目標駆動フィードバック経路に再提案することにより、bpで遭遇する重み輸送問題を軽減し、学習アルゴリズムの生体適合性を高める。 本研究は、視覚野のフィードバック接続がフレキシブル視覚機能をサポートするメカニズムの実証として、FFAを有望な概念実証として提示する。 この研究は、知覚現象に基づく視覚的推論の幅広い分野にも貢献し、より生物学的にインスピレーションを受けた学習アルゴリズムの開発に影響を及ぼす。

関連論文リスト

• Enhancing Graph Contrastive Learning with Reliable and Informative Augmentation for Recommendation [84.45144851024257]
  CoGCLは、離散コードを通じてより強力な協調情報でコントラスト的なビューを構築することで、グラフのコントラスト学習を強化することを目的としている。 ユーザとアイテムの表現を離散コードに定量化するために,マルチレベルベクトル量化器をエンドツーエンドで導入する。 近傍構造に対しては,離散符号を仮想隣人として扱うことにより,仮想隣人拡張を提案する。 意味的関連性については、共有された離散コードと相互作用ターゲットに基づいて類似のユーザ/イテムを識別し、意味的関連性のあるビューを生成する。
  論文  参考訳（メタデータ） (2024-09-09T14:04:17Z)
• Visual Neural Decoding via Improved Visual-EEG Semantic Consistency [3.4061238650474657]
  EEG機能をCLIP埋め込みスペースに直接マッピングするメソッドは、マッピングバイアスを導入し、セマンティックな矛盾を引き起こす可能性がある。 最適アライメントを容易にするために,これらの2つのモードのセマンティックな特徴を明示的に抽出する Visual-EEG Semantic Decouple Framework を提案する。 提案手法は,ゼロショットニューラルデコードタスクの最先端化を実現する。
  論文  参考訳（メタデータ） (2024-08-13T10:16:10Z)
• The Predictive Forward-Forward Algorithm [79.07468367923619]
  本稿では,ニューラルネットワークにおける信頼割当を行うための予測フォワード(PFF)アルゴリズムを提案する。 我々は,有向生成回路と表現回路を同時に同時に学習する,新しい動的リカレントニューラルネットワークを設計する。 PFFは効率よく学習し、学習信号を伝達し、フォワードパスのみでシナプスを更新する。
  論文  参考訳（メタデータ） (2023-01-04T05:34:48Z)
• Minimizing Control for Credit Assignment with Strong Feedback [65.59995261310529]
  ディープニューラルネットワークにおける勾配に基づくクレジット割り当ての現在の手法は、無限小のフィードバック信号を必要とする。 我々は、神経活動に対する強いフィードバックと勾配に基づく学習を組み合わせることで、ニューラルネットワークの最適化に関する新たな視点を自然に導き出すことを示す。 DFCにおける強いフィードバックを用いることで、空間と時間において完全に局所的な学習規則を用いることで、前向きとフィードバックの接続を同時に学習できることを示す。
  論文  参考訳（メタデータ） (2022-04-14T22:06:21Z)
• Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
  本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。 我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T12:52:45Z)
• Self-Regulated Learning for Egocentric Video Activity Anticipation [147.9783215348252]
  自己制御学習(SRL)は、中間表現を連続的に制御し、現在のタイムスタンプのフレームにおける新しい情報を強調する表現を作り出すことを目的としている。 SRLは2つのエゴセントリックなビデオデータセットと2つの第三者のビデオデータセットにおいて、既存の最先端技術よりも大幅に優れています。
  論文  参考訳（メタデータ） (2021-11-23T03:29:18Z)
• Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
  本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。 畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。 この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
  論文  参考訳（メタデータ） (2021-08-03T19:24:25Z)
• On the role of feedback in visual processing: a predictive coding perspective [0.6193838300896449]
  我々は、フィードフォワード視覚処理のモデルとして深層畳み込みネットワーク(CNN)を検討し、予測符号化(PC)ダイナミクスを実装した。 ノイズレベルが増加するにつれて、ネットワークはますますトップダウンの予測に依存している。 さらに,PCダイナミクスを実装するネットワークの精度は,等価なフォワードネットワークに比べて時間経過とともに著しく向上する。
  論文  参考訳（メタデータ） (2021-06-08T10:07:23Z)
• Relational Deep Feature Learning for Heterogeneous Face Recognition [17.494718795454055]
  一般的な顔の特徴に加えて,グローバルな関係情報を抽出するグラフモジュール (Graph Module, NIR) を提案する。 提案手法は,5つの異種顔認識(HFR)データベースにおいて,他の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-02T07:35:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。