Fugu-MT 論文翻訳(概要): A Biologically Plausible Learning Rule for Perceptual Systems of organisms that Maximize Mutual Information

論文の概要: A Biologically Plausible Learning Rule for Perceptual Systems of organisms that Maximize Mutual Information

arxiv url: http://arxiv.org/abs/2109.13102v2
Date: Tue, 5 Oct 2021 04:50:49 GMT
ステータス: 処理完了
システム内更新日: 2021-10-10 16:37:13.050693
Title: A Biologically Plausible Learning Rule for Perceptual Systems of organisms that Maximize Mutual Information
Title（参考訳）: 相互情報を最大化する生物の知覚システムのための生物学的に妥当な学習規則
Authors: Tao Liu
Abstract要約: Infomaxの原理は、早期知覚処理の目的は、ニューラルコーディングと入ってくる知覚信号の間の相互情報を最大化することである。本稿では,この原理を局所的,スパイクベース,継続的な学習ルールを用いて正確に実装する手法を提案する。
参考スコア（独自算出の注目度）: 3.3472094301851847
License: http://creativecommons.org/licenses/by/4.0/
Abstract: It is widely believed that the perceptual system of an organism is optimized for the properties of the environment to which it is exposed. A specific instance of this principle known as the Infomax principle holds that the purpose of early perceptual processing is to maximize the mutual information between the neural coding and the incoming sensory signal. In this article, we present a method to implement this principle accurately with a local, spike-based, and continuous-time learning rule.
Abstract（参考訳）: 生物の知覚システムは、露出する環境の特性に最適化されていると広く信じられている。 Infomax原則として知られるこの原理の特定の例は、早期知覚処理の目的は、ニューラルコーディングと入ってくる知覚信号の相互情報を最大化することである。本稿では,この原理を局所的,スパイクベース,継続的な学習ルールを用いて正確に実装する手法を提案する。

関連論文リスト

Approximate information maximization for bandit games [1.5672115019395867]
本稿では,システム内のキー変数の情報ゲインに対する近似を最大化する新しい帯域幅アルゴリズムを提案する。経験的成功により,ガウス報酬を用いた二本腕バンディット問題に対する最適性を証明する。このアプローチはより複雑なバンディット設定に効率よく適応することができ、マルチアームバンディット問題に対する情報アプローチのさらなる調査を求めることができる。
論文参考訳（メタデータ） (2023-10-19T08:15:03Z)
The least-control principle for learning at equilibrium [65.2998274413952]
我々は、平衡反復ニューラルネットワーク、深層平衡モデル、メタラーニングを学ぶための新しい原理を提案する。私たちの結果は、脳がどのように学習するかを明らかにし、幅広い機械学習問題にアプローチする新しい方法を提供します。
論文参考訳（メタデータ） (2022-07-04T11:27:08Z)
Beyond accuracy: generalization properties of bio-plausible temporal credit assignment rules [6.484759857565598]
我々は,RNNのトレーニングにおける最先端の生物学的に有望な学習規則は,より悪く,より可変な一般化性能を示すことを示した。力学系の道具を用いて理論的な議論を導き、この現象を説明する定理を提示する。我々の分析は、人工的な学習ルールと生物学的に証明可能な学習ルールの間に、この一般化のギャップがある理由を初めて特定するものである。
論文参考訳（メタデータ） (2022-06-02T01:39:08Z)
Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。本稿では,関係データに対するKENNの拡張を提案する。
論文参考訳（メタデータ） (2022-05-31T13:00:34Z)
Stochastic Coherence Over Attention Trajectory For Continuous Learning In Video Streams [64.82800502603138]
本稿では,映像ストリーム中のピクセルワイズ表現を段階的かつ自律的に開発するための,ニューラルネットワークに基づく新しいアプローチを提案する。提案手法は, 参加者の入場地を観察することで, エージェントが学習できる, 人間の様の注意機構に基づく。実験では,3次元仮想環境を利用して,映像ストリームを観察することで,エージェントが物体の識別を学べることを示す。
論文参考訳（メタデータ） (2022-04-26T09:52:31Z)
Applications of the Free Energy Principle to Machine Learning and Neuroscience [0.0]
我々は、自由エネルギー原理にインスパイアされた手法を機械学習と神経科学の2つの重要な分野に適用する。我々は、自由エネルギー原理から派生した神経生物学的に妥当なプロセス理論である予測符号化に焦点を当てる。第2に、変動メッセージパッシングによる行動の神経生物学的根拠である能動推論について検討する。最後に, 生物学的に有効な脳内クレジット代入法について検討した。
論文参考訳（メタデータ） (2021-06-30T22:53:03Z)
Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
論文参考訳（メタデータ） (2021-06-15T05:30:17Z)
Copycat process in the early stages of einselection [0.0]
はじめに重ね合わせで量子系の特異な初期挙動を同定し記述する。この挙動は、システムがデコヒールし始めると起こるが、完全な選別の前に起こる。
論文参考訳（メタデータ） (2021-05-28T18:02:37Z)
Learning Structures for Deep Neural Networks [99.8331363309895]
我々は,情報理論に根ざし,計算神経科学に発達した効率的な符号化原理を採用することを提案する。スパース符号化は出力信号のエントロピーを効果的に最大化できることを示す。公開画像分類データセットを用いた実験により,提案アルゴリズムでスクラッチから学習した構造を用いて,最も優れた専門家設計構造に匹敵する分類精度が得られることを示した。
論文参考訳（メタデータ） (2021-05-27T12:27:24Z)
Evolution Is All You Need: Phylogenetic Augmentation for Contrastive Learning [1.7188280334580197]
生物配列埋め込みの自己監視型表現学習は、下流タスクにおける計算リソースの制約を緩和する。進化的系統的増補を用いた対比学習が表現学習の目的として利用できることを示す。
論文参考訳（メタデータ） (2020-12-25T01:35:06Z)
Focus of Attention Improves Information Transfer in Visual Features [80.22965663534556]
本稿では,真のオンライン環境下での視覚情報伝達のための教師なし学習に焦点を当てた。エントロピー項の計算は、エントロピー項のオンライン推定を行う時間的プロセスによって行われる。入力確率分布をよりよく構成するために,人間のような注目モデルを用いる。
論文参考訳（メタデータ） (2020-06-16T15:07:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。