論文の概要: How Finite Brains Generalize Without Bound: Spatial Memory as a Universal Computer

• arxiv url: http://arxiv.org/abs/2611.07920v1
• Date: Thu, 05 Nov 2026 12:30:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.67982
• Title: How Finite Brains Generalize Without Bound: Spatial Memory as a Universal Computer
• Title（参考訳）: 境界のない脳の一般化:ユニバーサルコンピュータとしての空間記憶
• Abstract要約: 小さな数字を追加することを学ぶ子供は、任意の長さの数字を追加します。 短いシーケンスでトレーニングされたLSTMとTransformerは、長いシーケンスでは失敗する。 その違いは、学習者が判断した時に何を読むかに遡る。
• 参考スコア（独自算出の注目度）: 32.67337078250457
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A child who learns to add small numbers adds numbers of any length. LSTMs and Transformers trained on short sequences fail on longer ones. We trace the difference to what a learner reads when it decides. A position, a count or a time keeps taking new values as the input grows: it is a coordinate, and a learner that reads one meets in every long input values its experience never covered. Whether two things are the same has the same two answers at every size: it is a coincidence, and a learner that reads only coincidences finds in a long input nothing that short inputs lacked, so finite experience fixes its rule for every size. The memory carries the size of the input and the rule stays finite, and this determines the memory a generalizing brain can have: a memory that grows while what the learner reads of it stays finite has to look the same from every place, so it is made of cycles, and the past is reached by asking what happened when the cycles last stood where they stand now. The cycles are the grid modules, the cells that detect their return the place cells, the records the hippocampal index; a prefrontal controller moves the cycles and never sees them. Reading only coincidences costs no power: what finite experience fixes in such a learner is what Turing machines compute in step with their input, which is why a circuit that evolved to find the way home can learn arithmetic and grammar. In a network of neurons this machine of cycles is the dynamics seen through its symmetry, and symbols are its invariants. Trained on strings up to 40 symbols, the machine is at least 99% correct, on average over lengths 41 to 500, on nine of fifteen benchmark tasks, five of them tasks that no LSTM or Transformer solves; given new cycles after training it reverses strings of 15,015 symbols without error and fails beyond that on the curve the theory predicts; and its controllers run unchanged on neurons.
• Abstract（参考訳）: 小さな数字を追加することを学ぶ子供は、任意の長さの数字を追加します。 短いシーケンスでトレーニングされたLSTMとTransformerは、長いシーケンスでは失敗する。 その違いは、学習者が判断した時に何を読むかに遡る。 位置、カウント、タイムは、入力が大きくなるにつれて新しい値を取り続けます。それは座標であり、学習者は、その経験が決してカバーされない長い入力値ごとに、その値を読み取る。 偶然であり、偶然のみを読み取る学習者は、短い入力が不足しているような長い入力で何も見つからないので、有限な経験はすべてのサイズでそのルールを修正します。 記憶は入力のサイズを持ち、規則は有限であり、これは一般化された脳が持つことができる記憶を決定づける: 学習者がそれを読み取りながら成長する記憶は、すべての場所から同じように見える。 サイクルはグリッドモジュール、位置細胞を検知する細胞、海馬の指標を記録する。 このような学習者における有限体験の修正は、チューリングマシンが入力で段階的に計算したものであり、家庭で算術や文法を学ぶ方法を見つけるために進化した回路である。 ニューロンのネットワークでは、このサイクルの機械はその対称性を通して見られるダイナミックスであり、シンボルはその不変量である。 最大40個のシンボルで訓練されたこの機械は、平均して99%の正確さで、平均41から500のベンチマークタスクで、LSTMやTransformerが解決しないタスクのうち5つは、LSTMやTransformerが解決する。

関連論文リスト

• How Temporal Correlations Shape Memory in Linear Recurrent Neural Networks [0.0]
  トレーニング中にネットワークがどれだけのメモリを蓄積するかを研究する。 非相関的な入力については、トレーニング自体が過去を維持し、現在にのみ反応するネットワークを落ち着かせることが初期の研究で判明した。 私たちの研究は、入力の1つの特性を、ネットワークがメモリを学習するかどうかの予測に変換する。
  論文  参考訳（メタデータ） (2026-08-31T21:57:51Z)
• A Neuromorphic Model of Learning Meaningful Sequences with Long-Term Memory [0.6875312133832078]
  慣れ親しんだ状況下での新規配列の学習について検討する。 SWOW-ENの存在下では、意味のある文の学習とランダムノイズとの速度の差は明らかである。
  論文  参考訳（メタデータ） (2025-09-16T09:08:20Z)
• Autonomous Learning with High-Dimensional Computing Architecture Similar to von Neumann's [0.0]
  我々は高次元ベクトルによる計算による人間と動物の学習をモデル化する(例:H = 10,000)。 このアーキテクチャは、数を持つ伝統的な(フォン・ノイマン)計算に似ているが、命令はベクトルを参照し、重ね合わせでそれらを操作する。 データから学習するモデルの能力は、深層学習を連想させるが、生物学に近いアーキテクチャを持つ。
  論文  参考訳（メタデータ） (2025-03-30T22:20:08Z)
• Memoria: Resolving Fateful Forgetting Problem through Human-Inspired Memory Architecture [5.9360953869782325]
  本稿では,人工ニューラルネットワークのメモリシステムであるMemoriaを紹介する。 その結果, 分類, 言語モデリング, 分類の多様なタスクにおいて, Memoriaの有効性が証明された。 エングラム分析により、記憶は人間の記憶の特徴である優位性、傾向、時間的連続効果を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2023-10-04T09:40:46Z)
• Token Turing Machines [53.22971546637947]
  Token Turing Machines (TTM) はシーケンシャルな自己回帰型トランスフォーマーモデルである。 我々のモデルは、セミナルなニューラルチューリングマシンにインスパイアされ、以前の履歴を要約するトークンの集合からなる外部メモリを持つ。
  論文  参考訳（メタデータ） (2022-11-16T18:59:18Z)
• Learning to Rehearse in Long Sequence Memorization [107.14601197043308]
  既存の推論タスクは、しばしば、推論中に入力内容が常にアクセス可能であるという重要な仮定を持つ。 メモリ拡張ニューラルネットワークは、人間のような書き込み読み取りメモリを導入し、1回のパスで長い入力シーケンスを圧縮し記憶する。 しかし、2つの重大な欠点がある: 1) メモリを現在の情報から継続的に更新し、必然的に初期の内容を忘れる; 2) 重要な情報を区別せず、全てのコンテンツを平等に扱う。 本稿では,履歴サンプリング装置を用いた自己教師型リハーサルによる長期記憶向上のためのリハーサルメモリを提案する。
  論文  参考訳（メタデータ） (2021-06-02T11:58:30Z)
• Continual Learning in Low-rank Orthogonal Subspaces [86.36417214618575]
  連続学習(CL)では、学習者は一連のタスクに直面して次々に到着し、学習経験が終わるとすべてのタスクを覚えることが目的である。 CLの以前の技術は、タスク間の干渉を減らすためにエピソードメモリ、パラメータ正規化、ネットワーク構造を使用していたが、最終的には、全てのアプローチが共同ベクトル空間で異なるタスクを学習する。 干渉を最小限に抑えるために互いに直交する異なる(低ランクな)ベクトル部分空間でタスクを学習することを提案する。
  論文  参考訳（メタデータ） (2020-10-22T12:07:43Z)
• Neurocoder: Learning General-Purpose Computation Using Stored Neural Programs [64.56890245622822]
  ニューロコーダ(Neurocoder)は、汎用計算機の全く新しいクラスである。 共有可能なモジュール型プログラムのセットから関連するプログラムを構成することで、データ応答性のある方法で“コード”を行う。 モジュールプログラムを学習し、パターンシフトを厳しく処理し、新しいプログラムが学習されると、古いプログラムを記憶する新しい能力を示す。
  論文  参考訳（メタデータ） (2020-09-24T01:39:16Z)
• Online Memorization of Random Firing Sequences by a Recurrent Neural Network [12.944868613449218]
  学習/記憶の2つのモードが考慮されている: 1つ目のモードは厳密にオンラインであり、1つのモードがデータを通過する一方、2番目のモードはデータを通る複数のパスを使用する。 どちらのモードでも、学習は厳密な局所的(準ヘビアン):任意の段階において、前段階のニューロンの発火(または発火)と現在の段階の発火(または発火)の間の重みだけを変更する。
  論文  参考訳（メタデータ） (2020-01-09T11:02:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。