論文の概要: The Giant Hippocampus: From Structural Monoculture to a System of Systems

• arxiv url: http://arxiv.org/abs/2607.19973v1
• Date: Wed, 22 Jul 2026 09:55:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-23 18:51:38.051937
• Title: The Giant Hippocampus: From Structural Monoculture to a System of Systems
• Title（参考訳）: 巨大海馬 : 構造的モノカルチャーからシステムシステムへ
• Abstract要約: AIの研究者たちは、最先端のモデルを、大規模に繰り返される1つのものだ、と説明している。 神経科学者は、この皮質を、空間的エンコーディングのための視覚野のモザイク層4、時間的統合のための運動野の厚い層5/6と表現している。 本稿では, このギャップは構造的誤差であって, 構造的誤差ではなく, 測定可能であることを論じる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI researchers describe state-of-the-art models as one thing repeated at scale: the Transformer, wired identically for text, pixels, or speech. Neuroscientists describe the cortex as a mosaic - dense Layer 4 in visual cortex for spatial encoding, thick Layers 5/6 in motion cortex for temporal integration - different jobs solved by different structures. This paper argues the gap is a structural error, not a stylistic one, and is measurable. A century of cytoarchitecture, from Brodmann to single-cell Patch-seq, shows distinct cognitive functions are implemented by qualitatively different structures, not by rescaling one template. The convolutional neural network is the field's own proof: local receptive fields and hierarchical depth encoded this prior directly, reaching strong image recognition on far less data than later architectures needed. The paper traces how this lesson was discarded: the "Hardware Lottery" made the Transformer the path of least resistance, not the principled choice, and Mixture-of-Experts, often cited as diversity, in fact partitions parameters among identical experts. A functionalist analysis shows the Transformer is best understood as a functional analog of the hippocampal formation, not a general-purpose cortex - the same mistake as treating cortex as one giant Broca's area, except the field has now standardized on a giant hippocampus, applied to tasks it was never built for: audition, executive gating, working memory. The paper closes with an alternative: a Heterogeneous Topological Network, a System of Systems in which distinct modules keep the inductive bias their computation demands and communicate through standardized interfaces. This is a design discipline for AI architects, not cognitive science: specify modularity before training, using structural evidence as a design input rather than reverse-engineering architecture from a trained model's behavior.
• Abstract（参考訳）: AIの研究者たちは、最先端のモデルを、大規模に繰り返される1つのものだ、と説明している。 神経科学者は、この皮質を、空間的エンコーディングのための視覚野のモザイク層4、時間的統合のための運動野の厚い層5/6、異なる構造によって解決された異なるジョブと表現している。 本稿では, このギャップは構造的誤差であって, 構造的誤差ではなく, 測定可能であることを論じる。 ブロッドマンから単細胞Patch-seqまでの1世紀の細胞構造学は、あるテンプレートを再スケーリングするのではなく、定性的に異なる構造によって異なる認知機能が実装されていることを示している。 畳み込みニューラルネットワークは、フィールド自身の証明である: 局所受容場と階層的な深さが、これ以前に直接コード化され、後のアーキテクチャよりもはるかに少ないデータで強力な画像認識に到達した。 ハードウェア・ロッテリー (Hardware Lottery) はトランスフォーマーを、原則的選択ではなく最小抵抗の経路とし、ミックスチャー・オブ・エクスプターズ (Mixture-of-Experts) は、しばしば多様性として言及され、実際には同一の専門家の間でパラメータを分割した。 機能主義的な分析によると、トランスフォーマーは一般的な目的の大脳皮質ではなく、海馬形成の機能的類似物として理解されている。 異種トポロジカルネットワーク(英: Heterogeneous Topological Network)とは、異なるモジュールが計算要求の帰納的バイアスを保ち、標準化されたインターフェースを介して通信するシステムである。 これは、認知科学ではなく、AIアーキテクトのための設計規律である。トレーニング前のモジュラリティを、トレーニングされたモデルの振る舞いからアーキテクチャをリバースエンジニアリングするのではなく、設計インプットとして構造的エビデンスを用いて指定する。

関連論文リスト

• Another Blueprint In The Wall: How to Ask Frontier AI Like a Kid? [0.16921396880325779]
  本稿では,OpenAI, Anthropic, xAI, Google DeepMindの6つのフロンティアモデルに対して実験を行った。 モデルタイプ毎に10の独立したセッションが同じ3段階のプロンプトシーケンスを使用しており、アーキテクチャ上の好みから完全なASCIIバックボーンへと進化した。 ほとんどの車両はこの共通構造に近いままであり、少数の車両は工学的な特異性を大きく向上させた。
  論文  参考訳（メタデータ） (2026-09-13T21:32:35Z)
• An expressivity analysis of hierarchical modelling in deep transformers via bounded-depth grammars [54.11540943172608]
  ディープニューラルネットワークは、その表現力は、テクスブ階層的表現を形成する能力から導かれると広く信じられている。 言語モデリングでは、textbftransformerが支配的なアーキテクチャとして登場し、初期のレイヤはローカルの構文パターンをキャプチャし、後のレイヤはより複雑な節レベルの依存関係をコードしている。 これらのアーキテクチャは、抽象文法状態が残留ストリーム内の低次元の線形分離可能部分空間に符号化される構造的能力を持っていると論じる。
  論文  参考訳（メタデータ） (2026-06-16T05:02:13Z)
• The Missing Knowledge Layer in Cognitive Architectures for AI Agents [0.0]
  AIエージェントのための最も影響力のある2つの認知アーキテクチャフレームワーク、CoALAとJEPAはどちらも、独自の永続化セマンティクスを備えた明示的な知識層を欠いている。 そこで我々は,各層が基本的に異なるパーシステンス・セマンティクスを持つ4層デコン位置(知識,記憶,知性,知性)を提案する。 これらの区別は、エンジニアリング実装において異なるパーシステンス・セマンティクスを必要としており、現在のフレームワークやシステムがこれを提供していない、と我々は主張する。
  論文  参考訳（メタデータ） (2026-04-13T12:05:30Z)
• DDCL-INCRT: A Self-Organising Transformer with Hierarchical Prototype Structure (Theoretical Foundations) [0.0]
  本稿では,DDCL-INCRTについて紹介する。 主な理論的発見は、これらの2つのメカニズムが互いに強化していることである。 収束すると、ネットワークは表現的粒度によって順序付けられたヘッドの階層に自己組織化される。
  論文  参考訳（メタデータ） (2026-04-02T10:39:06Z)
• Bearing Syntactic Fruit with Stack-Augmented Neural Networks [59.49467149799849]
  スタック拡張ニューラルネットワークは、標準的なアーキテクチャよりも、人間の言語習得の正確なモデルであることを示す。 また、階層的一般化を改善するスタックRNNアーキテクチャの修正も提案する。
  論文  参考訳（メタデータ） (2025-11-05T15:30:58Z)
• Grokking of Hierarchical Structure in Vanilla Transformers [72.45375959893218]
  トランスフォーマー言語モデルでは,極端に長い訓練期間を経て階層的に一般化できることが示される。 中間深度モデルは、非常に深い変圧器と非常に浅い変圧器の両方よりも良く一般化される。
  論文  参考訳（メタデータ） (2023-05-30T04:34:13Z)
• How Do Transformers Learn Topic Structure: Towards a Mechanistic Understanding [56.222097640468306]
  我々は、トランスフォーマーが「意味構造」を学ぶ方法の機械的理解を提供する 数学的解析とウィキペディアデータの実験を組み合わせることで、埋め込み層と自己保持層がトピック構造をエンコードしていることを示す。
  論文  参考訳（メタデータ） (2023-03-07T21:42:17Z)
• System identification of neural systems: If we got it right, would we know? [4.414362557866993]
  我々は、脳記録を既知の基底真理モデルに置き換えることで、モデルを特定するために最もよく使用される比較手法を評価した。 高いレベルのアーキテクチャモチーフを特定する際に,機能的類似度スコアを使用することの限界を示す。
  論文  参考訳（メタデータ） (2023-02-13T20:32:37Z)
• Equivariance with Learned Canonicalization Functions [77.32483958400282]
  正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。 実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
  論文  参考訳（メタデータ） (2022-11-11T21:58:15Z)
• Dynamic Inference with Neural Interpreters [72.90231306252007]
  本稿では,モジュールシステムとしての自己アテンションネットワークにおける推論を分解するアーキテクチャであるNeural Interpretersを提案する。 モデルへの入力は、エンドツーエンドの学習方法で一連の関数を通してルーティングされる。 ニューラル・インタープリタは、より少ないパラメータを用いて視覚変換器と同等に動作し、サンプル効率で新しいタスクに転送可能であることを示す。
  論文  参考訳（メタデータ） (2021-10-12T23:22:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。