論文の概要: Scale-Invariance Drives Convergence in AI and Brain Representations

• arxiv url: http://arxiv.org/abs/2506.12117v1
• Date: Fri, 13 Jun 2025 15:36:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:45.207449
• Title: Scale-Invariance Drives Convergence in AI and Brain Representations
• Title（参考訳）: スケール不変性はAIと脳表現の収束を駆動する
• Authors: Junjie Yu, Wenxiao Ma, Jianyu Zhang, Haotian Deng, Zihan Deng, Yi Guo, Quanying Liu,
• Abstract要約: 近年の研究では、大規模なAIモデルは、神経活動と一致する同様の内部表現に収束することがしばしば示されている。 AI表現におけるスケール不変性の2つの中核的側面:次元安定性とスケール間の構造的類似性。 解析の結果,fMRIデータと一致し,より一貫した次元と構造的類似性が得られた。
• 参考スコア（独自算出の注目度）: 7.318297580732467
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite variations in architecture and pretraining strategies, recent studies indicate that large-scale AI models often converge toward similar internal representations that also align with neural activity. We propose that scale-invariance, a fundamental structural principle in natural systems, is a key driver of this convergence. In this work, we propose a multi-scale analytical framework to quantify two core aspects of scale-invariance in AI representations: dimensional stability and structural similarity across scales. We further investigate whether these properties can predict alignment performance with functional Magnetic Resonance Imaging (fMRI) responses in the visual cortex. Our analysis reveals that embeddings with more consistent dimension and higher structural similarity across scales align better with fMRI data. Furthermore, we find that the manifold structure of fMRI data is more concentrated, with most features dissipating at smaller scales. Embeddings with similar scale patterns align more closely with fMRI data. We also show that larger pretraining datasets and the inclusion of language modalities enhance the scale-invariance properties of embeddings, further improving neural alignment. Our findings indicate that scale-invariance is a fundamental structural principle that bridges artificial and biological representations, providing a new framework for evaluating the structural quality of human-like AI systems.
• Abstract（参考訳）: アーキテクチャや事前訓練戦略のバリエーションにもかかわらず、最近の研究は、大規模なAIモデルは、しばしば神経活動と一致する同様の内部表現に収束することを示している。 本稿では,自然システムにおける基本構造原理であるスケール不変性が,この収束の鍵となる要因であることを示す。 本稿では,AI表現におけるスケール不変性の2つの中核的側面,すなわち次元安定性とスケール間の構造的類似性の定量化を目的とした,マルチスケール分析フレームワークを提案する。 さらに、これらの特性が視覚野における機能的磁気共鳴イメージング(fMRI)応答とアライメント性能を予測できるかどうかについても検討する。 解析の結果,fMRIデータと一致し,より一貫した次元と構造的類似性が得られた。 さらに、fMRIデータの多様体構造はより集中しており、ほとんどの特徴はより小さなスケールで散逸する。 同様のスケールパターンの埋め込みはfMRIデータとより密接に一致している。 また,より大規模な事前学習データセットと言語モダリティの付与により,埋め込みのスケール不変性が向上し,ニューラルネットワークのアライメントが向上することを示した。 我々の研究結果は、スケール不変性は人工的および生物学的表現を橋渡しする基本的な構造原理であり、人間のようなAIシステムの構造的品質を評価するための新しい枠組みを提供することを示している。

関連論文リスト

• Evaluating Representational Similarity Measures from the Lens of Functional Correspondence [1.7811840395202345]
  神経科学と人工知能(AI)はどちらも、高次元のニューラルネットワークの解釈という課題に直面している。 表象比較が広く使われているにもかかわらず、重要な疑問が残る: どの指標がこれらの比較に最も適しているのか?
  論文  参考訳（メタデータ） (2024-11-21T23:53:58Z)
• Integrated Brain Connectivity Analysis with fMRI, DTI, and sMRI Powered by Interpretable Graph Neural Networks [17.063133885403154]
  我々は, 磁気共鳴イメージング, 拡散テンソルイメージング, 構造MRIを結合構造に統合した。 提案手法は,ニューラルネットワークの重み付けにマスキング戦略を導入し,マルチモーダル画像データの総合的アマルガメーションを容易にする。 このモデルは、ヒューマンコネクトームプロジェクト(Human Connectome Project)の開発研究に応用され、若年期のマルチモーダルイメージングと認知機能との関係を明らかにする。
  論文  参考訳（メタデータ） (2024-08-26T13:16:42Z)
• Understanding the differences in Foundation Models: Attention, State Space Models, and Recurrent Neural Networks [50.29356570858905]
  本稿では,これらすべてのアーキテクチャの共通表現に関する原則的な調査を可能にする動的システムフレームワーク(DSF)について紹介する。 ソフトマックスアテンションと他のモデルクラスとの原理的比較を行い、ソフトマックスアテンションを近似できる理論条件について議論する。 このことは、DSFが将来のより効率的でスケーラブルな基盤モデルの体系的な開発を導く可能性を示している。
  論文  参考訳（メタデータ） (2024-05-24T17:19:57Z)
• K-Space-Aware Cross-Modality Score for Synthesized Neuroimage Quality Assessment [71.27193056354741]
  クロスモダリティな医用画像合成をどう評価するかという問題は、ほとんど解明されていない。 本稿では,この課題の進展を促すため,新しい指標K-CROSSを提案する。 K-CROSSは、トレーニング済みのマルチモードセグメンテーションネットワークを使用して、病変の位置を予測する。
  論文  参考訳（メタデータ） (2023-07-10T01:26:48Z)
• Similarity of Neural Architectures using Adversarial Attack Transferability [47.66096554602005]
  ニューラルネットワーク間の定量的かつスケーラブルな類似度尺度を設計する。 我々は69の最先端画像ネット分類器を大規模に解析する。 我々の結果は、異なるコンポーネントを持つ多様なニューラルアーキテクチャの開発がなぜ必要かについての洞察を提供する。
  論文  参考訳（メタデータ） (2022-10-20T16:56:47Z)
• Deep Learning Identifies Neuroimaging Signatures of Alzheimer's Disease Using Structural and Synthesized Functional MRI Data [8.388888908045406]
  脳MRIにおける構造-機能変換を初めて学習することにより,潜在的な解決策を提案する。 次に,大規模構造スキャンから空間整合機能画像を合成する。 時間的ローブは最も予測可能な構造領域であり、パリエト後頭ローブはモデルで最も予測可能な機能領域である。
  論文  参考訳（メタデータ） (2021-04-10T03:16:33Z)
• Deep Representational Similarity Learning for analyzing neural signatures in task-based fMRI dataset [81.02949933048332]
  本稿では、表現類似度分析(RSA)の深部拡張であるDRSL(Deep Representational similarity Learning)を開発する。 DRSLは、多数の被験者を持つfMRIデータセットにおける様々な認知タスク間の類似性を分析するのに適している。
  論文  参考訳（メタデータ） (2020-09-28T18:30:14Z)
• Incorporating structured assumptions with probabilistic graphical models in fMRI data analysis [5.23143327587266]
  我々は、fMRI研究の様々な領域で最近開発されたアルゴリズムについてレビューする。 これらのアルゴリズムも同様にfMRIの課題に取り組む。 認知神経科学における明示的モデル構築のより広範な採用を提唱する。
  論文  参考訳（メタデータ） (2020-05-11T06:32:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。