論文の概要: Brain Score Tracks Shared Properties of Languages: Evidence from Many Natural Languages and Structured Sequences

• arxiv url: http://arxiv.org/abs/2604.15503v1
• Date: Thu, 16 Apr 2026 20:25:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:19.643129
• Title: Brain Score Tracks Shared Properties of Languages: Evidence from Many Natural Languages and Structured Sequences
• Title（参考訳）: 脳スコアが言語の共有特性を追跡する:多くの自然言語と構造的シーケンスからの証拠
• Authors: Jingnong Qu, Ashvin Ranjan, Shane Steinert-Threlkeld,
• Abstract要約: 私たちはBrain Score(BS)というフレームワークを使って、高いレベルの類似性を主張します。 我々は、様々な入力データに対してLMを訓練して実験を行い、それらをBSで評価する。 多くの異なる言語ファミリーの様々な自然言語で訓練されたモデルは、非常によく似たBS性能を持つことがわかった。
• 参考スコア（独自算出の注目度）: 3.802965738657408
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Recent breakthroughs in language models (LMs) using neural networks have raised the question: how similar are these models' processing to human language processing? Results using a framework called Brain Score (BS) -- predicting fMRI activations during reading from LM activations -- have been used to argue for a high degree of similarity. To understand this similarity, we conduct experiments by training LMs on various types of input data and evaluate them on BS. We find that models trained on various natural languages from many different language families have very similar BS performance. LMs trained on other structured data -- the human genome, Python, and pure hierarchical structure (nested parentheses) -- also perform reasonably well and close to natural languages in some cases. These findings suggest that BS can highlight language models' ability to extract common structure across natural languages, but that the metric may not be sensitive enough to allow us to infer human-like processing from a high BS score alone.
• Abstract（参考訳）: ニューラルネットワークを用いた言語モデル(LM)の最近のブレークスルーは、疑問を提起している。 Brain Score(BS)と呼ばれるフレームワーク(LMアクティベーションからの読み上げ中のfMRIアクティベーションを予測する)を使用した結果、高度な類似性を主張している。 この類似性を理解するために、様々な入力データに基づいてLMを訓練し、BSで評価する実験を行う。 多くの異なる言語ファミリーの様々な自然言語で訓練されたモデルは、非常によく似たBS性能を持つことがわかった。 LMは、人間のゲノム、Python、純粋な階層構造(ネストされた括弧)など、他の構造化データに基づいて訓練された。 これらの結果から,BSは自然言語間の共通構造を抽出する言語モデルの能力を強調することができるが,その指標は高いBSスコアから人間的な処理を推測できるほど敏感ではない可能性が示唆された。

関連論文リスト

• Can Language Models Learn Typologically Implausible Languages? [62.823015163987996]
  人間の言語にまたがる文法的特徴は、人間の学習バイアスに起因する興味深い相関関係を示している。 言語モデル(LM)が言語普遍性におけるドメイン一般学習バイアスの役割をよりよく決定する方法について論じる。 本研究は,英語(頭初期)と日本語(頭最終)の超自然主義的だが反実的なバージョンを用いて,LMを試験する。
  論文  参考訳（メタデータ） (2025-02-17T20:40:01Z)
• Searching for Structure: Investigating Emergent Communication with Large Language Models [0.10923877073891446]
  我々は,大規模言語モデルが人工言語を学習し,使用する古典的参照ゲームについてシミュレートする。 この結果から, 当初構造化されていない全体言語は, 2つのLLMエージェントが正常に通信できるような構造的特性を持つことが明らかとなった。
  論文  参考訳（メタデータ） (2024-12-10T16:32:19Z)
• Training Neural Networks as Recognizers of Formal Languages [87.06906286950438]
  ニューラルネットワークを文字列のバイナリ分類器として直接訓練し評価する。 3つのニューラルアーキテクチャに対して、チョムスキー階層の様々な言語について結果を提供する。 我々の貢献は、将来の研究において、言語認識の主張を理論的に健全に検証するのに役立つだろう。
  論文  参考訳（メタデータ） (2024-11-11T16:33:25Z)
• What Languages are Easy to Language-Model? A Perspective from Learning Probabilistic Regular Languages [78.1866280652834]
  大規模言語モデル (LM) は文字列上の分布である。 RNNとTransformer LMによる規則的LM(RLM)の学習性について検討する。 RNNとトランスフォーマーの双方において,RLMランクの複雑さは強く,学習可能性の有意な予測因子であることが判明した。
  論文  参考訳（メタデータ） (2024-06-06T17:34:24Z)
• Is neural language acquisition similar to natural? A chronological probing study [0.0515648410037406]
  本稿では,MultiBERTやT5といったトランスフォーマー英語モデルの時系列探索について述べる。 コーパスの学習過程において,モデルが学習した言語に関する情報を比較した。 その結果,1)訓練の初期段階に言語情報を取得すること,2)両言語モデルが様々な言語レベルから様々な特徴を捉える能力を示した。
  論文  参考訳（メタデータ） (2022-07-01T17:24:11Z)
• Learning Music Helps You Read: Using Transfer to Study Linguistic Structure in Language Models [27.91397366776451]
  遅延構造(MIDI音楽またはJavaコード)上でのLSTMのトレーニングは、自然言語でのテストパフォーマンスを改善する。 語彙重なりに制御される自然言語間の移動実験により,試験言語におけるゼロショット性能は,訓練言語とタイプ的類似性に強く相関していることが示された。
  論文  参考訳（メタデータ） (2020-04-30T06:24:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。