論文の概要: Evolving language compositionality in a frequency-structured meaning space
- arxiv url: http://arxiv.org/abs/2607.29642v1
- Date: Fri, 31 Jul 2026 17:18:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.834605
- Title: Evolving language compositionality in a frequency-structured meaning space
- Title（参考訳）: 周波数構造意味空間における言語構成性の進化
- Abstract要約: 異なる意味の頻度の変化が、その構成性の性格にどのように影響するかを示す。
その結果, 周波数分布が形式的単位上で定義される場合にのみ, 創発的言語構造を形成できることが示唆された。
- 参考スコア（独自算出の注目度）: 1.5749416770494706
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The iterated learning model was introduced to investigate language evolution: the way in which the characteristic properties of human languages have been shaped, at least partly, by repeated transmission from one language user to another. The key finding is that language compositionality can arise spontaneously as a consequence of language being passed repeatedly through a language learning bottleneck. Here we explore how changing the frequency of different meanings, so that some meanings occur much more frequently than others, affects the character of its compositionality. We find that, as observed in natural languages, high-frequency meanings can escape the pressure to conform to the grammar that characterizes lower-frequency meanings. However, when the frequency structure is instead imposed on parts rather than on whole meaning vectors, the language fails to transmit across generations. This occurs despite the fact that the most frequent elements are reliably learned. These results suggest that frequency can shape emergent linguistic structure only when the frequency distribution is defined over form-meaning units that learners can acquire holistically. When frequency is instead distributed over smaller units, it fails to support the relational structure required for compositional generalisation, thereby preventing stable language transmission.
- Abstract（参考訳）: 少なくとも部分的には、ある言語利用者から別の言語利用者への繰り返し伝達によって、人間の言語の特徴が形作られた方法である。
重要な発見は、言語学習ボトルネックを通じて繰り返し言語が渡される結果、言語構成性が自然に生じる可能性があることである。
ここでは、異なる意味の頻度の変化が、ある意味が他の意味よりもずっと頻繁に起こるように、その構成性の性格にどのように影響するかを考察する。
自然言語で見られるように、高周波の意味は、低周波の意味を特徴付ける文法に適合するために、圧力から逃れることができる。
しかし、周波数構造が全ての意味ベクトルではなく部品に課される場合、言語は世代間で伝達できない。
これは、最も頻繁な要素が確実に学習されているにもかかわらず起こる。
これらの結果は,学習者がホリシックに獲得できる形式的単位上で周波数分布が定義される場合にのみ,周波数が創発的言語構造を形成できることを示唆している。
周波数がより小さな単位に分散する場合は、合成一般化に必要な関係構造をサポートできず、安定した言語伝達を阻害する。
関連論文リスト
- Image, Word and Thought: A More Challenging Language Task for the Iterated Learning Model [1.7205106391379026]
反復学習モデルは、世代から世代への言語伝達をシミュレートする。
このモデルのエージェントは、表現力のある言語を学び、伝達することができる。
論文 参考訳（メタデータ） (2026-01-06T10:53:00Z) - The Harmonic Structure of Information Contours [54.38365999922221]
我々は、英語、スペイン語、ドイツ語、オランダ語、バスク語、ブラジルポルトガル語のテキストで、周期的な情報レートのパターンが一貫した証拠を見出した。
多くの支配的な周波数は談話構造と一致しており、これらの振動は意味のある言語組織を反映していることを示唆している。
論文 参考訳（メタデータ） (2025-06-04T12:56:30Z) - Linguistic Structure from a Bottleneck on Sequential Information Processing [5.850665541267672]
予測情報によって制約されたコードに自然言語のような体系性が生じることを示す。
人間の言語は、音韻学、形態学、構文学、意味論のレベルにおいて、低い予測情報を持つように構成されている。
論文 参考訳（メタデータ） (2024-05-20T15:25:18Z) - The Role of Language Imbalance in Cross-lingual Generalisation: Insights from Cloned Language Experiments [57.273662221547056]
本研究では,言語間一般化の非直感的な新規ドライバである言語不均衡について検討する。
学習中に支配的な言語が存在することが、あまり頻度の低い言語の性能を高めることを観察する。
分析を実言語に拡張するにつれ、頻繁な言語は依然として恩恵を受けていますが、言語不均衡が言語間の一般化を引き起こすかどうかは決定的ではありません。
論文 参考訳（メタデータ） (2024-04-11T17:58:05Z) - Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。
自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
論文 参考訳（メタデータ） (2022-10-14T02:35:19Z) - Are Representations Built from the Ground Up? An Empirical Examination
of Local Composition in Language Models [91.3755431537592]
構成的・非構成的句を表現することは言語理解にとって重要である。
まず,より長いフレーズのLM-内部表現を,その構成成分から予測する問題を定式化する。
意味的構成性の人間の判断と相関する予測精度を期待するが、大部分はそうではない。
論文 参考訳（メタデータ） (2022-10-07T14:21:30Z) - Crosslinguistic word order variation reflects evolutionary pressures of
dependency and information locality [4.869029215261254]
世界の言語の約40%は主目的語順であり、約40%は主目的語順である。
単語順の変動は、依存関係の局所性と情報局所性の競合する圧力のバランスの異なる方法を反映していることを示す。
本研究は,言語間の統語構造と使用法が,限られた認知資源下での効率的なコミュニケーションを支援するのに相応しいことを示唆している。
論文 参考訳（メタデータ） (2022-06-09T02:56:53Z) - Slangvolution: A Causal Analysis of Semantic Change and Frequency
Dynamics in Slang [18.609276255676175]
我々は、通常特定のグループや社会的設定に制限される非公式な言語であるスラングについて研究する。
我々はスラング語の意味変化と頻度変化を分析し、それらを標準の非スラング語と比較する。
その結果,スラング語は意味的変化が少ないが,時間とともに変化が大きくなる傾向にあることがわかった。
論文 参考訳（メタデータ） (2022-03-09T11:34:43Z) - Linguistic Typology Features from Text: Inferring the Sparse Features of
World Atlas of Language Structures [73.06435180872293]
我々は、バイト埋め込みと畳み込み層に基づく繰り返しニューラルネットワーク予測器を構築する。
様々な言語型の特徴を確実に予測できることを示す。
論文 参考訳（メタデータ） (2020-04-30T21:00:53Z) - Where New Words Are Born: Distributional Semantic Analysis of Neologisms
and Their Semantic Neighborhoods [51.34667808471513]
分散意味論のパラダイムで定式化されたセマンティック隣人のセマンティック・スパシティと周波数成長率という2つの要因の重要性について検討する。
いずれの因子も単語の出現を予測できるが,後者の仮説はより支持される。
論文 参考訳（メタデータ） (2020-01-21T19:09:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。