論文の概要: On the Evolution of Word Order
- arxiv url: http://arxiv.org/abs/2101.09579v1
- Date: Sat, 23 Jan 2021 20:30:17 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-19 10:47:31.197931
- Title: On the Evolution of Word Order
- Title(参考訳): 語順の進化について
- Authors: Idan Rejwan and Avi Caciularu
- Abstract要約: 最適な言語は固定語順を持つ言語であることを示す。
また,ケースマーカーや名詞動詞の区別などの文に情報を追加することで,単語の順序を固定化する必要がなくなることを示す。
- 参考スコア(独自算出の注目度): 7.2610922684683645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most natural languages have a predominant or fixed word order. For example,
in English, the word order used most often is Subject-Verb-Object. This work
attempts to explain this phenomena as well as other typological findings
regarding word order from a functional perspective. That is, we target the
question of whether fixed word order gives a functional advantage, that may
explain why these languages are common. To this end, we consider an
evolutionary model of language and show, both theoretically and using a genetic
algorithm-based simulation, that an optimal language is one with fixed word
order. We also show that adding information to the sentence, such as case
markers and noun-verb distinction, reduces the need for fixed word order, in
accordance with the typological findings.
- Abstract(参考訳): ほとんどの自然言語は、支配的または固定的な語順を持つ。
例えば、英語では、最もよく使われる語順はsubject-verb-objectである。
本研究は, この現象と, 語順に関する他の類型的知見を, 機能的観点から説明しようとするものである。
すなわち、固定語順が機能上の優位性を与えるかどうかという問題であり、これらの言語がなぜ一般的であるかを説明するものである。
この目的のために、言語の進化モデルを検討し、理論的および遺伝的アルゴリズムに基づくシミュレーションを用いて、最適な言語は固定語順を持つものであることを示す。
また,事例マーカーや名詞動詞の区別などの文への情報付加は,類型的発見に応じて単語の順序を固定する必要性を減少させることを示す。
関連論文リスト
- Word Order's Impacts: Insights from Reordering and Generation Analysis [9.0720895802828]
現存する研究は、自然文中の単語の順序が与える影響について研究している。
この結果を踏まえ、単語順序に関する異なる仮説が提案されている。
ChatGPTは単語順序に依存するが、単語順序の語彙的意味論の間の冗長関係をサポートし、否定することはできない。
論文 参考訳(メタデータ) (2024-03-18T04:45:44Z) - Word Order and World Knowledge [9.22384870426709]
言語モデルを用いて,語順が生テキストから世界知識の誘導にどう影響するかを考察する。
具体的には、自然語順に加えて、5つの言語からそれぞれ6つの固定語順のテキストを抽出する。
論文 参考訳(メタデータ) (2024-03-01T08:13:48Z) - A Cross-Linguistic Pressure for Uniform Information Density in Word
Order [79.54362557462359]
実数列が反実数列よりも大きな情報均一性をもたらすかどうかを計算モデルを用いて検証する。
SVO言語の中では、実語順は逆語順よりも一様である。
言語的に不可解な反実順序のみが、実際の順序の均一性を超えている。
論文 参考訳(メタデータ) (2023-06-06T14:52:15Z) - Towards preserving word order importance through Forced Invalidation [80.33036864442182]
事前学習された言語モデルは単語の順序に敏感であることを示す。
我々は,単語順序の重要性を維持するために強制的無効化を提案する。
実験の結果,強制的無効化は単語順に対するモデルの感度を著しく向上させることがわかった。
論文 参考訳(メタデータ) (2023-04-11T13:42:10Z) - Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。
自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
論文 参考訳(メタデータ) (2022-10-14T02:35:19Z) - Word Order Does Matter (And Shuffled Language Models Know It) [9.990431777927421]
近年の研究では、ランダムに置換された文に対して事前訓練および/または微調整された言語モデルがGLUE上での競合性能を示すことが示されている。
シャッフルテキストエンコードから得られた位置埋め込みについて検討し、これらのモデルが元の自然主義的な単語順序に関する情報を保持することを示す。
論文 参考訳(メタデータ) (2022-03-21T14:10:15Z) - Studying word order through iterative shuffling [14.530986799844873]
NLPベンチマークタスクの実行には,単語順序エンコードが不可欠であることを示す。
我々は、固定言語モデルの下で最も高い確率を持つ単語の袋を注文する、新しい効率的な手続きであるBISを使用する。
IBISのような推論手順のシャッフルが言語モデリングや制約付き生成にどのように役立つかについて議論する。
論文 参考訳(メタデータ) (2021-09-10T13:27:06Z) - Generalized Optimal Linear Orders [9.010643838773477]
言語の逐次構造、特に文中の単語の順序は、人間の言語処理において中心的な役割を果たす。
言語の計算モデルの設計において、デファクトのアプローチは、原文と同じ順序で命令された単語を機械に提示することである。
この研究の本質は、これが望ましいという暗黙の仮定を疑問視し、自然言語処理における語順の考慮に理論的健全性を注入することである。
論文 参考訳(メタデータ) (2021-08-13T13:10:15Z) - Investigating Cross-Linguistic Adjective Ordering Tendencies with a
Latent-Variable Model [66.84264870118723]
本稿では,多言語形容詞順序付けを潜在変数モデルとして,初めて純粋コーパス駆動モデルを提案する。
我々は普遍的、言語横断的、階層的形容詞順序付け傾向の存在の強い確固たる証拠を提供する。
論文 参考訳(メタデータ) (2020-10-09T18:27:55Z) - Speakers Fill Lexical Semantic Gaps with Context [65.08205006886591]
我々は単語の語彙的あいまいさを意味のエントロピーとして運用する。
単語のあいまいさの推定値と,WordNetにおける単語の同義語数との間には,有意な相関関係が認められた。
これは、あいまいさの存在下では、話者が文脈をより情報的にすることで補うことを示唆している。
論文 参考訳(メタデータ) (2020-10-05T17:19:10Z) - On the Importance of Word Order Information in Cross-lingual Sequence
Labeling [80.65425412067464]
ソース言語の単語順に適合する言語間モデルでは、ターゲット言語を処理できない可能性がある。
本研究では,ソース言語の単語順序に敏感なモデルを作成することで,対象言語の適応性能が向上するかどうかを検討する。
論文 参考訳(メタデータ) (2020-01-30T03:35:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。