論文の概要: More Aligned, Less Diverse? Analyzing the Grammar and Lexicon of Two Generations of LLMs

• arxiv url: http://arxiv.org/abs/2605.06030v1
• Date: Thu, 07 May 2026 11:21:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.71916
• Title: More Aligned, Less Diverse? Analyzing the Grammar and Lexicon of Two Generations of LLMs
• Title（参考訳）: 2世代LLMの文法と語彙の解析
• Authors: Adrián Gude, Roi Santos-Ríos, Francis Bond, Dan Flickinger, Carlos Gómez-Rodríguez, Olga Zamaraeva,
• Abstract要約: 本研究は, LLM生成テキストと人間によるテキストの比較において, 研究の進展に寄与する。 我々は、生態学と情報理論の多様性指標を用いて、文法構造や語彙型の変化を定量化する。 英語のニューステキストは時間軸がほとんど変化していないのに対して,新しいLLMでは構文的,特に語彙的多様性が向上している。
• 参考スコア（独自算出の注目度）: 6.96297373955807
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This study contributes to a growing line of research in comparing LLM-generated texts with human-authored text, in this case, English news text. We focus in particular on the evaluation of syntactic properties through formal grammar frameworks. Our analysis compares two generations of LLMs in the context of two human-authored English news datasets from two different years. Employing the Head-Driven Phrase Structure Grammar (HPSG) formalism, we investigate the distributions of syntactic structures and lexical types of AI-generated texts and contrast them with the corresponding distributions in the human-authored New York Times (NYT) articles. We use diversity metrics from ecology and information theory to quantify variation in grammatical constructions and lexical types. We show that English news text has changed little in the given time frame, while newer LLMs display reduced syntactic and, especially, lexical diversity compared to older, non-instruction-tuned models. These findings point to future work in studying effects of instruction tuning, which, while enhancing coherence and adherence to prompts, may narrow the expressive range of model output.
• Abstract（参考訳）: 本研究は, LLM生成テキストと人間によるテキストとの比較において, 英語ニューステキストとの比較において, 研究の進展に寄与する。 特に,形式文法フレームワークによる構文特性の評価に着目する。 本分析は,2年間にわたる人間による英語ニュースデータセットの文脈におけるLLMの2世代を比較した。 本稿では,HPSG(Head-Driven Phrase Structure Grammar)フォーマリズムを用いて,構文構造と語彙型AI生成テキストの分布を調査し,ニューヨーク・タイムズ(NYT)の記事の対応する分布と対比する。 我々は、生態学と情報理論の多様性指標を用いて、文法構造や語彙型の変化を定量化する。 英語のニューステキストは時間軸がほとんど変化していないのに対して,新しいLLMでは構文的,特に語彙的多様性が向上している。 これらの知見は、命令チューニングの効果の研究における今後の研究を示唆しており、命令の一貫性とプロンプトへの固執性を高めつつも、モデル出力の表現範囲を狭める可能性がある。

関連論文リスト

• Comparing LLM-generated and human-authored news text using formal syntactic theory [11.068340119264336]
  この研究は、ニューヨーク・タイムズ風のテキストを6つの大きな言語モデルで生成したテキストと、実際の人間によるNYTの文章とを総合的に比較した初めてのものである。 テキストの文法構造を解析するために,ヘッド駆動のフレーズ構造文法を用いる。
  論文  参考訳（メタデータ） (2025-06-02T08:04:34Z)
• Divergent LLM Adoption and Heterogeneous Convergence Paths in Research Writing [0.8046044493355781]
  LLM(Large Language Models)は、コンテンツ作成と学術的執筆を変革する。 本研究は,AIによる生成リビジョンが研究原稿に与える影響について検討する。
  論文  参考訳（メタデータ） (2025-04-18T11:09:16Z)
• The dynamics of meaning through time: Assessment of Large Language Models [2.5864824580604515]
  本研究では,様々な大規模言語モデル(LLM)が意味の時間的ダイナミクスを捉える能力を評価することを目的とする。 比較分析にはChatGPT、GPT-4、Claude、Bard、Gemini、Llamaといった著名なモデルが含まれています。 発見は、各モデルの歴史的文脈と意味的シフトの扱いにおいて顕著な違いを示し、時間的意味的理解における強みと制限の両方を強調した。
  論文  参考訳（メタデータ） (2025-01-09T19:56:44Z)
• Human Variability vs. Machine Consistency: A Linguistic Analysis of Texts Generated by Humans and Large Language Models [0.0]
  人文テキストと大言語モデル(LLM)で生成されたテキストとの有意な差異を同定する。 以上の結果から,人間は認知的要求の少ない文章を書けること,意味的内容の充実,感情的内容の充実などが示唆された。
  論文  参考訳（メタデータ） (2024-12-04T04:38:35Z)
• Large Language Models as Neurolinguistic Subjects: Discrepancy between Performance and Competence [49.60849499134362]
  本研究では,大言語モデル(LLM)の記号化(形式)および記号化(意味)に関する言語的理解について検討する。 ミニマルペアと診断プローブを組み合わせてモデル層間のアクティベーションパターンを解析する新しい手法を用いて,ニューロ言語学的アプローチを提案する。 その結果,(1)心理言語学的・神経言語学的手法では,言語能力と能力が異なっていること,(2)直接確率測定では言語能力が正確に評価されないこと,(3)指導のチューニングでは能力が大きく変化しないが,性能は向上しないことがわかった。
  論文  参考訳（メタデータ） (2024-11-12T04:16:44Z)
• Inclusivity in Large Language Models: Personality Traits and Gender Bias in Scientific Abstracts [49.97673761305336]
  我々は,3つの大きな言語モデル (LLM) を,人間の物語スタイルと潜在的な性別バイアスに適合させることで評価した。 以上の結果から,これらのモデルは一般的にヒトの投稿内容によく似たテキストを生成するが,スタイル的特徴の変化は有意な性差を示すことが示唆された。
  論文  参考訳（メタデータ） (2024-06-27T19:26:11Z)
• Evaluating Contextualized Representations of (Spanish) Ambiguous Words: A New Lexical Resource and Empirical Analysis [2.2530496464901106]
  スペイン語の単言語モデルと多言語BERTモデルを用いて、文脈におけるスペイン語のあいまいな名詞の意味表現を評価する。 様々な BERT ベースの LM の文脈的意味表現は、人間の判断に多少の違いがあるが、ヒトのベンチマークには及ばない。
  論文  参考訳（メタデータ） (2024-06-20T18:58:11Z)
• Large Language Models can Contrastively Refine their Generation for Better Sentence Representation Learning [57.74233319453229]
  大規模言語モデル(LLM)は画期的な技術として登場し、それらの非並列テキスト生成能力は、基本的な文表現学習タスクへの関心を喚起している。 コーパスを生成するためにLLMの処理を分解するマルチレベルコントラスト文表現学習フレームワークであるMultiCSRを提案する。 実験の結果,MultiCSRはより高度なLCMをChatGPTの性能を超えつつ,ChatGPTに適用することで最先端の成果を得られることがわかった。
  論文  参考訳（メタデータ） (2023-10-17T03:21:43Z)
• How much do language models copy from their training data? Evaluating linguistic novelty in text generation using RAVEN [63.79300884115027]
  現在の言語モデルは高品質なテキストを生成することができる。 彼らは、これまで見たテキストを単にコピーしているか、それとも一般化可能な言語的抽象化を学んだのか? 本稿では、生成したテキストの新規性を評価するための分析スイートであるRAVENを紹介する。
  論文  参考訳（メタデータ） (2021-11-18T04:07:09Z)
• Dependency Induction Through the Lens of Visual Perception [81.91502968815746]
  本稿では,単語の具体性を利用した教師なし文法帰納モデルと,構成的視覚に基づく構成的文法を共同学習する手法を提案する。 実験により,提案した拡張は,文法的サイズが小さい場合でも,現在最先端の視覚的接地モデルよりも優れた性能を示すことが示された。
  論文  参考訳（メタデータ） (2021-09-20T18:40:37Z)
• A Comparative Study of Lexical Substitution Approaches based on Neural Language Models [117.96628873753123]
  本稿では,一般的なニューラル言語とマスキング言語モデルの大規模比較研究について述べる。 目的語に関する情報を適切に注入すれば,SOTA LMs/MLMsによって達成された既に競合する結果をさらに改善できることを示す。
  論文  参考訳（メタデータ） (2020-05-29T18:43:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。