論文の概要: Language Models are Lazy Poets: Creative Mode Collapse at Scale
- arxiv url: http://arxiv.org/abs/2610.24223v1
- Date: Fri, 16 Oct 2026 20:45:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 10:06:31.101219
- Title: Language Models are Lazy Poets: Creative Mode Collapse at Scale
- Title(参考訳): 言語モデルは怠け者(Lazy Poets)である: スケールでの創造的なモードの崩壊
- Abstract要約: 我々は15の詩体、248の主題タグ、16のオープンウェイトモデルで1100万以上の詩を生成する。
LLMの詩の語彙と韻律の能力は、かなりのものだが、あまり利用されていない。
- 参考スコア(独自算出の注目度): 0.0636602975354822
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While aligned large language models (LLMs) can successfully complete many creative tasks, their outputs tend to be highly self-similar. Though solutions to this problem of "mode collapse" have been proposed, comprehensive large-scale surveys of the phenomenon in specific textual genres are still lacking. We address this gap through an extensive treatment of LLM mode collapse in poetry. Across 15 poetic forms, 248 subject matter tags, and 16 open-weight models, we generate over 1.1 million poems. To our knowledge, this constitutes the largest corpus of LLM-generated poetry to date. At million-poem scale, we find that LLM poetic vocabularies and rhyming abilities are substantial, but severely underutilized. In other words, LLMs are "lazy" poets: despite possessing large poetic inventories, LLMs over-rely on a small number of words, opening phrases, and rhymes. Further, we find that lexical homogenization differs across models and poetic forms, noting observed rhyming vocabulary is correlated with model size.
- Abstract(参考訳): 協調型大規模言語モデル(LLM)は、多くの創造的なタスクをうまくこなすことができるが、その出力は極めて自己相似である傾向にある。
この「モード崩壊」という問題に対する解決策が提案されているが、特定のテクストジャンルにおけるこの現象に関する大規模な調査はいまだに不十分である。
詩のLLMモード崩壊を広範囲に扱うことで,このギャップに対処する。
15の詩体、248の主題タグ、16のオープンウェイトモデルで、1100万以上の詩を生成する。
我々の知る限り、これは現在まで LLM 生成詩の最大のコーパスとなっている。
百万語規模で見ると、LLMの詩の語彙や韻律の能力は相当だが、あまり利用されていないことが分かる。
言い換えれば、LLMは「怠け者」な詩人であり、大きな詩的在庫を持っているにもかかわらず、LLMは少数の単語に過剰に反応し、フレーズを開き、韻律を鳴らす。
さらに、語彙の同化はモデルと詩形によって異なり、観察された韻律語彙はモデルサイズと相関していることを示す。
関連論文リスト
- Do Large Language Models Perform Well on Comprehending Poetic Logic in Modern Chinese Poetry? [47.71394430680399]
大規模言語モデル(LLM)は、幅広い自然言語処理(NLP)タスクにおいて大きな進歩を遂げている。
現代中国の詩は、効果的な理解のための独自の推論形式を必要とする。
現代漢詩の詩文論理を特に評価するために設計された最初のベンチマークであるPeonyを提案する。
論文 参考訳(メタデータ) (2026-08-22T07:52:00Z) - Sonnet or Not, Bot? Poetry Evaluation for Large Models and Datasets [3.0040661953201475]
大規模言語モデル(LLM)が詩を生成、認識できるようになった。
我々はLLMが英語詩の1つの側面をいかに認識するかを評価するタスクを開発する。
我々は,現在最先端のLLMが,一般的な文体と一般的でない文体の両方を識別できることを示す。
論文 参考訳(メタデータ) (2024-06-27T05:36:53Z) - Delving into LLM-assisted writing in biomedical publications through excess vocabulary [4.58733012283457]
ChatGPTのような大きな言語モデル(LLM)は、人間レベルのパフォーマンスでテキストを生成し、修正することができる。
PubMedによる2010年から2024年にかけての1500万以上のバイオメディカル・抽象化の語彙変化について検討した。
バイオメディカル研究におけるLCMは,コビッドパンデミックなどの世界大イベントの影響を超越し,科学的な執筆に前例のない影響を与えていることを示す。
論文 参考訳(メタデータ) (2024-06-11T07:16:34Z) - LFED: A Literary Fiction Evaluation Dataset for Large Language Models [58.85989777743013]
元々は中国語で書かれたか、中国語に翻訳された95の文学小説を収集し、数世紀にわたって幅広い話題を扱っている。
質問分類を8つのカテゴリーで定義し,1,304の質問の作成を導く。
我々は、小説の特定の属性(小説の種類、文字番号、出版年など)がLLMのパフォーマンスに与える影響を詳細に分析する。
論文 参考訳(メタデータ) (2024-05-16T15:02:24Z) - AlignedCoT: Prompting Large Language Models via Native-Speaking Demonstrations [52.43593893122206]
Alignedcotは、大規模言語モデルを呼び出すためのコンテキスト内学習技術である。
ゼロショットシナリオでは、一貫した正しいステップワイズプロンプトを達成する。
数学的推論とコモンセンス推論の実験を行う。
論文 参考訳(メタデータ) (2023-11-22T17:24:21Z) - The Ups and Downs of Large Language Model Inference with Vocabulary Trimming by Language Heuristics [74.99898531299148]
本研究は,興味のある言語への埋め込みエントリを制限し,時間と記憶効率を高めることによる語彙トリミング(VT)について検討する。
Unicodeベースのスクリプトフィルタリングとコーパスベースの選択という2つの言語を異なる言語ファミリやサイズに適用する。
その結果、VTは小型モデルのメモリ使用量を50%近く削減し、生成速度が25%向上した。
論文 参考訳(メタデータ) (2023-11-16T09:35:50Z) - MixPoet: Diverse Poetry Generation via Learning Controllable Mixed
Latent Space [79.70053419040902]
多様な要素を吸収し,多様なスタイルを創出し,多様性を促進する新しいモデルであるMixPoetを提案する。
半教師付き変分オートエンコーダに基づいて、我々のモデルは潜在空間をいくつかの部分空間に切り離し、それぞれが敵の訓練によって1つの影響因子に条件付けされる。
中国詩の実験結果は、MixPoetが3つの最先端モデルに対して多様性と品質の両方を改善していることを示している。
論文 参考訳(メタデータ) (2020-03-13T03:31:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。