論文の概要: Exploring Concreteness Through a Figurative Lens
- arxiv url: http://arxiv.org/abs/2604.18296v1
- Date: Mon, 20 Apr 2026 14:02:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.922016
- Title: Exploring Concreteness Through a Figurative Lens
- Title(参考訳): 図形レンズによるコンクリートの探究
- Authors: Saptarshi Ghosh, Tianyu Jiang,
- Abstract要約: 4つのモデルファミリにまたがる隠れ表現を階層的に幾何学的に解析する。
LLMは初期層におけるリテラルと比喩的利用を分離し,中~後期層はコンクリートを1次元方向に圧縮することがわかった。
単一の具体性方向は効率的な図形言語分類をサポートし、よりリテラルやより図形的な書き直しに向けて、生成のトレーニング不要なステアリングを可能にする。
- 参考スコア(独自算出の注目度): 5.331858521587434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Static concreteness ratings are widely used in NLP, yet a word's concreteness can shift with context, especially in figurative language such as metaphor, where common concrete nouns can take abstract interpretations. While such shifts are evident from context, it remains unclear how LLMs understand concreteness internally. We conduct a layer-wise and geometric analysis of LLM hidden representations across four model families, examining how models distinguish literal vs figurative uses of the same noun and how concreteness is organized in representation space. We find that LLMs separate literal and figurative usage in early layers, and that mid-to-late layers compress concreteness into a one-dimensional direction that is consistent across models. Finally, we show that this geometric structure is practically useful: a single concreteness direction supports efficient figurative-language classification and enables training-free steering of generation toward more literal or more figurative rewrites.
- Abstract(参考訳): 静的な具体性格付けはNLPで広く使われているが、単語の具体性は文脈によって変化し、特に比喩のような比喩的な言語では、一般的な具体的名詞が抽象的な解釈をすることができる。
このような変化は文脈から明らかであるが、LLMが内部で具体性をどのように理解しているかははっきりしない。
4つのモデル族にまたがるLLM隠れ表現の階層的および幾何学的解析を行い、モデルが同じ名詞のリテラルと比喩的利用をどのように区別するか、表現空間における具体性がどのように構成されているかを検討する。
LLMは初期層におけるリテラルと比喩的使用法を分離し,中~後期層は,モデル間で一貫した一次元方向にコンクリートを圧縮することがわかった。
最後に, この幾何学的構造は, 一つの具体的方向が効率的な図形言語分類をサポートし, よりリテラルやより図形的な書き直しに向けて, 生成の学習自由なステアリングを可能にする。
関連論文リスト
- Floating or Suggesting Ideas? A Large-Scale Contrastive Analysis of Metaphorical and Literal Verb-Object Constructions [53.690096725532726]
本研究では,2Mコーパス文中の297の英語動詞オブジェクト対(例:float idea vs. suggest idea)を分析した。
5つのNLPツールを用いて,感情的,語彙的,統語的,言論的な特徴を捉えた認知的・言語的特徴2,293点を抽出した。
クロスペアの結果は, 語彙頻度, 凝集度, 構造規則性が高く, 比喩的文脈は感情負荷, イメージ性, 語彙多様性, 構造的特異性を示す。
論文 参考訳(メタデータ) (2026-04-09T14:08:57Z) - I Came, I Saw, I Explained: Benchmarking Multimodal LLMs on Figurative Meaning in Memes [53.717874073948984]
本研究では,6種類の図形的意味を検出・説明する能力に基づいて,8種類の最先端生成型大言語モデル (MLLM) の評価を行った。
以上の結果から,すべてのモデルにおいて,そのような意味が存在しない場合でも,ミームと図形的意味を関連づけるバイアスが強いことが示唆された。
論文 参考訳(メタデータ) (2026-03-24T14:02:48Z) - Unveiling LLMs' Metaphorical Understanding: Exploring Conceptual Irrelevance, Context Leveraging and Syntactic Influence [40.32545329527664]
大規模言語モデル(LLM)は、知識統合、文脈推論、創造的生成における高度な能力を示す。
本研究では,LLMのメタファ処理能力について3つの視点から検討する。
論文 参考訳(メタデータ) (2025-10-05T09:45:51Z) - The Representational Alignment between Humans and Language Models is implicitly driven by a Concreteness Effect [4.491391835956324]
本研究では,人間によって暗黙的に使用される意味距離を,慎重に選択された抽象名詞と具体名詞の集合として推定する。
参加者の暗黙的表現空間と言語モデルの意味的表現が著しく一致していることが判明した。
結果は、人間と言語モデルは具体性次元に収束するが、他の次元には収束しないことを示している。
論文 参考訳(メタデータ) (2025-05-21T15:57:58Z) - Compositional Entailment Learning for Hyperbolic Vision-Language Models [54.41927525264365]
画像とテキストのペアを超えて、双曲的埋め込みの自然的階層性を完全に活用する方法を示す。
双曲型視覚言語モデルのための構成的包摂学習を提案する。
数百万の画像テキストペアで訓練された双曲型視覚言語モデルに対する経験的評価は、提案手法が従来のユークリッドCLIP学習より優れていることを示している。
論文 参考訳(メタデータ) (2024-10-09T14:12:50Z) - Fantastic Semantics and Where to Find Them: Investigating Which Layers of Generative LLMs Reflect Lexical Semantics [50.982315553104975]
本稿では,Llama2という人気言語モデルに対する語彙意味論のボトムアップ進化について検討する。
実験の結果,下位層の表現は語彙的意味論を符号化しているが,上位層はより弱い意味帰納的帰納的帰納的帰納的帰納的帰納的帰納的帰属的帰属的帰属的帰属的存在であることがわかった。
これは、高層層がより良い語彙意味論を得るマスク言語モデリングのような差別的な目的を持つモデルとは対照的である。
論文 参考訳(メタデータ) (2024-03-03T13:14:47Z) - LMs stand their Ground: Investigating the Effect of Embodiment in
Figurative Language Interpretation by Language Models [0.0]
表現言語は、その解釈が従来の順序や意味から逸脱しているため、言語モデルの課題である。
しかし、人間がメタファーを理解し解釈するのは、メタファーを具現化したメタファーから導き出すことができるためである。
本研究は、比喩文の動作がより具体化されている場合に、より大きな言語モデルが比喩文の解釈にいかに優れているかを示す。
論文 参考訳(メタデータ) (2023-05-05T11:44:12Z) - Unsupervised Distillation of Syntactic Information from Contextualized
Word Representations [62.230491683411536]
我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。
この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。
我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
論文 参考訳(メタデータ) (2020-10-11T15:13:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。