論文の概要: Where did the ambiguity go? Examining how multimodal models interpret polysemous words
- arxiv url: http://arxiv.org/abs/2608.00410v1
- Date: Sat, 01 Aug 2026 03:13:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.645133
- Title: Where did the ambiguity go? Examining how multimodal models interpret polysemous words
- Title(参考訳): 曖昧さはどこへ行ったか? 多モーダルモデルが多文語をどう解釈するかを考察
- Abstract要約: 画像などの他のモダリティにおける多面体表面の挙動について検討する。
モデルファミリごとに生成した画像が生成した文よりもはるかに少ない感覚で収まる、明確なマルチモーダルギャップが見つかる。
- 参考スコア(独自算出の注目度): 9.455493280255286
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Human language is highly polysemous. Many common words (e.g., 'bank' or 'palm') carry several distinct meanings that shape what humans communicate and imagine. Large language models (LLMs) have been shown to understand this multiplicity of meaning, but much less is known about how polysemy surfaces in other modalities such as images. We study this across 17 text-to-image and 15 text-generation models by giving each a polysemous word with no context to fix its meaning and measuring which senses are produced over many samples. We find a clear multimodal gap, where within every model family, generated images settle on far fewer senses than generated sentences (normalized entropy 0.10 vs. 0.25), and both are far less varied than what people imagine for the same words (normalized entropy 0.47). However, when we instead ask a model to list how often it would generate outputs corresponding to each possible meaning of a word, it predicts distributions that are more diverse than the actual space of outputs. These results reveal a multimodal gap in how foundation models express meaning, and how their understanding may not transfer faithfully nor equally across modalities.
- Abstract(参考訳): 言語は多言語である。
多くの共通語(例:「銀行」または「パルム」)は、人間がコミュニケーションし想像するものを形成するいくつかの異なる意味を持っている。
大規模言語モデル (LLMs) は、この多義性を理解することが示されているが、画像などの他のモダリティにおいて、ポリセミー表面がどのように存在するかは、ほとんど分かっていない。
本研究は17のテキスト・ツー・イメージ・モデルと15のテキスト・ジェネレーション・モデルにまたがって,意味を固定するための文脈のない多文語を与え,多くのサンプル上でどの感覚が生成されるかを測定する。
各モデル群において生成した画像は、生成した文よりもはるかに少ない感覚(正規化エントロピー0.10 vs. 0.25)で落ち着き、両者は同じ単語で想像されるもの(正規化エントロピー0.47)よりもはるかに少ない。
しかし、単語の各意味に対応する出力を生成する頻度をモデルに尋ねると、実際の出力空間よりも多様な分布が予測される。
これらの結果は、基礎モデルが意味を表現する方法と、それらの理解がモダリティを忠実に、均等に伝達しない方法に、マルチモーダルなギャップが浮かび上がっている。
関連論文リスト
- Community-Specific Slang and Entity Detection via Semantic Shift in Fine-Tuned Language Models [2.938641176780401]
オンラインコミュニティからスラング、ユニークな実体、民俗を解決するための教師なしの方法を提案する。
その結果,下位10パーセントのデータを抽出することで,コミュニティに特有の意味を持つ単語を解決できることが示唆された。
対照的に、上位10パーセントのデータは、比較的普遍的な意味論を持つ単語で構成されていることを示す。
論文 参考訳(メタデータ) (2026-04-19T17:30:39Z) - Language Modeling and Understanding Through Paraphrase Generation and Detection [4.080540555071174]
我々は、異なる単語や構造を用いて、ほぼ無限の方法で同じ考えを表現することができる。
パラフレーズのモデリングは、計算言語モデルにおける意味のキーストーンである。
パラフレーズをその構成的言語的側面に分解することで、意味的同値性をより認知的に根ざした視点が得られることを提案する。
論文 参考訳(メタデータ) (2026-02-09T05:09:03Z) - GRADE: Quantifying Sample Diversity in Text-to-Image Models [66.12068246962762]
GRADEはテキスト・画像モデルにおけるサンプルの多様性を定量化する手法である。
GRADEを用いて、合計720K画像上の12種類のモデルの多様性を測定する。
論文 参考訳(メタデータ) (2024-10-29T23:10:28Z) - Conjuring Semantic Similarity [59.18714889874088]
2つのテキスト表現間の意味的類似性は、潜伏者の「意味」の間の距離を測定する
テキスト表現間の意味的類似性は、他の表現を言い換えるのではなく、それらが引き起こすイメージに基づいている、という新しいアプローチを提案する。
提案手法は,人間の注釈付きスコアに適合するだけでなく,テキスト条件付き生成モデル評価のための新たな道を開く意味的類似性に関する新たな視点を提供する。
論文 参考訳(メタデータ) (2024-10-21T18:51:34Z) - Analyzing Polysemy Evolution Using Semantic Cells [0.0]
本研究は, セマンティック・セルの進化的帰結として, ポリーセミー(polysemy)という言葉が現れることを示唆する。
特に、Chat GPTを用いて収集された単語Springの4つの感覚のそれぞれに対して、ある順序で1000文の文列を解析すると、単語が最も多節単調に取得されることを示す。
論文 参考訳(メタデータ) (2024-07-23T00:52:12Z) - Probabilistic Transformer: A Probabilistic Dependency Model for
Contextual Word Representation [52.270712965271656]
本稿では,文脈表現の新しいモデルを提案する。
モデルのグラフは変換器に似ており、依存関係と自己意識の対応性がある。
実験により,本モデルが小型・中型データセットのトランスフォーマーと競合することを示す。
論文 参考訳(メタデータ) (2023-11-26T06:56:02Z) - Exploring Anisotropy and Outliers in Multilingual Language Models for
Cross-Lingual Semantic Sentence Similarity [64.18762301574954]
これまでの研究によると、文脈言語モデルによって出力される表現は静的な型埋め込みよりも異方性が高い。
これは単言語モデルと多言語モデルの両方に当てはまるように思われるが、多言語コンテキストでの作業はあまり行われていない。
複数の事前訓練された多言語言語モデルにおける外乱次元とその異方性との関係について検討する。
論文 参考訳(メタデータ) (2023-06-01T09:01:48Z) - Are Representations Built from the Ground Up? An Empirical Examination
of Local Composition in Language Models [91.3755431537592]
構成的・非構成的句を表現することは言語理解にとって重要である。
まず,より長いフレーズのLM-内部表現を,その構成成分から予測する問題を定式化する。
意味的構成性の人間の判断と相関する予測精度を期待するが、大部分はそうではない。
論文 参考訳(メタデータ) (2022-10-07T14:21:30Z) - Patterns of Lexical Ambiguity in Contextualised Language Models [9.747449805791092]
本稿では,単語感覚の類似度と共述度を拡張した,人間による注釈付きデータセットを提案する。
どちらの人間の判断も、多文解釈の類似性は意味の同一性とホモニミーの連続性にあることを示している。
我々のデータセットは、語彙的曖昧性の複雑さの大部分を捉えており、文脈的埋め込みのための現実的なテストベッドを提供することができる。
論文 参考訳(メタデータ) (2021-09-27T13:11:44Z) - Accurate Word Representations with Universal Visual Guidance [55.71425503859685]
本稿では,視覚指導から従来の単語埋め込みを視覚的に強調する視覚的表現法を提案する。
各単語が多様な関連画像に対応するマルチモーダルシードデータセットから,小型の単語画像辞書を構築する。
12の自然言語理解および機械翻訳タスクの実験により,提案手法の有効性と一般化能力がさらに検証された。
論文 参考訳(メタデータ) (2020-12-30T09:11:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。