論文の概要: Meaning Contracts: Local Semantic Geometry in Large Language Models
- arxiv url: http://arxiv.org/abs/2610.30715v1
- Date: Thu, 22 Oct 2026 04:32:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.212298
- Title: Meaning Contracts: Local Semantic Geometry in Large Language Models
- Title（参考訳）: 意味契約:大規模言語モデルにおける局所意味幾何学
- Abstract要約: 本稿では,4つのアーキテクチャ的多様言語モデルで評価された2つの制御されたプローブによる幾何学の特徴付けを行う。
言語横断プローブは言語を摂動として用いて、正確な意味マッチング、同要素の実現、近くの概念、領域外コントラストを分離する。
これらの結果は,LLMセマンティクスが局所異方性地区として組織化されていることを示す証拠として解釈する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies the local geometry of semantic meaning in large language models. Current representation analyses ask whether meanings are close in embedding space, or whether linear probes separate semantic classes, but they do not characterize the within-concept local geometry: what is invariant across realizations of a single semantic factor, what varies, and what changes when meaning is refined. This paper characterizes that geometry through two controlled probes evaluated on four architecturally diverse decoder-only LLMs (Gemma 4, Llama 3.2, Qwen 2.5, Pythia). A cross-lingual probe uses language as a perturbation to separate exact meaning matches, same-factor realizations, nearby concepts, and out-of-domain contrasts. A refinement probe separates specificity-bearing semantic narrowing from high-probability attributive elaboration and adversarial controls; both probes are validated by blind human judgments. Four findings recur across all models: under mean pooling, once dominant variance directions are removed, sentence pairs order by semantic relatedness (same factor, then same domain, then different domain) without overlap over a band of layers; semantic factors organize around an invariant core surrounded by structured realization-specific variation; refinement produces directed displacement into tighter neighborhoods, including against controls built on the same base noun; and sentence-level and token-local readouts expose complementary geometry (volume contraction at the sentence level, sharper anisotropic endpoints at token-local readout). We interpret these results as evidence that LLM semantics are organized as local anisotropic neighborhoods in which meaning contracts under refinement.
- Abstract（参考訳）: 本稿では,大言語モデルにおける意味的意味の局所的幾何学について考察する。
現在の表現解析は、意味が埋め込み空間に近接しているか、線型プローブが別々の意味クラスであるかどうかを問うが、それらは概念内局所幾何学を特徴づけるものではない。
本稿では,2つの制御されたプローブによる幾何学を,アーキテクチャ的に多様である4つのLLM(Gemma 4, Llama 3.2, Qwen 2.5, Pythia)で評価する。
言語横断プローブは言語を摂動として用いて、正確な意味マッチング、同要素の実現、近くの概念、領域外コントラストを分離する。
精細化プローブは、特異性を含む意味的狭小化を、高確率な帰属的エラボレーションと敵対的制御から切り離し、両プローブは盲目の人間の判断によって検証される。
平均プーリングの下では、一度支配的な分散方向が取り除かれ、意味的関連性(同じ因子、同じドメイン、そして異なるドメイン)による順序付けが、複数の層をオーバーラップすることなく行われる。
これらの結果は,LLMセマンティクスが局所異方性地区として組織化されていることを示す証拠として解釈する。
関連論文リスト
- Reduplicative constructions in Mandarin: Socio-emotional profiling through distributional semantics [3.988867718502069]
中国語は2文字の基語またはその構成語を繰り返す2つの生産的な再帰構造を持つ。
本研究の目的は,分布意味論から単語を埋め込むことにより,マンダリン複製の変分意味論をより正確に理解できるかどうかを明らかにすることである。
論文 参考訳（メタデータ） (2026-09-15T08:51:41Z) - See More, Match Better: Multi-Source Feature Fusion for Two-View Correspondence Learning [52.52121389921707]
2視点対応学習は、画像対における真対応(インレーシ)と偽対応(インレーシ)とを区別することを目的としている。
既存の手法は主に座標に基づく幾何の整合性に依存する。
本稿では,2視点対応学習のためのマルチソース機能融合フレームワークTriMatchを提案する。
論文 参考訳（メタデータ） (2026-06-08T09:33:01Z) - LAST: Bridging Vision-Language and Action Manifolds via Gromov-Wasserstein Alignment [71.3712075841632]
LASTはアクション空間を再構築し、ビジョン・ランゲージ・アクション・モダリティとの局所的な距離互換性を確立する。
LASTは収束性と一般化性に優れたVLAモデルを可能にする。
論文 参考訳（メタデータ） (2026-05-27T03:48:10Z) - Psychological Constructs in Shared Semantic Space [0.0]
心理学的構成物は、しばしば別々の楽器、データセット、研究の伝統で測定される。
本稿では, 単語埋め込み空間において, 単語を方向として表現し, 比較することにより, 意味論的にコンメンジュレートするフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-26T10:16:24Z) - Invariant Features in Language Models: Geometric Characterization and Model Attribution [0.5429166905724048]
言語モデルはパラフレージングに対して強い堅牢性を示し、セマンティック情報は安定した内部表現によって符号化される可能性があることを示唆している。
本稿では,意味論的に等価な入力が潜在空間の構造化領域を占有する局所幾何学的枠組みを提案する。
論文 参考訳（メタデータ） (2026-05-07T15:50:31Z) - Visual Language Hypothesis [14.062822951292402]
構造的・トポロジカルな視点から視覚表現学習を研究する。
商の近似もモデルアーキテクチャに構造的要求を与えることを示す。
論文 参考訳（メタデータ） (2025-12-29T09:43:10Z) - HSVA: Hierarchical Semantic-Visual Adaptation for Zero-Shot Learning [74.76431541169342]
ゼロショット学習(ZSL)は、目に見えないクラス認識の問題に取り組み、目に見えないクラスから目に見えないクラスに意味的な知識を移す。
本稿では,意味領域と視覚領域を協調させる新しい階層型意味視覚適応(HSVA)フレームワークを提案する。
4つのベンチマークデータセットの実験では、HSVAは従来のZSLと一般的なZSLの両方で優れた性能を示す。
論文 参考訳（メタデータ） (2021-09-30T14:27:50Z) - Fake it Till You Make it: Self-Supervised Semantic Shifts for
Monolingual Word Embedding Tasks [58.87961226278285]
語彙意味変化をモデル化するための自己教師付きアプローチを提案する。
本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。
3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
論文 参考訳（メタデータ） (2021-01-30T18:59:43Z) - SST-BERT at SemEval-2020 Task 1: Semantic Shift Tracing by Clustering in
BERT-based Embedding Spaces [63.17308641484404]
本稿では,異なる単語の意味の表現として,各単語の異なる事象のクラスタを特定することを提案する。
得られたクラスタの分解は、自然に4つのターゲット言語において、各ターゲットワードごとの意味的シフトのレベルを定量化することができる。
当社のアプローチは,提供されたすべてのSemEvalベースラインを抜いて,個別(言語毎)と全体の両方で良好に動作します。
論文 参考訳（メタデータ） (2020-10-02T08:38:40Z) - Affinity Space Adaptation for Semantic Segmentation Across Domains [57.31113934195595]
本稿では,意味的セグメンテーションにおける教師なしドメイン適応(UDA)の問題に対処する。
ソースドメインとターゲットドメインが不変なセマンティック構造を持つという事実に触発され、ドメイン間におけるそのような不変性を活用することを提案する。
親和性空間適応戦略として,親和性空間の洗浄と親和性空間アライメントという2つの方法を開発した。
論文 参考訳（メタデータ） (2020-09-26T10:28:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。