論文の概要: Controlled Paraphrase Geometry in Sentence Embedding Space: Local Manifold Modeling and Latent Probing
- arxiv url: http://arxiv.org/abs/2605.01073v1
- Date: Fri, 01 May 2026 20:12:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.567383
- Title: Controlled Paraphrase Geometry in Sentence Embedding Space: Local Manifold Modeling and Latent Probing
- Title(参考訳): 文埋め込み空間における制御されたパラフレーズ幾何学:局所多様体モデリングと潜時探索
- Authors: Leonid Bedratyuk,
- Abstract要約: 本論文は, セマンティック・クローズド文によって誘導される埋め込み雲の局所幾何学について研究する。
本稿では,アフィンモデル,二次モデル,立方体モデルに基づく局所幾何学的モデリング手法を提案する。
また,局所PCAの縮小した空間において,合成潜伏点を構成するサーフェスベース潜伏探索法を用いる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The paper studies the local geometry of embedding clouds induced by \emph{controlled local classes of semantically close sentences}. The central question is how controlled paraphrase-like semantic variation is organized in sentence embedding space and whether this local structure can be explicitly modeled by low-degree fitted carriers. We introduce a local geometric modeling scheme based on affine, quadratic, and cubic fitted models. We also use a surface-based latent probing procedure that constructs synthetic latent points in a reduced local PCA space with respect to the fitted carrier. The procedure is intended as an offline method for representation-space analysis, local manifold modeling, and geometry-aware latent probing. Generated latent points are evaluated using criteria that measure consistency with the fitted surface, preservation of neighborhood structure, agreement with the empirical distribution, stability of Hessian-based second-order shape descriptors, and stability of fitted-model coefficients. Experiments on controlled sets of semantically close sentences show that nonlinear local models describe embedding clouds more accurately than affine models. Surface-based generation provides strong fitted-geometry fidelity, including surface consistency, Hessian-based shape consistency, and coefficient consistency. Downstream experiments show that geometric validity of synthetic latent points does not automatically translate into improved classification performance. The results support explicit local geometric modeling of sentence embedding space and highlight the need to distinguish geometric validity from discriminative utility. As a resource contribution, we introduce \textbf{CoPaGE-300K}, a controlled template-based dataset of semantically close sentence variants with slot-level annotations and precomputed sentence embeddings.
- Abstract(参考訳): 本論文は, セマンティック・クローズド文の局所クラスによって誘導される埋め込み雲の局所幾何学について研究する。
中心的な疑問は、どのように制御されたパラフレーズのような意味変異が文埋め込み空間に組織されるか、また、この局所構造が低次対応キャリアによって明示的にモデル化できるかどうかである。
本稿では,アフィンモデル,二次モデル,立方体モデルに基づく局所幾何学的モデリング手法を提案する。
また, 局所PCA空間を縮小した局所空間において, 合成潜伏点を構成するサーフェスベース潜伏探傷法を用いる。
この手順は、表現空間解析、局所多様体モデリング、幾何学的潜在探索のオフライン手法として意図されている。
生成した潜伏点は, 入射面との整合性, 近傍構造の保存, 経験的分布との整合性, ヘッセン系2階形状記述子の安定性, 入射モデル係数の安定性などの基準を用いて評価した。
意味論的閉文の制御された集合の実験により、非線型局所モデルはアフィンモデルよりも正確な埋め込み雲を記述することが示されている。
表面ベースの生成は、表面の整合性、ヘッセン型形状の整合性、係数の整合性など、強い不整合性を提供する。
下流実験は、合成潜伏点の幾何的妥当性が自動的に分類性能に変換されないことを示した。
その結果, 文埋め込み空間の局所的局所幾何学的モデリングを支援し, 識別ユーティリティと幾何学的妥当性を区別する必要性を強調した。
リソースコントリビューションとして,スロットレベルのアノテーションと事前計算文の埋め込みを含むセマンティック・クローズド文のテンプレートベースデータセットである \textbf{CoPaGE-300K} を導入する。
関連論文リスト
- LAG-XAI: A Lie-Inspired Affine Geometric Framework for Interpretable Paraphrasing in Transformer Latent Spaces [1.3788139387418392]
本稿では,埋め込み空間内の構造的アフィン変換としてパラフレージングをモデル化する幾何学的フレームワークであるRAG-XAIを紹介する。
Sentence-BERTでエンコードされた、ノイズの多いPIT-2015 Twitterコーパスの実験は、"線形透明性"現象を明らかにしている。
このモデルは、非線形ベースラインの効果的な分類能力(AUC 0.8405)の約80%を捕捉し、絶対精度の限界降下と引き換えに明確な解釈性を提供する。
論文 参考訳(メタデータ) (2026-04-07T17:02:21Z) - Latent Semantic Manifolds in Large Language Models [0.0]
本研究では,大規模言語モデルに隠れた状態を潜在意味多様体上の点として解釈する数学的枠組みを開発する。
我々は2つの定理を証明し、任意の有限語彙に対する歪みに対する速度歪みの低い境界と、表現可能性ギャップに対する線形体積スケーリング法則を証明した。
本稿では,アーキテクチャ設計,モデル圧縮,復号化戦略,スケーリング法則について論じる。
論文 参考訳(メタデータ) (2026-03-17T13:05:56Z) - SGMatch: Semantic-Guided Non-Rigid Shape Matching with Flow Regularization [43.12848612518533]
SGMatchは意味誘導型非厳密な形状マッチングのための学習ベースのフレームワークである。
具体的には,視覚基盤モデルから幾何学的記述子への意味的特徴を統合するセマンティックガイド型ローカルクロスアテンションモジュールを設計する。
本研究では,時間変化速度場を監督し,回復した対応の空間的滑らかさを促進する条件付きフローマッチングに基づく正規化目標を提案する。
論文 参考訳(メタデータ) (2026-03-13T12:31:43Z) - Adaptive Point-Prompt Tuning: Fine-Tuning Heterogeneous Foundation Models for 3D Point Cloud Analysis [51.37795317716487]
本稿では,パラメータの少ない事前学習モデルを微調整するAdaptive Point-Prompt Tuning (APPT)法を提案する。
局所幾何学を集約することで原点雲を点埋め込みに変換し、空間的特徴を捉える。
任意のモダリティのソース領域から3Dへの自己アテンションを校正するために,重みを点埋め込みモジュールと共有するプロンプトジェネレータを導入する。
論文 参考訳(メタデータ) (2025-08-30T06:02:21Z) - CP$^2$: Leveraging Geometry for Conformal Prediction via Canonicalization [51.716834831684004]
幾何データシフトにおける共形予測(CP)の問題について検討する。
本稿では,幾何的ポーズなどの幾何学的情報を統合することを提案する。
論文 参考訳(メタデータ) (2025-06-19T10:12:02Z) - Grounding Continuous Representations in Geometry: Equivariant Neural Fields [26.567143650213225]
そこで我々は,幾何インフォームド・クロスアテンションを用いた新しいCNFアーキテクチャを提案する。
このアプローチは、フィールドと潜伏剤の両方を幾何学的にグラウンド化することによって、ステアビリティ特性を誘導することを示す。
分類,セグメンテーション,予測,再構築,生成モデルなど,様々なタスクにおいて,これらの主な特性を検証する。
論文 参考訳(メタデータ) (2024-06-09T12:16:30Z) - Latent Semantic Consensus For Deterministic Geometric Model Fitting [109.44565542031384]
我々はLSC(Latent Semantic Consensus)と呼ばれる効果的な方法を提案する。
LSCは、モデルフィッティング問題をデータポイントとモデル仮説に基づく2つの潜在意味空間に定式化する。
LSCは、一般的な多構造モデルフィッティングのために、数ミリ秒以内で一貫した、信頼性の高いソリューションを提供することができる。
論文 参考訳(メタデータ) (2024-03-11T05:35:38Z) - Reconstructing Spatiotemporal Data with C-VAEs [49.1574468325115]
移動領域の条件付き連続表現は一般的に用いられる。
本研究では,条件変数自動エンコーダ(C-VAE)モデルを用いて,領域の進化を現実的に表現する機能について検討する。
論文 参考訳(メタデータ) (2023-07-12T15:34:10Z) - Analyzing the Latent Space of GAN through Local Dimension Estimation [4.688163910878411]
高忠実度画像合成におけるスタイルベースGAN(StyleGAN)は、それらの潜在空間の意味的特性を理解するために研究の動機となっている。
事前学習したGANモデルにおける任意の中間層に対する局所次元推定アルゴリズムを提案する。
提案した計量はDistortionと呼ばれ、学習された潜在空間上の内在空間の不整合を測定する。
論文 参考訳(メタデータ) (2022-05-26T06:36:06Z) - Rethinking the Zigzag Flattening for Image Reading [48.976491898131265]
我々はHilbert fractal flattening (HF) をコンピュータビジョンにおけるシーケンスオーダの別の方法として検討する。
HFは空間的局所性を維持する上で他の曲線よりも優れていることが証明されている。
ほとんどのディープニューラルネットワーク(DNN)に簡単に接続できる。
論文 参考訳(メタデータ) (2022-02-21T13:53:04Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。