論文の概要: When Can We Work in Embedding Space? What Text Embeddings Preserve

• arxiv url: http://arxiv.org/abs/2608.31059v1
• Date: Mon, 31 Aug 2026 16:35:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.517335
• Title: When Can We Work in Embedding Space? What Text Embeddings Preserve
• Title（参考訳）: 宇宙の埋め込みはいつできるのか? どんなテキスト埋め込みが保存されるのか
• Abstract要約: 埋め込み空間におけるクラスタリングと高次元テキストの制御の2つの用途について検討する。 363大都市圏への申請において、埋め込み型経済記述の集合体は、解釈可能な経済様式を回復する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When do text embeddings work as inputs to empirical analysis? Their use rests on an assumption: that we can trade text for its low-dimensional embedding, and lose little in doing so. I make that assumption precise under a generative model in which documents are mixtures of latent topics. I study two uses---clustering units in embedding space and controlling for high-dimensional text. A cluster of embeddings is a set of documents with similar topic mixtures; controlling for the embedding is equivalent to controlling for the topic mixture, so validity reduces to whether that mixture captures the confounding. In an application to 363 U.S. metropolitan areas, embedding-based clusters of LLM-generated economic descriptions recover interpretable economic archetypes and separate local employment dynamics more sharply than clustering on model residuals, or on a curated set of industry and demographic covariates.
• Abstract（参考訳）: テキスト埋め込みは、経験分析のインプットとして機能するのか? 彼らの使い方は、低次元の埋め込みのためにテキストを交換することができ、それでほとんど失われる、という前提に基づいている。 私は、文書が潜在トピックの混合である生成モデルの下で、その仮定を正確にします。 埋め込み空間におけるクラスタリングと高次元テキストの制御の2つの用途について検討する。 埋め込みのクラスタは、類似したトピックの混合物を持つドキュメントの集合であり、埋め込みの制御はトピックの混合物の制御と等価であるため、その混合がコンバウンドをキャプチャするかどうかの妥当性が低下する。 363大都市圏への申請において、LLMが生み出した経済記述の埋め込みに基づくクラスタは、解釈可能な経済の古型を回復し、モデル残高のクラスタリングや、産業や人口動態のキュレートされたセットよりも、より急激な局所的な雇用動態を分離する。

関連論文リスト

• PRISM: LLM-Guided Semantic Clustering for High-Precision Topics [0.2676349883103403]
  PRISMは、LLMが取得したリッチ表現の利点と、潜在セマンティッククラスタリング手法の低コストと解釈可能性を組み合わせた、構造化されたトピックモデリングフレームワークである。 PRISMは、最先端のローカルトピックモデルや、大規模なフロンティア埋め込みモデルでのクラスタリングでさえ、トピック分離性を改善する。
  論文  参考訳（メタデータ） (2026-04-03T16:56:47Z)
• TopiCLEAR: Topic extraction by CLustering Embeddings with Adaptive dimensional Reduction [0.0]
  TopiCLEAR: 適応次元還元による埋め込みのクラスタリングによるトピック抽出について述べる。 我々は、20News、AgNewsTitle、Reddit、TweetTopicの4つの多様なデータセットに対するアプローチを評価した。 本手法はより解釈可能なトピックを生成し,ソーシャルメディアデータやWebコンテンツ分析への応用の可能性を強調した。
  論文  参考訳（メタデータ） (2025-12-07T07:01:28Z)
• The Medium Is Not the Message: Deconfounding Document Embeddings via Linear Concept Erasure [98.71456610527598]
  埋め込みベースの類似度メトリクスは、テキストのソースや言語のような刺激的な属性に影響される可能性がある。 本稿では,エンコーダ表現から観測された共同創設者に関する情報を除去するデバイアスアルゴリズムにより,これらのバイアスを最小の計算コストで大幅に低減することを示す。
  論文  参考訳（メタデータ） (2025-07-01T23:17:12Z)
• HAMLET: Healthcare-focused Adaptive Multilingual Learning Embedding-based Topic Modeling [4.8342038441006805]
  本稿では,言語間医療トピックモデリングのためのグラフ駆動アーキテクチャであるHAMLETを紹介する。 提案手法では,ニューラルエンハンスド・セマンティック・フュージョンを用いて,大規模言語モデルによって生成されたトピックの埋め込みを改良する。 実験は2つの医療データセットを用いて行われ、1つは英語、1つはフランス語で、そこから6つのデータセットが抽出された。
  論文  参考訳（メタデータ） (2025-05-12T00:31:36Z)
• Following the Autoregressive Nature of LLM Embeddings via Compression and Alignment [84.74716380180428]
  本稿では,条件付き確率分布を埋め込んだコントラスト学習手法であるAutoRegEmbedを提案する。 本手法は従来のコントラスト学習手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-02-17T03:36:25Z)
• Context-Aware Hierarchical Merging for Long Document Summarization [56.96619074316232]
  本論文では,階層的なマージをソース文書からコンテキストと統合する手法を提案する。 法的および物語的領域を表すデータセットの実験結果は、文脈的拡張がゼロショットと階層的な融合ベースラインを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2025-02-03T01:14:31Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• Are Layout-Infused Language Models Robust to Layout Distribution Shifts? A Case Study with Scientific Documents [54.744701806413204]
  近年の研究では、レイアウト機能を言語モデル(LM)に注入することで、科学論文などの視覚に富んだ文書の処理が改善されている。 レイアウトを注入したLMがレイアウト分布シフトに対して堅牢であるかどうかを検証する。
  論文  参考訳（メタデータ） (2023-06-01T18:01:33Z)
• Beyond prompting: Making Pre-trained Language Models Better Zero-shot Learners by Clustering Representations [24.3378487252621]
  事前学習した言語モデルの埋め込み空間にテキストをクラスタリングすることで、ゼロショットテキスト分類を改善することができることを示す。 提案手法は, 即発的なゼロショット学習よりも平均20%絶対的な改善を実現している。
  論文  参考訳（メタデータ） (2022-10-29T16:01:51Z)
• Author Clustering and Topic Estimation for Short Texts [69.54017251622211]
  同じ文書中の単語間の強い依存をモデル化することにより、遅延ディリクレ割当を拡張できる新しいモデルを提案する。 同時にユーザをクラスタ化し、ホック後のクラスタ推定の必要性を排除しています。 我々の手法は、短文で生じる問題に対する従来のアプローチよりも、-または----------- で機能する。
  論文  参考訳（メタデータ） (2021-06-15T20:55:55Z)
• Nutribullets Hybrid: Multi-document Health Summarization [36.95954983680022]
  本稿では,入力文書の類似性と矛盾を強調する比較要約を生成する手法を提案する。 私たちのフレームワークは、より忠実で関連性があり、集約に敏感な要約につながります。
  論文  参考訳（メタデータ） (2021-04-08T01:44:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。