論文の概要: Scalable Semantic Steering of Embedding Projections
- arxiv url: http://arxiv.org/abs/2607.03978v1
- Date: Sat, 04 Jul 2026 18:24:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.783675
- Title: Scalable Semantic Steering of Embedding Projections
- Title(参考訳): 埋め込み射影のスケーラブルなセマンティックステアリング
- Abstract要約: 低次元投影は高次元データ埋め込みのインタラクティブな視覚解析をサポートするが、その構造はアナリスト定義のセマンティックな関係と一致しないことが多い。
近年のLLM拡張型セマンティックステアリング手法は,ユーザ定義したシードグループからアナリスト意図を外部化することによって,このギャップに対処している。
本稿では,意味計算を個々の項目からユーザ定義グループにシフトする,スケーラブルなセマンティックステアリング手法を提案する。
- 参考スコア(独自算出の注目度): 7.516736502809871
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-dimensional projections support interactive visual analysis of high-dimensional data embeddings, but their structure often does not align with analyst-defined semantic relationships. Recent LLM-augmented semantic steering methods address this gap by externalizing analyst intent from user-defined groups of seed examples, but they propagate intent through per-item LLM reasoning, causing LLM calls and cost to grow linearly with collection size. We propose a scalable semantic steering method that shifts semantic computation from individual items to user-defined groups. A single LLM call generates structured profiles for all groups, which are embedded and combined with seed centroids to form hybrid semantic prototypes. The method then propagates intent without retraining, using embedding-space soft assignment, abstention, and alignment-scaled updates before reprojection. On a 5K-document LitCovid corpus, our method achieves global alignment comparable to per-item LLM steering while reducing LLM calls by over three orders of magnitude. An image case study shows that the same prototype-based mechanism extends to multimodal embeddings. These results suggest that group-level representations can make semantic steering more practical for larger embedding collections.
- Abstract(参考訳): 低次元の投影は高次元データ埋め込みのインタラクティブな視覚解析をサポートするが、その構造はアナリスト定義のセマンティックな関係と一致しないことが多い。
近年のLLM拡張型セマンティックステアリング手法は,ユーザ定義したシードサンプル群からアナリストの意図を外部化することによって,このギャップに対処するが,LLM単位の推論によって意図を伝播させ,LLM呼び出しとコストをコレクションサイズとともに線形に増加させる。
本稿では,意味計算を個々の項目からユーザ定義グループにシフトする,スケーラブルなセマンティックステアリング手法を提案する。
LLMコールはすべてのグループに対して構造化プロファイルを生成し、組み込まれ、シードセントロイドと組み合わせてハイブリッドセマンティックプロトタイプを形成する。
提案手法は,再学習をせずにインテントを伝播し,組込み空間のソフトアサインメント,棄却,アライメントスケールの更新を行う。
5K文書のLitCovidコーパスでは,LLMコールを3桁以上削減しつつ,LLMステアリングに匹敵する大域的アライメントを実現する。
イメージケーススタディでは、同じプロトタイプベースのメカニズムがマルチモーダル埋め込みに拡張されている。
これらの結果から,グループレベルの表現により,より大規模な埋め込みコレクションにおいてセマンティックステアリングがより実用的になる可能性が示唆された。
関連論文リスト
- GRACE: LLM-Grounded Semantic Metric Spaces for Scalable Mixed-Data Clustering [19.352298911016668]
GRACEはスケーラブルな混合データクラスタリングのためのフレームワークである。
不均一な値を知識情報記述にマッピングする。
11の競合する手法よりも優れたクラスタリング精度と概念解釈性を実現する。
論文 参考訳(メタデータ) (2026-08-08T03:14:50Z) - DySem: Uncovering Dynamic Semantic Components of Large Language Models for Calculating Semantic Textual Similarity [12.354777054071379]
意味的テキスト類似性を計算することは自然言語処理の基本課題である。
我々はDySemを提案する。DySemは、大規模言語モデルのより意味論的な内部コンポーネントを調査する、新しいトレーニング不要のフレームワークである。
論文 参考訳(メタデータ) (2026-05-28T10:47:32Z) - LLM-Augmented Semantic Steering of Text Embedding Projection Spaces [7.516736502809871]
LLMを付加したセマンティックステアリングを導入し、アナリストはプロジェクション内のサンプル文書の小さなセットをグループ化することでセマンティックな意図を表現できる。
大規模言語モデルは、この意図を自然言語表現として外部化し、関連する文書に選択的に拡張する。
結果のセマンティック情報は、テキスト拡張や埋め込みレベルのブレンディングを通じて文書表現に組み込まれる。
論文 参考訳(メタデータ) (2026-05-03T16:41:11Z) - HCRE: LLM-based Hierarchical Classification for Cross-Document Relation Extraction with a Prediction-then-Verification Strategy [54.91468501159335]
文書間関係抽出 (RE) は, 異なる文書に存在する頭部尾部エンティティ間の関係を識別することを目的としている。
本稿では,各レベルでの多視点検証により信頼性を向上させる推論戦略を提案する。
論文 参考訳(メタデータ) (2026-04-09T07:55:27Z) - ClusterFusion: Hybrid Clustering with Embedding Guidance and LLM Adaptation [52.794544682493814]
大規模言語モデル(LLM)は、強いコンテキスト推論を提供するが、以前の作業では、組み込みを洗練したりクラスタ境界を調整するために、主に補助モジュールとして使用していた。
本稿では,LLMをクラスタリングコアとして扱うハイブリッドフレームワークであるClusterFusionを提案する。
3つの公開ベンチマークと2つの新しいドメイン固有のデータセットの実験は、ClusterFusionが標準的なタスクで最先端のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2025-12-04T00:49:43Z) - LLM-MemCluster: Empowering Large Language Models with Dynamic Memory for Text Clustering [52.41664454251679]
大規模言語モデル(LLM)は、テキストクラスタリングを行う前例のない能力を提供することで、教師なしの学習を再構築している。
既存のメソッドは、しばしば外部モジュールを持つ複雑なパイプラインに依存し、真にエンドツーエンドのアプローチを犠牲にする。
LLM-MemClusterは,クラスタリングをLLMネイティブタスクとして再認識する新しいフレームワークである。
論文 参考訳(メタデータ) (2025-11-19T13:22:08Z) - LLM-guided Hierarchical Retrieval [54.73080745446999]
LATTICEは階層的な検索フレームワークであり、LLMは対数探索の複雑さで大きなコーパスを推論し、ナビゲートすることができる。
LLM誘導探索における中心的な課題は、モデルの関連性判断がノイズが多く、文脈に依存し、階層性に気付かないことである。
我々のフレームワークは、推論集約型BRIGHTベンチマークで最先端のゼロショット性能を実現する。
論文 参考訳(メタデータ) (2025-10-15T07:05:17Z) - TWIST: Training-free and Label-free Short Text Clustering through Iterative Vector Updating with LLMs [18.746184073913813]
本稿では,短時間のテキストクラスタリングのためのトレーニングフリーかつラベルフリーな手法を提案する。
提案手法は,最先端手法に匹敵する,あるいは優れた結果が得られる。
論文 参考訳(メタデータ) (2025-10-08T08:05:39Z) - RecBase: Generative Foundation Model Pretraining for Zero-Shot Recommendation [78.01030342481246]
RecBaseは、レコメンデーション指向の目的によって事前訓練されたドメインに依存しない基礎モデルである。
アイテムを階層的な概念識別子にエンコードする統一されたアイテムトークンを導入します。
我々のモデルは、ゼロショットおよびクロスドメインレコメンデーションタスクにおいて、LLMのベースラインの最大7Bパラメータのパフォーマンスを一致または超過します。
論文 参考訳(メタデータ) (2025-09-03T08:33:43Z) - Latent Factor Models Meets Instructions: Goal-conditioned Latent Factor Discovery without Task Supervision [50.45597801390757]
Instruct-LFはゴール指向の潜在因子発見システムである。
命令フォロー機能と統計モデルを統合して、ノイズの多いデータセットを処理する。
論文 参考訳(メタデータ) (2025-02-21T02:03:08Z) - Align$^2$LLaVA: Cascaded Human and Large Language Model Preference Alignment for Multi-modal Instruction Curation [56.75665429851673]
本稿では,人間とLLMの選好アライメントという2つのユニークな視点から導いた,新しい命令キュレーションアルゴリズムを提案する。
実験により,合成マルチモーダル命令を最大90%圧縮することにより,モデル性能の維持や改善が可能であることが示された。
論文 参考訳(メタデータ) (2024-09-27T08:20:59Z) - LLM with Relation Classifier for Document-Level Relation Extraction [25.587850398830252]
大規模言語モデル(LLM)は、自然言語処理のための新しいパラダイムを生み出した。
本稿では,この性能ギャップの原因を解明し,関係のないエンティティペアによるLCMによる注意の分散を重要要因とする。
論文 参考訳(メタデータ) (2024-08-25T16:43:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。