論文の概要: Token-to-Token Alignment of Text Embeddings for Semantic Blending

• arxiv url: http://arxiv.org/abs/2606.24021v1
• Date: Mon, 22 Jun 2026 23:54:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.714265
• Title: Token-to-Token Alignment of Text Embeddings for Semantic Blending
• Title（参考訳）: 意味的ブレンディングのためのテキスト埋め込みのtoken-tokenアライメント
• Authors: Saar Huberman, Ron Mokady, Or Patashnik, Daniel Cohen-Or,
• Abstract要約: 本稿では,プロンプト間のトークン間の明示的な意味的対応を確立するフレームワークであるToken-to-Tokenアライメントを紹介する。 この結果から,テキストから画像への埋め込み空間は,表現が適切に整列されたときにアクセス可能な連続的な意味構造を暗黙的に符号化していることがわかった。
• 参考スコア（独自算出の注目度）: 55.88554156801394
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In modern generative models, images are specified and controlled through text prompts. In practice, images are generated from sequences of tokens derived from these prompts. However, the space of token sequences lacks a consistent accessible structure: semantically similar images may correspond to sequences that differ in wording, ordering, and placement of concepts, while similar token sequences may encode very different semantics. This apparent lack of structure makes it difficult to perform smooth transitions in this space, hindering applications such as image blending and continuous control of edits. We argue that this limitation stems not from the absence of semantic structure, but from misalignment between representations. To address this misalignment, we introduce Token-to-Token alignment, a framework that establishes explicit semantic correspondence between tokens across prompts. Our approach transforms prompts into a structured representation in which semantically corresponding concepts are mapped to consistent positions across prompts, and then aligns their token embeddings based on semantic similarity. Concretely, the method consists of two stages: a structural alignment that rephrases prompts into a shared structured form, followed by an embedding-level alignment that matches token representations across prompts. With this alignment in place, simple linear interpolation becomes a meaningful operation, producing smooth and coherent semantic transitions and enabling applications such as blending and continuous editing. Our results show that text embedding spaces in text-to-image models implicitly encode a continuous semantic structure that becomes accessible once representations are properly aligned, suggesting that semantic control can be achieved by organizing existing representations rather than modifying the generative model.
• Abstract（参考訳）: 現代の生成モデルでは、画像はテキストプロンプトによって指定され、制御される。 実際には、これらのプロンプトから派生したトークンのシーケンスから画像を生成する。 意味的に類似したイメージは、言葉、順序、概念の配置が異なるシーケンスに対応し、類似のトークンシーケンスは、全く異なる意味論をエンコードする。 この構造が明らかに欠如していることは、この空間でスムーズな遷移を実行するのを難しくし、画像のブレンディングや編集の連続的な制御といった応用を妨げる。 この制限は意味的構造が欠如しているのではなく、表現間のミスアライメントによるものであると我々は主張する。 このミスアライメントに対処するために,トークン間のトークン間の明示的な意味的対応を確立するフレームワークであるToken-to-Tokenアライメントを導入する。 我々のアプローチはプロンプトを構造化表現に変換し、セマンティックな概念をプロンプトをまたいだ一貫した位置にマッピングし、セマンティックな類似性に基づいてトークンの埋め込みを整列させる。 具体的には、この手法は2つの段階から構成される: プロンプトを共用する構造的アライメントと、プロンプトをまたいだトークン表現に一致する埋め込みレベルアライメントである。 このアライメントによって、単純な線形補間は意味のある操作となり、滑らかで一貫性のあるセマンティックトランジションを生成し、ブレンディングや連続編集のようなアプリケーションを可能にする。 テキストから画像へのテキスト埋め込み空間は,表現が適切に整列されたときにアクセス可能な連続的な意味構造を暗黙的に符号化し,生成モデルを変更するのではなく,既存の表現を整理することで意味制御を実現することができることを示す。

関連論文リスト

• STEDiff: Strengthening Text Embedding for Text-to-Image Alignment in Diffusion Model [4.685207648946472]
  STEDiffは、テキスト埋め込み空間内で意味表現を直接拡張するために設計された、トレーニング不要のメソッドである。 本手法は複雑なシナリオにおける意味的一貫性と生成を顕著に改善する。
  論文  参考訳（メタデータ） (2026-06-09T09:59:09Z)
• MaskAlign: Token-Subset Representation Alignment for Efficient Diffusion Training [53.777757218665386]
  MaskAlignは、トレーニング中にランダムにサンプリングされたトークンサブセットにアライメントを適用するトークン-サブセット表現アライメント手法である。 我々は、MaskAlignが完全なトークン集合への配向の依存を減らし、トークン-サブセット摂動下でより安定な配向挙動を促進することを示す。
  論文  参考訳（メタデータ） (2026-06-07T19:11:22Z)
• Decomposed Vision-Language Alignment for Fine-Grained Open-Vocabulary Segmentation [16.594496639787195]
  開語彙セグメンテーションモデルは、しばしばカテゴリオブジェクトと属性の目に見えない組み合わせに一般化するのに苦労する。 本稿では、テキストプロンプトを概念トークンと複数の属性トークンに分解する分解視覚言語アライメントフレームワークを提案する。 機能レベルでは,属性固有のゲーティングマップを生成し,情報を乗法的に融合する機能拡張型クロスアテンションモジュールを導入する。
  論文  参考訳（メタデータ） (2026-05-15T13:27:01Z)
• Communication-Inspired Tokenization for Structured Image Representations [74.17163003465537]
  COMiT(Communication inspired Tokenization)は、構造化された視覚トークンシーケンスを学習するためのフレームワークである。 セマンティックアライメントが基盤となる一方で、解釈可能なオブジェクト中心のトークン構造を誘導するためには、注意的なシーケンシャルトークン化が重要であることを示す。
  論文  参考訳（メタデータ） (2026-02-24T09:53:50Z)
• TokenCLIP: Token-wise Prompt Learning for Zero-shot Anomaly Detection [62.95726973851089]
  TokenCLIPは、異常学習のためのトークンワイド適応フレームワークである。 視覚的なテキスト空間と学習可能なテキスト空間の動的アライメントを可能にし、微粒な異常学習を実現する。
  論文  参考訳（メタデータ） (2025-10-24T05:51:31Z)
• InvSeg: Test-Time Prompt Inversion for Semantic Segmentation [33.60580908728705]
  InvSegはオープン語彙セマンティックセグメンテーションに取り組むテストタイムプロンプトインバージョンメソッドである。 コントラストソフトクラスタリング(Contrastive Soft Clustering, CSC)を導入し, 導出マスクを画像の構造情報と整合させる。 InvSegはコンテキストリッチなテキストプロンプトを埋め込み空間で学習し、モダリティ間の正確なセマンティックアライメントを実現する。
  論文  参考訳（メタデータ） (2024-10-15T10:20:31Z)
• RealignDiff: Boosting Text-to-Image Diffusion Model with Coarse-to-fine Semantic Re-alignment [112.45442468794658]
  本稿では,RealignDiffという2段階の粗大なセマンティックアライメント手法を提案する。 粗いセマンティックリアライメントフェーズにおいて、生成された画像キャプションと与えられたテキストプロンプトとのセマンティックな相違を評価するために、新しいキャプション報酬を提案する。 微妙なセマンティックリアライメントステージは、局所的な密集キャプション生成モジュールと再重み付けアテンション変調モジュールを用いて、局所的なセマンティックビューから生成された画像を洗練する。
  論文  参考訳（メタデータ） (2023-05-31T06:59:21Z)
• Unsupervised Distillation of Syntactic Information from Contextualized Word Representations [62.230491683411536]
  我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。 この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。 我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
  論文  参考訳（メタデータ） (2020-10-11T15:13:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。