論文の概要: StyleTokenizer: Defining Image Style by a Single Instance for Controlling Diffusion Models

• arxiv url: http://arxiv.org/abs/2409.02543v1
• Date: Wed, 4 Sep 2024 09:01:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-05 19:30:37.223647
• Title: StyleTokenizer: Defining Image Style by a Single Instance for Controlling Diffusion Models
• Title（参考訳）: StyleTokenizer: 拡散モデルを制御する単一インスタンスによるイメージスタイルの定義
• Authors: Wen Li, Muyuan Fang, Cheng Zou, Biao Gong, Ruobing Zheng, Meng Wang, Jingdong Chen, Ming Yang,
• Abstract要約: StyleTokenizerはゼロショットスタイルの制御画像生成方法である。 スタイルトークンーを使用してスタイル表現をテキスト表現と整合させる。 このアライメントは、テキストプロンプトの有効性への影響を効果的に最小化する。
• 参考スコア（独自算出の注目度）: 38.31347002106355
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Despite the burst of innovative methods for controlling the diffusion process, effectively controlling image styles in text-to-image generation remains a challenging task. Many adapter-based methods impose image representation conditions on the denoising process to accomplish image control. However these conditions are not aligned with the word embedding space, leading to interference between image and text control conditions and the potential loss of semantic information from the text prompt. Addressing this issue involves two key challenges. Firstly, how to inject the style representation without compromising the effectiveness of text representation in control. Secondly, how to obtain the accurate style representation from a single reference image. To tackle these challenges, we introduce StyleTokenizer, a zero-shot style control image generation method that aligns style representation with text representation using a style tokenizer. This alignment effectively minimizes the impact on the effectiveness of text prompts. Furthermore, we collect a well-labeled style dataset named Style30k to train a style feature extractor capable of accurately representing style while excluding other content information. Experimental results demonstrate that our method fully grasps the style characteristics of the reference image, generating appealing images that are consistent with both the target image style and text prompt. The code and dataset are available at https://github.com/alipay/style-tokenizer.
• Abstract（参考訳）: 拡散過程を制御する革新的な方法が爆発的に増えているにもかかわらず、テキスト・画像生成における画像スタイルを効果的に制御することは難しい課題である。 多くのアダプタベースの手法は、画像制御を達成するためにデノナイジングプロセスに画像表現条件を課す。 しかし、これらの条件は単語の埋め込み空間と一致しないため、画像とテキストの制御条件の干渉や、テキストプロンプトからの意味情報が失われる可能性がある。 この問題に対処するには2つの重要な課題がある。 まず、制御におけるテキスト表現の有効性を損なうことなく、どのようにスタイル表現を注入するか。 第二に、単一の参照画像から正確なスタイル表現を得る方法。 これらの課題に対処するために、スタイルトークン化器を用いてスタイル表現とテキスト表現を整列するゼロショットスタイル制御画像生成法であるStyleTokenizerを導入する。 このアライメントは、テキストプロンプトの有効性への影響を効果的に最小化する。 さらに、Style30kというラベル付きスタイルデータセットを収集し、他のコンテンツ情報を除いて、スタイルを正確に表現できるスタイル特徴抽出器を訓練する。 実験の結果,提案手法は参照画像のスタイル特性を完全に把握し,ターゲット画像のスタイルとテキストのプロンプトに整合した魅力的な画像を生成する。 コードとデータセットはhttps://github.com/alipay/style-tokenizer.comから入手できる。

関連論文リスト

• DEADiff: An Efficient Stylization Diffusion Model with Disentangled Representations [64.43387739794531]
  現在のエンコーダベースのアプローチは、スタイルの転送中にテキスト・ツー・イメージモデルのテキスト制御性を著しく損なう。 この問題に対処するために、以下の2つの戦略を用いてDEADiffを紹介します。 DeAiffは、テキスト・ツー・イメージモデルに固有のテキスト制御性と、参照画像とスタイルの類似性との間の最適な視覚的スタイリング結果と最適なバランスを得る。
  論文  参考訳（メタデータ） (2024-03-11T17:35:23Z)
• Visual Style Prompting with Swapping Self-Attention [26.511518230332758]
  本稿では,特定のスタイル要素やニュアンスを維持しつつ,多様な画像を生成する新しい手法を提案する。 denoisingプロセスの間は、クエリを元の機能から保持し、キーと値を、後期の自己アテンション層にある参照機能と交換します。 提案手法は既存のアプローチよりも優れており,参照のスタイルを最もよく反映し,得られた画像がテキストのプロンプトに最も正確に一致することを保証する。
  論文  参考訳（メタデータ） (2024-02-20T12:51:17Z)
• Style Aligned Image Generation via Shared Attention [61.121465570763085]
  本稿では,一連の生成画像間のスタイルアライメントを確立する技術であるStyleAlignedを紹介する。 拡散過程において、最小限の注意共有を生かして、T2Iモデル内の画像間のスタイル整合性を維持する。 本手法は,多種多様なスタイルやテキストのプロンプトにまたがって評価を行い,高品質で忠実であることを示す。
  論文  参考訳（メタデータ） (2023-12-04T18:55:35Z)
• StyleAdapter: A Single-Pass LoRA-Free Model for Stylized Image Generation [97.24936247688824]
  本稿では,テキストプロンプトとスタイル参照画像を入力として取り込む,スタイル付画像生成のためのLoRAフリーな手法を提案する。 StyleAdapterは、プロンプトの内容にマッチする高品質な画像を生成し、単一のパスで参照のスタイルを採用することができる。
  論文  参考訳（メタデータ） (2023-09-04T19:16:46Z)
• Visual Captioning at Will: Describing Images and Videos Guided by a Few Stylized Sentences [49.66987347397398]
  Few-Shot Stylized Visual Captioningは,任意のスタイルでキャプションを生成することを目的としている。 本稿では,条件付きエンコーダ-デコーダ言語モデルとビジュアルプロジェクションモジュールを用いたFS-StyleCapというフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-07-31T04:26:01Z)
• StyleDrop: Text-to-Image Generation in Any Style [43.42391701778596]
  StyleDropは、テキスト・ツー・イメージ・モデルを用いて特定のスタイルを忠実に追従する画像の合成を可能にする方法である。 トレーニング可能なパラメータをごくわずかに微調整し、反復的なトレーニングを通じて品質を改善することで、新しいスタイルを効率的に学習する。 広範な研究により、スタイルチューニングの作業において、StyleDropはMuseに実装され、他の手法よりも確実に優れていることが示されている。
  論文  参考訳（メタデータ） (2023-06-01T17:59:51Z)
• DiffStyler: Controllable Dual Diffusion for Text-Driven Image Stylization [66.42741426640633]
  DiffStylerは、拡散された結果の内容とスタイルのバランスを制御するための二重拡散処理アーキテクチャである。 本稿では、逆復調処理をベースとしたコンテンツ画像に基づく学習可能なノイズを提案し、そのスタイリング結果により、コンテンツ画像の構造情報をよりよく保存する。
  論文  参考訳（メタデータ） (2022-11-19T12:30:44Z)
• APRNet: Attention-based Pixel-wise Rendering Network for Photo-Realistic Text Image Generation [11.186226578337125]
  スタイル誘導テキスト画像生成は、参照画像の外観を模倣してテキスト画像を合成しようとする。 本稿では,スタイル画像の背景と前景の色パターンをコンテンツ画像に転送し,写真リアルテキスト画像を生成することに焦点を当てる。
  論文  参考訳（メタデータ） (2022-03-15T07:48:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。