論文の概要: GazeFusion: Saliency-guided Image Generation

• arxiv url: http://arxiv.org/abs/2407.04191v1
• Date: Sat, 16 Mar 2024 21:01:35 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-22 22:09:04.959713
• Title: GazeFusion: Saliency-guided Image Generation
• Title（参考訳）: GazeFusion: 解像度誘導画像生成
• Authors: Yunxiang Zhang, Nan Wu, Connor Z. Lin, Gordon Wetzstein, Qi Sun,
• Abstract要約: 拡散モデルは、テキストプロンプトだけを前提として、前例のない画像生成機能を提供する。 本稿では,人間の視覚的注意の先行するデータを生成プロセスに組み込むためのサリエンシ誘導フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 50.37783903347613
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models offer unprecedented image generation capabilities given just a text prompt. While emerging control mechanisms have enabled users to specify the desired spatial arrangements of the generated content, they cannot predict or control where viewers will pay more attention due to the complexity of human vision. Recognizing the critical necessity of attention-controllable image generation in practical applications, we present a saliency-guided framework to incorporate the data priors of human visual attention into the generation process. Given a desired viewer attention distribution, our control module conditions a diffusion model to generate images that attract viewers' attention toward desired areas. To assess the efficacy of our approach, we performed an eye-tracked user study and a large-scale model-based saliency analysis. The results evidence that both the cross-user eye gaze distributions and the saliency model predictions align with the desired attention distributions. Lastly, we outline several applications, including interactive design of saliency guidance, attention suppression in unwanted regions, and adaptive generation for varied display/viewing conditions.
• Abstract（参考訳）: 拡散モデルは、テキストプロンプトだけを前提として、前例のない画像生成機能を提供する。 新たな制御機構により、ユーザは生成したコンテンツの所望の空間配置を指定できるようになったが、人間の視覚の複雑さにより、視聴者がより注意を払う場所を予測または制御することはできない。 実用的な応用において、注意制御可能な画像生成の重要な必要性を認識し、人間の視覚的注意の事前データを生成プロセスに組み込むための衛生誘導フレームワークを提案する。 所望の視聴者の注意分布が与えられた場合、制御モジュールは、所望の領域に対して視聴者の注意を引き付ける画像を生成する拡散モデルを作成する。 提案手法の有効性を評価するため,視線追跡によるユーザスタディと大規模モデルベースサリエンシ分析を行った。 その結果、利用者間の視線分布とサリエンシモデル予測の両方が、所望の注意分布と一致していることが証明された。 最後に、サリエンシガイダンスのインタラクティブな設計、不要領域の注意抑制、様々な表示・視聴条件の適応生成など、いくつかの応用について概説する。

関連論文リスト

• LocRef-Diffusion:Tuning-Free Layout and Appearance-Guided Generation [17.169772329737913]
  LocRef-Diffusionは、画像内の複数のインスタンスの外観と位置をカスタマイズできるチューニング不要のモデルである。 インスタンス配置の精度を高めるために,インスタンス生成位置を制御するレイアウトネットを導入する。 参照画像に対する外観忠実度を改善するために,インスタンスの外観特徴を抽出する外観ネットを用いる。
  論文  参考訳（メタデータ） (2024-11-22T08:44:39Z)
• Multimodal Large Language Model is a Human-Aligned Annotator for Text-to-Image Generation [87.50120181861362]
  VisionPreferは高品質できめ細かい選好データセットで、複数の選好面をキャプチャする。 我々は、VisionPrefer上で報酬モデルVP-Scoreをトレーニングし、テキストから画像への生成モデルのトレーニングを指導し、VP-Scoreの嗜好予測精度は人間のアノテーションに匹敵する。
  論文  参考訳（メタデータ） (2024-04-23T14:53:15Z)
• FilterPrompt: Guiding Image Transfer in Diffusion Models [9.386850486378382]
  FilterPromptは、モデル制御効果を強化するアプローチである。 任意の拡散モデルに普遍的に適用することができ、ユーザーは特定の画像の特徴の表現を調整できる。
  論文  参考訳（メタデータ） (2024-04-20T04:17:34Z)
• Bridging Generative and Discriminative Models for Unified Visual Perception with Diffusion Priors [56.82596340418697]
  本稿では,豊富な生成前駆体を含む事前学習型安定拡散(SD)モデルと,階層的表現を統合可能な統一型ヘッド(Uヘッド)と,識別前駆体を提供する適応型専門家からなる,シンプルで効果的なフレームワークを提案する。 包括的調査では、異なる時間ステップで潜伏変数に隠された知覚の粒度や様々なU-netステージなど、バーマスの潜在的な特性が明らかになった。 有望な結果は,有望な学習者としての拡散モデルの可能性を示し,情報的かつ堅牢な視覚表現の確立にその意義を定めている。
  論文  参考訳（メタデータ） (2024-01-29T10:36:57Z)
• Multi-View Unsupervised Image Generation with Cross Attention Guidance [23.07929124170851]
  本稿では,単一カテゴリデータセット上でのポーズ条件拡散モデルの教師なし学習のための新しいパイプラインを提案する。 特定のオブジェクト部分の可視性と位置を比較することで、データセットをクラスタリングすることで、オブジェクトのポーズを識別する。 我々のモデルであるMIRAGEは、実画像における新しいビュー合成における先行研究を超越している。
  論文  参考訳（メタデータ） (2023-12-07T14:55:13Z)
• Free-ATM: Exploring Unsupervised Learning on Diffusion-Generated Images with Free Attention Masks [64.67735676127208]
  テキストと画像の拡散モデルは、画像認識の恩恵を受ける大きな可能性を示している。 有望ではあるが、拡散生成画像の教師なし学習に特化した調査は不十分である。 上記フリーアテンションマスクをフル活用することで、カスタマイズされたソリューションを導入する。
  論文  参考訳（メタデータ） (2023-08-13T10:07:46Z)
• Generate Anything Anywhere in Any Scene [25.75076439397536]
  パーソナライズされたオブジェクト生成のための制御可能なテキスト・画像拡散モデルを提案する。 本手法は,芸術,エンターテイメント,広告デザインなど,様々な応用の可能性を示すものである。
  論文  参考訳（メタデータ） (2023-06-29T17:55:14Z)
• Attend-and-Excite: Attention-Based Semantic Guidance for Text-to-Image Diffusion Models [103.61066310897928]
  最近のテキスト・ツー・イメージ生成モデルは、ターゲットのテキスト・プロンプトによって導かれる多様な創造的な画像を生成する非例外的な能力を実証している。 革命的ではあるが、現在の最先端拡散モデルは、与えられたテキストプロンプトのセマンティクスを完全に伝達するイメージの生成に失敗する可能性がある。 本研究では, 一般に公開されている安定拡散モデルを分析し, 破滅的無視の有無を評価し, そのモデルが入力プロンプトから1つ以上の被写体を生成するのに失敗した場合について検討する。 提案するジェネレーティブ・セマンティック・ナーシング(GSN)の概念は、推論時間中にハエの生殖過程に介入し、忠実性を改善するものである。
  論文  参考訳（メタデータ） (2023-01-31T18:10:38Z)
• Proactive Pseudo-Intervention: Causally Informed Contrastive Learning For Interpretable Vision Models [103.64435911083432]
  PPI(Proactive Pseudo-Intervention)と呼ばれる新しい対照的な学習戦略を提案する。 PPIは、因果関係のない画像の特徴を保護するために積極的に介入する。 また,重要な画像画素を識別するための,因果的に通知された新たなサリエンスマッピングモジュールを考案し,モデル解釈の容易性を示す。
  論文  参考訳（メタデータ） (2020-12-06T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。