論文の概要: The Infinite Index: Information Retrieval on Generative Text-To-Image
Models
- arxiv url: http://arxiv.org/abs/2212.07476v1
- Date: Wed, 14 Dec 2022 19:50:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-16 16:16:48.330924
- Title: The Infinite Index: Information Retrieval on Generative Text-To-Image
Models
- Title(参考訳): 無限指数:生成テキスト・画像モデルにおける情報検索
- Authors: Niklas Deckers, Maik Fr\"obe, Johannes Kiesel, Gianluca Pandolfo,
Christopher Schr\"oder, Benno Stein, Martin Potthast
- Abstract要約: 対話型画像検索として画像プロンプトエンジニアリングを「無限指数」で再放送する
これは、サーバ側がステートレスであるのに対して、イニシアチブがユーザ側にある、一方的なインタラクティブ検索の形式です。
また、生成モデルと対話型生成画像検索に特化した検索モデルに関する今後の研究機会についても論じる。
- 参考スコア(独自算出の注目度): 24.349087181599465
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The text-to-image model Stable Diffusion has recently become very popular.
Only weeks after its open source release, millions are experimenting with image
generation. This is due to its ease of use, since all it takes is a brief
description of the desired image to "prompt" the generative model. Rarely do
the images generated for a new prompt immediately meet the user's expectations.
Usually, an iterative refinement of the prompt ("prompt engineering") is
necessary for satisfying images. As a new perspective, we recast image prompt
engineering as interactive image retrieval - on an "infinite index". Thereby, a
prompt corresponds to a query and prompt engineering to query refinement.
Selected image-prompt pairs allow direct relevance feedback, as the model can
modify an image for the refined prompt. This is a form of one-sided interactive
retrieval, where the initiative is on the user side, whereas the server side
remains stateless. In light of an extensive literature review, we develop these
parallels in detail and apply the findings to a case study of a creative search
task on such a model. We note that the uncertainty in searching an infinite
index is virtually never-ending. We also discuss future research opportunities
related to retrieval models specialized for generative models and interactive
generative image retrieval. The application of IR technology, such as query
reformulation and relevance feedback, will contribute to improved workflows
when using generative models, while the notion of an infinite index raises new
challenges in IR research.
- Abstract(参考訳): テキストと画像のモデルであるStable Diffusionは、最近非常に人気がある。
オープンソースリリースからわずか数週間で、数百万人が画像生成を試している。
これは、生成モデルを"プロンプト"するために所望の画像を簡単に記述するだけで済むため、使いやすさのためである。
ユーザの期待に応える新しいプロンプトのために生成されたイメージを、まれに実行します。
通常、画像を満たすためにはプロンプトの反復的な洗練(「プロンプトエンジニアリング」)が必要である。
新たな視点として,画像プロンプトエンジニアリングをインタラクティブな画像検索として "infinite index" 上で再キャストする。
これにより、プロンプトはクエリに対応し、エンジニアリングにクエリリファインメントを発行する。
選択されたイメージプロンプトペアは、モデルが洗練されたプロンプトのために画像を修正できるため、直接的な関連性フィードバックを可能にする。
これは、サーバ側がステートレスであるのに対して、イニシアチブがユーザ側にある、一方的なインタラクティブ検索の形式です。
広範な文献レビューを踏まえて,これらの並列性を詳細に開発し,そのようなモデルを用いた創造的な探索作業の事例研究に適用する。
無限指数を探索する不確実性は、事実上終わらないことに留意する。
また,生成モデルと対話型生成画像検索に特化した検索モデルに関する今後の研究機会について述べる。
クエリ再構成や関連フィードバックなどのIR技術の応用は、生成モデルを使用する際のワークフローの改善に寄与するが、無限インデックスの概念はIR研究において新たな課題を提起する。
関連論文リスト
- Prompt Expansion for Adaptive Text-to-Image Generation [51.67811570987088]
本稿では,より少ない労力で高品質で多様な画像を生成するためのPrompt Expansionフレームワークを提案する。
Prompt Expansionモデルはテキストクエリを入力として取り、拡張されたテキストプロンプトのセットを出力する。
本研究では,Prompt Expansionにより生成された画像が,ベースライン法により生成された画像よりも美的かつ多様であることを示す人体評価研究を行う。
論文 参考訳(メタデータ) (2023-12-27T21:12:21Z) - AI-Generated Images Introduce Invisible Relevance Bias to Text-Image
Retrieval [70.54890125718387]
我々は,AI生成画像がテキスト画像検索モデルに目に見えない関連性バイアスをもたらすことを示す。
検索モデルのトレーニングデータにAI生成画像を含めると、目に見えない関連性バイアスが増す。
本研究では,目に見えない関連バイアスを軽減するための効果的なトレーニング手法を提案する。
論文 参考訳(メタデータ) (2023-11-23T16:22:58Z) - BeautifulPrompt: Towards Automatic Prompt Engineering for Text-to-Image
Synthesis [14.852061933308276]
極めて単純な生記述から高品質なプロンプトを生成するための深層生成モデルである BeautifulPrompt を提案する。
私たちの研究では、まず、高品質で高品質な収集プロンプトペアよりも美しいプロンプトモデルを微調整しました。
さらに、より優れたテキスト・ツー・イメージ生成サービスを提供するために、クラウドネイティブなAIプラットフォームへのBeautifulPromptの統合についても紹介します。
論文 参考訳(メタデータ) (2023-11-12T06:39:00Z) - Reverse Stable Diffusion: What prompt was used to generate this image? [80.82832715884597]
生成拡散モデルにより生成された画像からテキストプロンプトを予測する新しいタスクを導入する。
本稿では,複数ラベルの語彙分類を目的とし,協調的即時回帰と複数ラベルの語彙分類からなる新しい学習フレームワークを提案する。
我々はDiffusionDBデータセットの実験を行い、安定拡散によって生成された画像からテキストプロンプトを予測する。
論文 参考訳(メタデータ) (2023-08-02T23:39:29Z) - Attend-and-Excite: Attention-Based Semantic Guidance for Text-to-Image
Diffusion Models [103.61066310897928]
最近のテキスト・ツー・イメージ生成モデルは、ターゲットのテキスト・プロンプトによって導かれる多様な創造的な画像を生成する非例外的な能力を実証している。
革命的ではあるが、現在の最先端拡散モデルは、与えられたテキストプロンプトのセマンティクスを完全に伝達するイメージの生成に失敗する可能性がある。
本研究では, 一般に公開されている安定拡散モデルを分析し, 破滅的無視の有無を評価し, そのモデルが入力プロンプトから1つ以上の被写体を生成するのに失敗した場合について検討する。
提案するジェネレーティブ・セマンティック・ナーシング(GSN)の概念は、推論時間中にハエの生殖過程に介入し、忠実性を改善するものである。
論文 参考訳(メタデータ) (2023-01-31T18:10:38Z) - Re-Imagen: Retrieval-Augmented Text-to-Image Generator [58.60472701831404]
検索用テキスト・ツー・イメージ・ジェネレータ(再画像)
検索用テキスト・ツー・イメージ・ジェネレータ(再画像)
論文 参考訳(メタデータ) (2022-09-29T00:57:28Z) - Progressive Learning for Image Retrieval with Hybrid-Modality Queries [48.79599320198615]
ハイブリッドモダリティクエリによる画像検索(CTI-IR)
我々は、CTI-IRタスクを3段階の学習問題に分解し、ハイブリッドモダリティクエリを用いて画像検索のための複雑な知識を段階的に学習する。
提案モデルは,Fashion-IQおよびShoesベンチマークデータセットにおいて,Recall@K平均の最先端手法を24.9%,9.5%向上させる。
論文 参考訳(メタデータ) (2022-04-24T08:10:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。