論文の概要: Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report

• arxiv url: http://arxiv.org/abs/2607.02582v1
• Date: Wed, 01 Jul 2026 00:20:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.333851
• Title: Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report
• Title（参考訳）: 画像生成モデルにおける知的財産保護レールの評価:技術報告
• Abstract要約: 生成画像モデルは、知的財産権(IP)と強い類似性、または、複製、認識可能な知的財産権(IP)を持つ画像を生成することができる 生成画像モデルにおけるIPガードレールの証拠を検証するためのベンチマークと自動評価パイプラインを提案する。
• 参考スコア（独自算出の注目度）: 28.320076422112916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative image models are capable of producing images that bear a strong resemblance to, or replicate, recognizable intellectual property (IP). In this technical report, we present a benchmark and automated evaluation pipeline to test for evidence of IP guardrails in generative image models along with the propensity for these models to generate images with recognizable IP. The IP categories we tested include fictional characters, celebrity likeness, and commercial logos and do not encompass the full range of IP which may be implicated by image generation models. We evaluated fourteen widely used text-to-image models, including three self-hosted open weights models and eleven private models. While all of the private models were observed to refuse generations at some level due to IP guardrails, the frequency of generation refusals varied substantially among models. The refusal rates also varied considerably across the different IP categories tested. Commercial logos were refused least frequently and were successfully generated at the highest rate, on average. Though the rate varies, all models tested readily generated images containing recognizable IP as of March 2026.
• Abstract（参考訳）: 生成画像モデルは、知的財産権(IP)によく似た、または複製可能な画像を生成することができる。 本稿では,生成画像モデルにおけるIPガードレールの証拠と,これらのモデルが認識可能なIPを用いて画像を生成するための妥当性を検証するためのベンチマークと自動評価パイプラインを提案する。 テストしたIPカテゴリには、架空のキャラクター、セレブの類似性、商業ロゴが含まれており、画像生成モデルに関係のあるすべてのIPを包含していない。 3つの自己ホスト型オープンウェイトモデルと11のプライベートモデルを含む、広く使用されている14のテキスト・ツー・イメージモデルを評価した。 全てのプライベートモデルは、IPガードレールによって何らかのレベルで世代を拒否することが観察されたが、生成拒絶の頻度はモデルによって大きく異なる。 拒否率はテスト対象の異なるIPカテゴリで大きく異なる。 商業ロゴは最も頻繁に拒否され、平均して最も高い速度で生産された。 速度は異なるが、2026年3月時点で、認識可能なIPを含む、容易に生成された画像がテストされた。

関連論文リスト

• Constantly Improving Image Models Need Constantly Improving Benchmarks [109.39018167487103]
  本稿では,実際のモデル利用の証拠から直接ベンチマークを構築するためのフレームワークECHOを提案する。 GPT-4o Image Genにこのフレームワークを適用し,ソーシャルメディア投稿から収集した31,000以上のプロンプトのデータセットを構築した。
  論文  参考訳（メタデータ） (2025-10-16T17:59:30Z)
• GenAI Confessions: Black-box Membership Inference for Generative Image Models [13.106063755117399]
  モデルが特定の画像や画像に対してトレーニングされたかどうかを判断する手法について述べる。 この方法は計算的に効率的であり、モデルアーキテクチャや重みに関する明確な知識を前提としない。 我々は、既存のモデルの監査にこの手法が不可欠であると予測し、生成AIモデルのより公平な開発と展開を期待する。
  論文  参考訳（メタデータ） (2025-01-11T01:12:23Z)
• Reinforcing Pre-trained Models Using Counterfactual Images [54.26310919385808]
  本稿では,言語誘導型生成対実画像を用いた分類モデル強化のための新しいフレームワークを提案する。 逆ファクト画像データセットを用いてモデルをテストすることにより、モデルの弱点を同定する。 我々は、分類モデルを微調整し強化するために、デファクトイメージを拡張データセットとして採用する。
  論文  参考訳（メタデータ） (2024-06-19T08:07:14Z)
• Autoregressive Model Beats Diffusion: Llama for Scalable Image Generation [52.509092010267665]
  我々はLlamaGenを紹介した。LlamaGenは画像生成モデルの新しいファミリーで、視覚生成ドメインに対して、大規模言語モデルのオリジナルの次世代予測のパラダイムを適用している。 これは、例えば、視覚信号に誘導バイアスのないバニラ自己回帰モデルが、適切にスケーリングすれば最先端の画像生成性能を達成できるかどうか、肯定的な答えである。
  論文  参考訳（メタデータ） (2024-06-10T17:59:52Z)
• How to Trace Latent Generative Model Generated Images without Artificial Watermark? [88.04880564539836]
  潜在生成モデルによって生成された画像に関する潜在的な誤用に関する懸念が持ち上がっている。 検査されたモデルの生成された画像をトレースするために,レイトタントトラッカーと呼ばれる潜時反転に基づく手法を提案する。 提案手法は,検査したモデルと他の画像から生成された画像とを高精度かつ効率的に識別できることを示す。
  論文  参考訳（メタデータ） (2024-05-22T05:33:47Z)
• Which Model Generated This Image? A Model-Agnostic Approach for Origin Attribution [23.974575820244944]
  本研究では,生成した画像の起点属性を現実的に検討する。 ゴールは、ある画像がソースモデルによって生成されるかどうかを確認することである。 OCC-CLIPはCLIPをベースとしたワンクラス分類のためのフレームワークである。
  論文  参考訳（メタデータ） (2024-04-03T12:54:16Z)
• Alteration-free and Model-agnostic Origin Attribution of Generated Images [28.34437698362946]
  画像生成モデルの誤用が懸念されている。 特定の画像が特定のモデルによって生成されたかどうかを推測することにより、画像の起源を分析する必要がある。
  論文  参考訳（メタデータ） (2023-05-29T01:35:37Z)
• Extracting Training Data from Diffusion Models [77.11719063152027]
  拡散モデルはトレーニングデータから個々の画像を記憶し,生成時に出力することを示す。 生成とフィルタのパイプラインを用いて、最先端のモデルから数千以上のトレーニング例を抽出する。 さまざまな設定で何百もの拡散モデルをトレーニングし、モデリングとデータ決定の違いがプライバシに与える影響を分析する。
  論文  参考訳（メタデータ） (2023-01-30T18:53:09Z)
• Meta Internal Learning [88.68276505511922]
  単一画像生成のための内部学習は、単一の画像に基づいて新しい画像を生成するようにジェネレータを訓練するフレームワークである。 本稿では,サンプル画像の内部統計をより効果的にモデル化するために,画像集合のトレーニングを可能にするメタラーニング手法を提案する。 以上の結果から, 得られたモデルは, 多数の共通画像アプリケーションにおいて, シングルイメージのGANと同程度に適していることがわかった。
  論文  参考訳（メタデータ） (2021-10-06T16:27:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。