論文の概要: Monet: Measuring the Ecosystem of Open-Source Text-to-Image Models Tailored for Harmful Services
- arxiv url: http://arxiv.org/abs/2609.24134v1
- Date: Mon, 21 Sep 2026 05:39:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-24 15:53:30.611727
- Title: Monet: Measuring the Ecosystem of Open-Source Text-to-Image Models Tailored for Harmful Services
- Title（参考訳）: Monet: 有害サービスのためのオープンソーステキスト・画像モデルのエコシステム計測
- Abstract要約: オープンソースのテキスト・ツー・イメージ(T2I)エコシステムは、迅速なモデル開発と共有を可能にすると同時に、有害なサービスに適したモデルを意図的にホストする。
私たちは8つの主要なT2Iモデルハブで23,947のMonetsを特定しました。
これらの発見は、プラットフォームサイロ化された防御の限界を明らかにし、クロスプラットフォームの脅威インテリジェンスの必要性を強調している。
- 参考スコア（独自算出の注目度）: 21.16367864788288
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The open-source text-to-image (T2I) ecosystem enables rapid model development and sharing, but also hosts models intentionally tailored for harmful services, which we call Monets. Prior work has examined specific types of harmful T2I models on individual platforms, but a Monet does not exist in isolation. The broader Monet ecosystem, spanning model characteristics, cross-platform propagation, governance evasion, monetization, and downstream deployment, remains poorly understood. In this study, we present the first systematic, ecosystem-level measurement of Monets. Grounded in the policies of real-world model hubs, we construct a taxonomy of ten harmful service categories and identify 23,947 Monets across eight major T2I model hubs, with the most popular exceeding 19 million downloads. While some developers employ anti-theft mechanisms against unauthorized re-uploading, Monets propagate across platforms at scale, with 40.76% mirrored across hubs. Such propagation further enables governance evasion via cross-platform archiving, keeping 11.99% of Monets accessible after bans on their original platforms, alongside other evasion strategies including keyword obfuscation and model-level safeguard circumvention. Monets also anchor coordinated commercial campaigns---one spanning 668 models with 914 completed commissions and another advertising gray-market account-farming service---and reach users through GitHub projects and inference APIs, raising downstream child safety concerns. These findings expose the limitations of platform-siloed defenses and highlight the need for cross-platform threat intelligence, coordinated governance, and technical safeguards.
- Abstract（参考訳）: オープンソースのテキスト・ツー・イメージ(T2I)エコシステムは、迅速なモデル開発と共有を可能にしますが、有害なサービスに意図的に適合したモデルもホストしています。
これまでの研究では、個々のプラットフォーム上で有害なT2Iモデルを調査してきたが、Monetは単独では存在しない。
モデル特性、クロスプラットフォームの伝搬、ガバナンス回避、収益化、下流のデプロイメントにまたがる、より広範なMonetエコシステムは、いまだに理解されていない。
本研究では,モンケットの系統的,生態系レベルでの計測を初めて提示する。
現実世界のモデルハブのポリシーに基づいて、10の有害なサービスカテゴリの分類を構築し、T2Iモデルハブ8つの主要なモデルハブにまたがる23,947のモネを特定します。
一部の開発者は不正な再アップロードに対して盗難防止機構を採用しているが、Monetsは大規模にプラットフォームを伝播し、40.76%がハブにミラーされている。
このような伝播により、クロスプラットフォームのアーカイブによるガバナンス回避が可能になり、元のプラットフォームを禁止した後、11.99%のモネがアクセス可能となり、キーワードの難読化やモデルレベルのセーフガード回避といった他の回避戦略も実現している。
Monetsはまた、商業キャンペーンの調整も行っている。1つは、668モデル、もう1つは914の完成したコミッショナー、もう1つは広告グレーマーケットのアカウントファーミングサービスだ。
これらの発見は、プラットフォームサイロ化された防衛の限界を明らかにし、クロスプラットフォームの脅威インテリジェンス、調整されたガバナンス、技術的保護の必要性を強調します。
関連論文リスト
- Defending the Peg: Real-Time Dynamic Protection and Anomaly Detection in DeFi Stablecoins [1.6405153080101806]
安定型スマートコントラクトセキュリティに関する最近の研究は、ドメイン固有のターゲティングの欠如や静的ディフェンスモデルの陳腐化といった課題に直面している。
本稿では,安定した環境下での一般的な攻撃ベクトルを体系的に解析し,実用的な動的防御アーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-08-26T10:21:10Z) - AI Security in the Foundation Model Era: A Comprehensive Survey from a Unified Perspective [12.53973720107764]
4つの軸に沿ってモデル-データ相互作用をフレーム化するクローズドループ脅威分類法を提案する。
その結果、セキュリティ脅威の4つのクラスは、異なるが関連する攻撃のカテゴリを表す。
弊社のフレームワークは、スケーラブルで、転送可能で、また、クロスモーダルなセキュリティ戦略を開発するための基盤を確立している。
論文 参考訳（メタデータ） (2026-03-25T22:53:43Z) - Bridging Cognitive Neuroscience and Graph Intelligence: Hippocampus-Inspired Multi-View Hypergraph Learning for Web Finance Fraud [10.498542622240285]
HIMVHはHippocampus-Inspired Multi-View Hypergraph学習モデルである。
海馬のシーンコンフリクトモニタリングの役割にインスパイアされた我々は、横断的な不整合知覚モジュールを設計した。
また,近辺の期待値から特徴偏差を測定する新しいハイパーグラフ学習モジュールも導入した。
論文 参考訳（メタデータ） (2026-01-16T08:18:23Z) - MacPrompt: Maraconic-guided Jailbreak against Text-to-Image Models [21.21184947590066]
我々は、新しいブラックボックスとクロスランガル攻撃であるMacPromptを紹介し、これまで見過ごされていたT2Iの安全性メカニズムの脆弱性を明らかにする。
MacPromptは、有害な用語の言語間文字レベルの組換えを実行することで、逆のプロンプトを構築する。
性的関係のあるコンテンツでは92%、暴力では90%の攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-01-12T02:16:12Z) - MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。
本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。
実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
論文 参考訳（メタデータ） (2025-09-21T14:50:02Z) - A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
近年の研究では、敵が対象モデルの機能を複製できることが示されている。
モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。
本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
論文 参考訳（メタデータ） (2025-08-20T19:49:59Z) - GenBreak: Red Teaming Text-to-Image Generators Using Large Language Models [65.91565607573786]
テキスト・ツー・イメージ(T2I)モデルは、ヌードや暴力を含む有害なコンテンツを生成するために誤用することができる。
近年のT2Iモデルに対する赤チーム攻撃と敵攻撃は、顕著な制限がある。
我々は、基盤となる脆弱性を体系的に調査するために、レッドチーム大言語モデル(LLM)を微調整するフレームワークであるGenBreakを提案する。
論文 参考訳（メタデータ） (2025-06-11T09:09:12Z) - BadCM: Invisible Backdoor Attack Against Cross-Modal Learning [110.37205323355695]
クロスモーダルバックドアにおけるパズルの欠片を補うために,新たな両面バックドアを導入する。
BadCMは、1つの統合されたフレームワーク内で多様なクロスモーダルアタックのために意図的に設計された最初の目に見えないバックドアメソッドである。
論文 参考訳（メタデータ） (2024-10-03T03:51:53Z) - SoK: Design, Vulnerabilities, and Security Measures of Cryptocurrency Wallets [3.27079554316766]
既存の財布や斬新な財布の多次元設計分類について紹介する。
以前に発生した脆弱性を特定し、設計決定のセキュリティへの影響について議論する。
2012年から2024年にかけて、84件のインシデントを調査し、5.4億ドルを計上する多層攻撃フレームワークを提案する。
論文 参考訳（メタデータ） (2023-07-24T15:13:39Z) - Imitation Attacks and Defenses for Black-box Machine Translation Systems [86.92681013449682]
ブラックボックス機械翻訳(MT)システムは高い商業価値を持ち、エラーはコストがかかる。
MTシステムはモノリンガル文を問合せし,その出力を模倣する訓練モデルを用いて盗むことができることを示す。
本稿では,模倣モデルの最適化を誤指示するために,翻訳出力を変更するディフェンスを提案する。
論文 参考訳（メタデータ） (2020-04-30T17:56:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。