論文の概要: Detecting CSAM Text-to-Image LoRAs From Weights

• arxiv url: http://arxiv.org/abs/2607.25750v1
• Date: Tue, 28 Jul 2026 14:12:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.865167
• Title: Detecting CSAM Text-to-Image LoRAs From Weights
• Title（参考訳）: 重みからCSAMテキスト・画像ロラを検出する
• Abstract要約: ローランク適応(LoRA)ファインチューニングにより、オープンウェイト画像生成モデルを安価かつ容易にカスタマイズできるようになった。 より安全な信号が重みの中に存在することを示す。
• 参考スコア（独自算出の注目度）: 0.38887448816036313
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Low-rank adaptation (LoRA) fine-tuning has made it cheap and easy to customize open-weight image generation models for specific tasks, including the production of child sexual abuse material (CSAM). Existing moderation relies on metadata or generated outputs, but metadata can be deceptive and generating outputs may itself be unacceptable or illegal. We show that a safer signal lives in the weights. The top-left singular vectors of a LoRA's updates form a compact, inference-free fingerprint ($u_1$) of its strongest learned change. Using human-subject age as a benign proxy for CSAM, we find that $u_1$ identifies what a LoRA was trained on, generalizes across base models, and abstains on unrelated benign content. The signal is robust to additive weight noise, rescaling, and precision reduction. These results indicate that harmful LoRAs could be screened directly from their weights without relying on metadata or generating harmful outputs.
• Abstract（参考訳）: ローランク適応(LoRA)ファインチューニングは、児童性虐待材料(CSAM)の生産を含む特定のタスクのために、オープンウェイト画像生成モデルを安価かつ容易にカスタマイズできるようにする。 既存のモデレーションはメタデータや生成された出力に依存するが、メタデータは欺くことができ、アウトプットの生成自体が受け入れられない、あるいは違法である可能性がある。 より安全な信号が重みの中に存在することを示す。 LoRAの更新の左上の特異ベクトルは、その最も強力な学習された変化のコンパクトで推論不要な指紋(u_1$)を形成する。 CSAMの良性プロキシとして人間オブジェクト年齢を用いると、$u_1$がLoRAのトレーニング対象を識別し、ベースモデルにまたがって一般化し、無関係な良性コンテンツに吸収することがわかった。 信号は加重雑音、再スケーリング、精度の低下に対して堅牢である。 これらの結果から, 有害なLoRAは, メタデータに依存したり, 有害な出力を発生させることなく, 直接, 重みからスクリーニングできることが示唆された。

関連論文リスト

• W2T: LoRA Weights Already Know What They Can Do [27.25969992553623]
  QR分解により各LoRA更新を正準形式にマッピングする手法を提案する。 生成されたコンポーネントはトークン化され、Transformerによって処理され、重み空間の埋め込みを生成する。 言語と視覚のLoRAコレクション全体にわたって、W2Tは分類、性能予測、アダプタ検索において強力な結果を得る。
  論文  参考訳（メタデータ） (2026-03-16T23:01:00Z)
• LoRA and Privacy: When Random Projections Help (and When They Don't) [55.65932772290123]
  我々は、$S mapto M f(S)$ with $M sim W_d (1/r I_d, r)$という形のランダムマップである(ウィッシュアート)プロジェクション機構を導入し、その差分プライバシー特性について検討する。 ベクトル値が$f$の場合、付加雑音のない非漸近DP保証を証明し、ウィッシュアートのランダム性だけで十分であることを示す。 しかし,行列値クエリでは,ノイズフリーな環境では,そのメカニズムはDPではなく,その脆弱性を実証する。
  論文  参考訳（メタデータ） (2026-01-29T13:43:37Z)
• Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs [95.06033929366203]
  大規模言語モデル(LLM)開発者は、モデルが誠実で、有用で、無害であることを目標としている。 我々は,フロンティアLSMが,他の選択肢が利用可能であっても,新たな戦略として不便さを優先して開発可能であることを示す。 偽装する確率の明確な原因は見つからないが、より有能なモデルがこの戦略を実行するのに優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-22T17:30:56Z)
• Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs [27.544312683007234]
  細調整された大言語モデル(LLM)の理解・監視・制御のための新しい手法を提案する。 微調整モデルとそのベースモデルの間の重み差のトップ特異点が,新たに獲得した挙動に対応することを示す。 シークレットトリガーが存在する場合の安全メカニズムをバイパスするバックドアモデルでは、我々の手法は1.2%以下の偽陽性率で攻撃の最大100%を停止する。
  論文  参考訳（メタデータ） (2025-07-31T21:04:12Z)
• LoRAShield: Data-Free Editing Alignment for Secure Personalized LoRA Sharing [43.88211522311429]
  Low-Rank Adaptation (LoRA)モデルは、CivitaiやLiblibといったプラットフォームで共有できる。 LoRAShieldは、不正使用に対してLoRAモデルをセキュアにするための最初のデータフリーな編集フレームワークである。
  論文  参考訳（メタデータ） (2025-07-05T02:53:17Z)
• LoRA Users Beware: A Few Spurious Tokens Can Manipulate Your Finetuned Model [16.60384005984496]
  Low-Rank Adaptation (LoRA)は、低リソースコストで高いパフォーマンスを提供する。 本研究では,LoRAが脆弱性をショートカットする扉を開くことを実証する。
  論文  参考訳（メタデータ） (2025-06-13T02:02:57Z)
• Safety Alignment Backfires: Preventing the Re-emergence of Suppressed Concepts in Fine-tuned Text-to-Image Diffusion Models [57.16056181201623]
  微調整されたテキストと画像の拡散モデルは、必然的に安全対策を解除し、有害な概念を再現する。 本報告では,Funice-Tuning LoRAコンポーネントとは別に,安全性の低い適応モジュールをトレーニングする,Modular LoRAと呼ばれる新しいソリューションを提案する。 本手法は,新しいタスクにおけるモデルの性能を損なうことなく,有害なコンテンツの再学習を効果的に防止する。
  論文  参考訳（メタデータ） (2024-11-30T04:37:38Z)
• LoRA vs Full Fine-tuning: An Illusion of Equivalence [73.5303340531806]
  我々は,Low-Rank Adaptation (LoRA) とフルファインタニングによる事前学習モデルについて検討する。 特異値分解が全く異なる構造を示すLoRAおよび完全微調整収量行列が得られた。 我々は、LoRAが完全な微調整を忘れてはならないという発見を拡張し、その忘れ物は侵入者次元に大きく局所化されていることを発見した。
  論文  参考訳（メタデータ） (2024-10-28T17:14:01Z)
• Dataset Size Recovery from LoRA Weights [41.031813850749174]
  DSiReは、モデルを微調整するために使用される画像の数を復元する方法である。 新しいベンチマークであるLoRA-WiSEをリリースし、2000以上のLoRAファインチューニングモデルから25,000以上のウェイトスナップショットを作成しました。
  論文  参考訳（メタデータ） (2024-06-27T17:59:53Z)
• Safe LoRA: the Silver Lining of Reducing Safety Risks when Fine-tuning Large Language Models [51.20476412037321]
  提案するSafe LoRAは,選択した層からのLoRA重みの投影を安全に整合した部分空間に導入することにより,オリジナルのLoRA実装に対する単純なワンライナーパッチである。 我々の実験は、純粋に悪意のあるデータに対して微調整を行う場合、Safe LoRAは元のアライメントモデルと同様の安全性を保っていることを示した。
  論文  参考訳（メタデータ） (2024-05-27T05:04:05Z)
• Continual Forgetting for Pre-trained Vision Models [70.51165239179052]
  現実のシナリオでは、選択的な情報は事前訓練されたモデルから継続的に取り除かれることが期待される。 効率的な削除のためのグループスパースロラ(GS-LoRA)を提案する。 我々は,顔認識,物体検出,画像分類に関する広範な実験を行い,GS-LoRAが他のクラスに最小限の影響で,特定のクラスを忘れることが実証された。
  論文  参考訳（メタデータ） (2024-03-18T07:33:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。