論文の概要: SAME: Semantic Watermark Embedding for Open-Source Large Pretrained Models
- arxiv url: http://arxiv.org/abs/2611.15771v1
- Date: Wed, 11 Nov 2026 17:50:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.244096
- Title: SAME: Semantic Watermark Embedding for Open-Source Large Pretrained Models
- Title(参考訳): オープンソース大規模事前学習モデルのための意味的透かし埋め込み
- Abstract要約: SemAntic WaterMark Embedding (SAME)は、適応性と永続性のある透かしの柔軟な構成を可能にする意味論的に意味のあるプライベート語彙である。
それらは、その進化するセマンティック機能とウォーターマークを結合し、下流の微調整を通してこの接続を保存できる。
- 参考スコア(独自算出の注目度): 17.234557482842504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Open-source large pretrained models (LPMs) have become increasingly valuable assets for model development and downstream applications, but their accessibility also facilitates unauthorised copying and modification. To protect their intellectual property (IP), existing approaches typically embed tailored trigger-response patterns as watermarks for ownership verification. However, such trigger designs need to be tailored to task-specific data that constrain their transferability across downstream tasks, and are not durable under subsequent benign fine-tuning. To address these limitations, we propose SemAntic waterMark Embedding (SAME), which introduces a semantically meaningful private vocabulary that enables flexible composition of adaptive and persistent watermarks. Specifically, SAME introduces a fixed private vocabulary that assigns each native token a private embedding counterpart, while aligning the semantic expressiveness of the two vocabularies within the model's representation space. This alignment allows private tokens to be flexibly composed into semantic triggers that elicit meaningful responses, enabling adaptive watermarks beyond predefined trigger-response pairs. By grounding the private vocabulary in the model's native semantics, SAME couples the watermark with its evolving semantic capabilities, allowing this connection to be preserved throughout downstream fine-tuning. Extensive experiments demonstrate that SAME provides reliable and robust watermarks across LPMs of varying scales and architectures, enabling effective ownership verification for IP protection.
- Abstract(参考訳): オープンソースの大規模事前訓練モデル(LPM)は、モデル開発や下流アプリケーションにとってますます価値の高い資産となっているが、そのアクセシビリティは、未承認のコピーと修正を促進する。
知的財産権(IP)を保護するため、既存のアプローチでは、オーナシップ検証のための透かしとして、カスタマイズされたトリガー応答パターンを組み込むのが一般的である。
しかし、そのようなトリガ設計は、下流のタスク間での転送可能性を制限するタスク固有のデータに合わせて調整する必要がある。
これらの制約に対処するため,セムアンティック・ウォーターマーク・エンベディング (SAME) を提案する。
具体的には,各ネイティブトークンをプライベートな埋め込みトークンに割り当てる固定されたプライベート語彙を導入し,モデルの表現空間内に2つの語彙の意味表現を整合させる。
このアライメントにより、プライベートトークンは意味のある応答を誘発するセマンティックトリガに柔軟に構成でき、事前定義されたトリガ-レスポンスペアを超えて適応的な透かしを可能にする。
モデルのネイティブセマンティクスにプライベートなボキャブラリを基盤にすることで、Patatは、その進化するセマンティクス能力と透かしを結合し、下流の微調整を通してこの接続を保存できる。
大規模な実験により、ITSは様々なスケールとアーキテクチャのLPMに信頼性があり堅牢な透かしを提供し、IP保護のための効果的なオーナシップの検証を可能にした。
関連論文リスト
- The Shape of Ownership: Verifying LLM Provenance through Semantic Structures [38.16125764360159]
ProSEを導入し、固定されたクエリセットをターゲットのセマンティックドメインに置き換え、応答キーをドメイン条件の応答として意味構造に置き換える。
PROSEは、ドメイン固有のセマンティックテンプレートのプライベートバンクを構築し、構造的検証とクリーン応答の混合微調整によってそれらを内部化し、保持された自然クエリに対する応答で指定された構造を検出してオーナシップを検証する。
論文 参考訳(メタデータ) (2026-09-02T13:04:51Z) - PASA: A Principled Embedding-Space Watermarking Approach for LLM-Generated Text under Semantic-Invariant Attacks [3.815798234276803]
PASAは、原則付き、堅牢で、歪みのない透かしアルゴリズムである。
セマンティックレベルで透かしを埋め込んで検出する。
論文 参考訳(メタデータ) (2026-05-09T01:09:01Z) - Prompt-Anchored Vision-Text Distillation for Lifelong Person Re-identification [60.02530716177415]
生涯人物再識別(LReID)は、逐次的に収集されたデータで一般化可能なモデルを訓練することを目的としている。
既存の非現代的なアプローチは、視覚のみの蒸留やパラメータ正規化に大きく依存している。
本稿では,意味的アライメントとドメイン間一般化のための非対称な視覚テキストフレームワークであるPrompt-Anchored Vision-text Distillation (PAD)を提案する。
論文 参考訳(メタデータ) (2026-05-06T15:23:13Z) - SWAN: Semantic Watermarking with Abstract Meaning Representation [61.15962841972814]
SWAN(Semantic Watermarking with Abstract Meaning Representation)は、文の意味構造に透かしシグネチャを埋め込む新しいフレームワークである。
シグネチャはセマンティック構造レベルでエンコードされるので、意味を保存するあらゆるパラフレーズはシグネチャを自動的に保存する。
論文 参考訳(メタデータ) (2026-05-05T21:13:30Z) - SARM: LLM-Augmented Semantic Anchor for End-to-End Live-Streaming Ranking [49.109782956280064]
大規模なライブストリーミングレコメンデーションでは、リアルタイムサービス制約下での非定常コンテンツセマンティクスの正確なモデリングが必要である。
自然言語のセマンティックアンカーをランキング最適化に直接統合するエンドツーエンドのランキングアーキテクチャである textbfSARM を提案する。
SARMは完全にデプロイされており、毎日4億人のユーザにサービスを提供している。
論文 参考訳(メタデータ) (2026-02-10T04:15:53Z) - From Essence to Defense: Adaptive Semantic-aware Watermarking for Embedding-as-a-Service Copyright Protection [24.55335024940469]
Embeddings-as-a-Service (E)は、Webプラットフォームにおける商業パラダイムとして成功している。
以前の研究では、Eは模倣攻撃に弱いことが判明している。
著作権保護のための意味に基づく新しい透かしパラダイムであるSemMarkを提案する。
論文 参考訳(メタデータ) (2025-12-18T11:50:38Z) - Omni-Attribute: Open-vocabulary Attribute Encoder for Visual Concept Personalization [82.31106470150844]
我々はOmni-Attributeを紹介した。Omni-Attributeは、属性固有の表現を学習するための最初のオープン語彙画像属性エンコーダである。
我々は、生成的忠実度と対照的な非絡み合いのバランスをとる、二重目的学習パラダイムを使用する。
結果として得られる埋め込みは、オープン語彙属性の検索、パーソナライゼーション、合成生成に有効である。
論文 参考訳(メタデータ) (2025-12-11T18:59:56Z) - SEAL: Subspace-Anchored Watermarks for LLM Ownership [12.022506016268112]
大規模言語モデルのためのサブスペース型透かしフレームワークSEALを提案する。
SEALはモデルの潜在表現空間に直接マルチビットシグネチャを埋め込んで、ホワイトボックスとブラックボックスの検証シナリオをサポートする。
我々は、SEALの優れた効率、忠実性、効率、堅牢性を示すために、複数のベンチマークデータセットと6つの著名なLCMに関する包括的な実験を行う。
論文 参考訳(メタデータ) (2025-11-14T14:44:11Z) - SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
ソフトプロンプト(SWAP)のための逐次透かしを提案する。
SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。
11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
論文 参考訳(メタデータ) (2025-11-05T13:48:48Z) - What Makes You Unique? Attribute Prompt Composition for Object Re-Identification [70.67907354506278]
Object Re-IDentificationは、重複しないカメラビューで個人を認識することを目的としている。
単一ドメインモデルはドメイン固有の機能に過度に適合する傾向がありますが、クロスドメインモデルは多種多様な正規化戦略に依存します。
本稿では,テキストのセマンティクスを利用して識別と一般化を協調的に強化する属性プロンプト合成フレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-23T07:03:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。