論文の概要: PathMark: Protecting Intellectual Property of Mixture-of-Expert LLMs via Path Watermarks

• arxiv url: http://arxiv.org/abs/2607.03688v1
• Date: Sat, 04 Jul 2026 03:43:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.680962
• Title: PathMark: Protecting Intellectual Property of Mixture-of-Expert LLMs via Path Watermarks
• Title（参考訳）: PathMark:パス透かしを通したMixture-of-Expert LLMの知的特性保護
• Abstract要約: Mixture-of-Experts (MoE) 大規模言語モデルは、高価値な知的特性を表す。 従来の透かし方式はアーキテクチャミスマッチのためMoEアーキテクチャでは失敗する。 私たちは、MoEアーキテクチャ用に特別に設計された最初の透かしフレームワークであるPathMarkを紹介します。
• 参考スコア（独自算出の注目度）: 15.979007348732786
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Mixture-of-Experts (MoE) large language models represent high-value intellectual property, yet existing watermarking schemes designed for dense models fail on MoE architectures due to architectural mismatch: traditional methods assume watermarked parameters are consistently activated, but MoE's dynamic routing breaks this assumption. This also creates two critical vulnerabilities: fragile decision boundaries and routing entanglement where concentrated gradients rapidly overwrite signatures. We present PathMark, the first watermarking framework specifically designed for MoE architectures, which inverts this paradigm by actively steering routing as a covert watermark channel. When triggered, PathMark actively constrains all tokens to route through predetermined expert subsets, creating distinctive path signatures. Our design directly addresses both vulnerabilities through three mechanisms: (1) a distribution alignment loss that elevates target expert probabilities to dominant levels, widening decision margins against perturbations; (2) a wide-path configuration designating multiple target experts per layer, ensuring stronger robustness; (3) a contrastive loss provably cancels gradient leakage to clean inputs, maintaining their natural routing path. Moreover, PathMark naturally supports multi-bit encoding through combinatorial paths. Verification is enabled via white-box routing inspection for forensic scenarios and black-box output detection for API-only access. Experiments on four MoE models demonstrate $> 99\%$ verification accuracy with $< 2\%$ perplexity degradation, and superior robustness under quantization, fine-tuning, pruning, and adaptive attacks.
• Abstract（参考訳）: Mixture-of-Experts (MoE) 大規模な言語モデルは、高価値な知的特性を表すが、高密度モデルのために設計された既存の透かしスキームは、アーキテクチャ上のミスマッチによりMoEアーキテクチャでは失敗する: 従来の手法では、透かしパラメータが一貫して活性化されていると仮定するが、MoEの動的ルーティングはこの仮定を破る。 これはまた、脆弱な決定境界と、集中的な勾配が素早くシグネチャを上書きするルーティングの絡みという、2つの重大な脆弱性も生み出す。 PathMarkはMoEアーキテクチャ用に特別に設計された最初の透かしフレームワークであり、隠れた透かしチャネルとしてルーティングを積極的に操ることでこのパラダイムを逆転させる。 PathMarkが起動すると、すべてのトークンが所定の専門家サブセットを経由することを積極的に制限し、固有のパスシグネチャを生成する。 本設計では,(1)目標とする確率を支配的レベルまで高める分布アライメント損失,(2)複数層毎の目標とする専門家を指定した広い経路構成,(3)高い堅牢性を確保すること,(3)対照的な損失は,入力に対する勾配リークを確実にキャンセルし,自然な経路経路を維持すること,という3つのメカニズムを用いて,両方の脆弱性に対処する。 さらにPathMarkは、組合せパスによるマルチビットエンコーディングを自然にサポートする。 検証は、法医学的なシナリオのためのホワイトボックスルーティングインスペクションと、APIのみアクセスのためのブラックボックス出力検出によって可能である。 4つのMoEモデルの実験では、$>99\%$検証精度が$<2\%$パープレキシティ劣化を示し、量子化、微調整、プルーニング、アダプティブアタックにおいて優れたロバスト性を示した。

関連論文リスト

• DenMark: Robust Semantic Watermarking for Diffusion Language Models [56.836684262732994]
  DenMarkは拡散言語モデル(DLM)のセマンティックな透かしフレームワークである 鍵依存的な信号をDLM復調プロセスに直接注入する。 出力を固定トークン領域に分割し、一時ロールアウトをセマンティックルックヘッドとして使用する。 検出のために、DenMarkは、セマンティックアタックによって導入されたバウンダリシフトに対する堅牢性を維持するために、候補ユニットサイズをキャリブレーションしたスキャンを使用する。
  論文  参考訳（メタデータ） (2026-09-13T03:37:48Z)
• Integrated and Cross-Architecture Interpretation of LLM Reasoning [48.58940522466915]
  統合されたクロスアーキテクチャ推論(IAR)フレームワークは、LLM推論の解釈可能性に対する統一的なアプローチを提供するように設計されている。 まず、チューキーIQRピーク検出と組み合わされた帯域幅校正MIPを用いて、出力層における推論・クラシカルトークンを分離することを提案する。 次に、MIP-pickedトークンと計算深度トークンの重なり解析を行い、それらのトークンの層間軌跡をトレースする。
  論文  参考訳（メタデータ） (2026-05-27T05:56:35Z)
• R-CoT: A Reasoning-Layer Watermark via Redundant Chain-of-Thought in Large Language Models [48.47950824122549]
  本稿では,水標を推論経路に埋め込むredundant Chain-of-Thought (R-CoT) と呼ばれる推論層フレームワークを提案する。 実験の結果,R-CoTは従来の手法と比較して高い透かし効果と強靭性が得られることがわかった。
  論文  参考訳（メタデータ） (2026-04-28T05:52:57Z)
• UniMark: Unified Adaptive Multi-bit Watermarking for Autoregressive Image Generators [1.7507301683087861]
  本稿では,自動回帰画像生成のためのトレーニングフリーで統一された透かしフレームワークを提案する。 textbf Semantic Grouping (ASG)、 textbfBlockwise Multi-bit。 3つのARモデルを用いた実験により、画像品質(FID)、透かし検出精度、マルチビットメッセージ抽出における最先端性能が得られた。
  論文  参考訳（メタデータ） (2026-04-12T16:22:24Z)
• DuCodeMark: Dual-Purpose Code Dataset Watermarking via Style-Aware Watermark-Poison Design [18.636650706356008]
  我々は、コードデータセットのステルスで堅牢な二重目的透かし手法であるDuCodeMarkを提案する。 DuCodeMarkは各コードサンプルを抽象構文木(AST)に解析し、ステルスなトリガーとターゲットのペアを構築するために言語固有のスタイル変換を適用する。 2つのコードタスク、2つのプログラミング言語、3つのコードLM、6つのデコード温度にまたがる72設定のDuCodeMarkを包括的に評価する。
  論文  参考訳（メタデータ） (2026-04-12T12:32:38Z)
• All in One: Unifying Deepfake Detection, Tampering Localization, and Source Tracing with a Robust Landmark-Identity Watermark [25.001768538619558]
  悪意ある顔操作は、個人のプライバシーと社会保障に重大な脅威をもたらす。 既存のプロアクティブな法医学的手法は、ディープフェイクの検出、ローカライゼーションの改ざん、ソーストレースを独立したタスクとして扱う。 本稿では,これら3つの中核課題に共同で対処する一貫した前立腺科学フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-26T21:57:15Z)
• dgMARK: Decoding-Guided Watermarking for Diffusion Language Models [5.43345665278304]
  dgMARKは離散拡散言語モデルのための復号誘導型透かし法である。 dgMARKは、逆候補トークンが単純なパリティ制約を満たす位置に対して、偽りの順序を定めている。 透かしはパリティマッチング統計によって検出される。
  論文  参考訳（メタデータ） (2026-01-30T13:51:20Z)
• RouteMark: A Fingerprint for Intellectual Property Attribution in Routing-based Model Merging [69.2230254959204]
  我々は,統合されたMoEモデルにおけるIP保護のためのフレームワークであるRouteMarkを提案する。 我々の重要な洞察は、タスク固有の専門家は、探索入力の下で安定かつ独特なルーティング行動を示すことである。 属性と改ざん検出のために,類似性に基づくマッチングアルゴリズムを導入する。
  論文  参考訳（メタデータ） (2025-08-03T14:51:58Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。