論文の概要: SkillWatermark: An Embedded Skill Watermark of Progressive Privacy Inference via Benign Prompts

• arxiv url: http://arxiv.org/abs/2608.16026v1
• Date: Mon, 17 Aug 2026 02:38:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.505947
• Title: SkillWatermark: An Embedded Skill Watermark of Progressive Privacy Inference via Benign Prompts
• Title（参考訳）: SkillWatermark:良質なプロンプトによるプログレッシブ・プライバシ推論のスキル・ウォーターマーク
• Abstract要約: 大規模言語モデル(LLM)エージェントのスキルは、実行中に特定のトラフィックパターンを生成する。 我々は、慎重に設計されたスキル記述を挿入することで、特定のトラフィックパターンを生成するパイプラインを設計する。 我々の修正は、いかなるプライベートデータも直接に流出せず、悪意のある命令も実行しないという意味で良心的です。
• 参考スコア（独自算出の注目度）: 14.703722937793641
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Skills for large language model (LLM) agents have been widely deployed across diverse application domains. However, we observe that these skills generate specific traffic patterns during execution. In this paper, we design a pipeline that generates specific traffic patterns by inserting carefully designed skill descriptions, which we term skill watermarks, so that a passive network attacker can establish a covert channel to encode private information within observable traffic across multiple conversation turns. Specifically, we insert prompt constraint terms, referred to as watermarks, into the original skill descriptions and embed them within multi-turn conversations. The key information in the user's original prompt is thereby triggered by these watermarks, producing clearly observable encodings in the traffic. The adversary need only decode the traffic patterns to recover the encoded information. In particular, our modifications are benign in the sense that they do not directly exfiltrate any private data and do not execute any malicious instructions. Extensive experiments demonstrate that our watermarks produce highly consistent and distinguishable traffic patterns, and that the transformed skills pass existing LLM-based security auditing tools. This study highlights that generating specific traffic patterns can be exploited as a novel attack surface and offers critical insights for future security hardening.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントのスキルは、様々なアプリケーションドメインに広くデプロイされている。 しかし、これらのスキルは実行中に特定のトラフィックパターンを生成する。 本稿では,熟練透かしと呼ぶ,慎重に設計されたスキル記述を挿入することで,特定のトラフィックパターンを生成するパイプラインを設計し,複数の会話をまたいだ観測可能なトラフィック内でプライベート情報を符号化する隠蔽チャネルを確立する。 具体的には,従来のスキル記述に「透かし」と呼ばれるプロンプト制約項を挿入し,それをマルチターン会話に埋め込む。 これにより、ユーザのオリジナルのプロンプトのキー情報は、これらの透かしによってトリガーされ、トラフィック内ではっきりと観察可能なエンコードを生成する。 相手は、エンコードされた情報を回復するためにトラフィックパターンをデコードするだけです。 特に、我々の修正は、いかなるプライベートデータも直接に流出せず、悪意のある命令も実行しないという意味で良心的です。 大規模な実験により、我々の透かしは高度に一貫性があり、識別可能なトラフィックパターンを生成し、トランスフォーメーションスキルが既存のLLMベースのセキュリティ監査ツールをパスすることを実証した。 この研究は、特定のトラフィックパターンの生成を新たな攻撃面として活用し、将来のセキュリティ強化に重要な洞察を与えることを強調している。

関連論文リスト

• From Pixels to Privacy: Temporally Consistent Video Anonymization via Token Pruning for Privacy Preserving Action Recognition [14.897629110496219]
  本稿では,システマティックなビデオ匿名化とプライバシ機能に基づくビデオ匿名化フレームワークを提案する。 私たちの重要な洞察は、視覚変換器の注意機構は、プライバシーに敏感なコンテンツからアクション関連情報を分離するために構成できるということです。 われわれのアプローチは、生のビデオで訓練されたモデルに匹敵する認識を維持しつつ、プライバシーの漏洩を大幅に減らしている。
  論文  参考訳（メタデータ） (2026-03-27T11:57:51Z)
• SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
  ソフトプロンプト(SWAP)のための逐次透かしを提案する。 SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。 11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-05T13:48:48Z)
• In-Context Watermarks for Large Language Models [71.29952527565749]
  In-Context Watermarking (ICW)は、インシデントエンジニアリングのみで生成されたテキストに透かしを埋め込む。 粒度の異なる4つのICW戦略について検討した。 本実験は,モデルに依存しない実用的な透かし手法としてのICWの実現可能性を検証するものである。
  論文  参考訳（メタデータ） (2025-05-22T17:24:51Z)
• Robust Data Watermarking in Language Models by Injecting Fictitious Knowledge [31.766208360156906]
  言語モデルのデータ透かしは、トークンシーケンスやスタイルパターンなどのトレース可能な信号を著作権のあるテキストに注入する。 従来のデータ透かし技術は主に事前学習時の効果的な記憶に焦点を当てていた。 本研究では,定型的だが定型的な知識を学習データに注入する新しいデータ透かし手法を提案する。
  論文  参考訳（メタデータ） (2025-03-06T02:40:51Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• RoboSignature: Robust Signature and Watermarking on Network Attacks [0.5461938536945723]
  本稿では,モデルが意図した透かしを埋め込む能力を阻害する新たな逆調整攻撃を提案する。 本研究は, 発生システムにおける潜在的な脆弱性を予知し, 防御することの重要性を強調した。
  論文  参考訳（メタデータ） (2024-12-22T04:36:27Z)
• MIETT: Multi-Instance Encrypted Traffic Transformer for Encrypted Traffic Classification [59.96233305733875]
  トラフィックの分類は、セキュリティの脅威を検出し、ネットワーク管理を最適化するために不可欠である。 トークンレベルとパケットレベルの両方の関係をキャプチャするMulti-Instance Encrypted Traffic Transformer (MIETT)を提案する。 MIETTは5つのデータセットにまたがって結果を達成し、暗号化されたトラフィックの分類と複雑なネットワーク動作の理解の有効性を示す。
  論文  参考訳（メタデータ） (2024-12-19T12:52:53Z)
• Watermarking Large Language Models and the Generated Content: Opportunities and Challenges [18.01886375229288]
  生成型大規模言語モデル(LLM)は知的財産権侵害や機械生成誤報の拡散に懸念を抱いている。 ウォーターマーキングは、所有権を確立し、許可されていない使用を防止し、LLM生成コンテンツの起源を追跡できる有望な手法として機能する。 本稿では,LLMをウォーターマークする際の課題と機会を要約し,共有する。
  論文  参考訳（メタデータ） (2024-10-24T18:55:33Z)
• CodeIP: A Grammar-Guided Multi-Bit Watermark for Large Language Models of Code [56.019447113206006]
  大規模言語モデル(LLM)はコード生成において顕著な進歩を遂げた。 CodeIPは、新しいマルチビット透かし技術で、出所の詳細を保持するために追加情報を挿入する。 5つのプログラミング言語にまたがる実世界のデータセットで実施された実験は、CodeIPの有効性を実証している。
  論文  参考訳（メタデータ） (2024-04-24T04:25:04Z)
• No Free Lunch in LLM Watermarking: Trade-offs in Watermarking Design Choices [20.20770405297239]
  LLM透かし方式における一般的な設計選択は、結果のシステムが驚くほど攻撃を受けやすいことを示す。 本稿では, LLM透かしのガイドラインと防御について述べる。
  論文  参考訳（メタデータ） (2024-02-25T20:24:07Z)
• Turning Your Strength into Watermark: Watermarking Large Language Model via Knowledge Injection [66.26348985345776]
  本稿では,知識注入に基づく大規模言語モデル(LLM)のための新しい透かし手法を提案する。 透かし埋め込みの段階では、まず選択した知識に透かしを埋め込んで、透かし付き知識を得る。 透かし抽出段階では、疑わしいLLMを問うために、透かし付き知識に関する質問を設計する。 実験により, 透かし抽出の成功率は100%近くであり, 提案手法の有効性, 忠実性, ステルス性, 堅牢性を示した。
  論文  参考訳（メタデータ） (2023-11-16T03:22:53Z)
• Watermarking Pre-trained Language Models with Backdooring [118.14981787949199]
  PLMは、所有者が定義した特定の入力によって引き起こされるバックドアを埋め込むことにより、マルチタスク学習フレームワークで透かしが可能であることを示す。 また,いくつかの稀な単語をトリガーとして用いることに加えて,一般的な単語の組み合わせをバックドアトリガーとして用いることで,検出が容易でないことを示す。
  論文  参考訳（メタデータ） (2022-10-14T05:42:39Z)
• DeepMAL -- Deep Learning Models for Malware Traffic Detection and Classification [4.187494796512101]
  本稿では、悪意のあるトラフィックの基盤となる統計をキャプチャできるDLモデルであるDeepMALを紹介する。 DeepMALは、従来の浅層モデルよりも高い精度でマルウェアフローを検出・分類できることを示す。
  論文  参考訳（メタデータ） (2020-03-03T16:54:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。