論文の概要: Sequential Behavioral Watermarking for LLM Agents

• arxiv url: http://arxiv.org/abs/2605.11036v1
• Date: Mon, 11 May 2026 02:28:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.321172
• Title: Sequential Behavioral Watermarking for LLM Agents
• Title（参考訳）: LLM剤の逐次挙動透かし
• Authors: Hyeseon An, Shinwoo Park, Dongsu Kim, Yo-Sub Han,
• Abstract要約: LLMベースのエージェントは実行可能決定のシーケンスを通じて作用するが、その軌道はどのエージェントやポリシーが生成したかの証拠はほとんど得られない。 これにより、生成されたテキストにのみ埋め込まれるのではなく、エージェントの振る舞いに直接埋め込まれた透かし信号が動機付けられる。 本稿では、履歴条件の遷移パターンに信号を埋め込むシーケンシャルな行動透かしフレームワークSeqWMを提案する。
• 参考スコア（独自算出の注目度）: 6.193603972930103
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM-based agents act through sequences of executable decisions, but their trajectories provide little evidence of which agent or policy produced them, making provenance, ownership, and unauthorized reuse difficult to establish from observed behavior alone. This motivates watermarking signals embedded directly into agent behavior rather than only into generated text, since text watermarking cannot capture the action-level decisions that define agent execution. Recent agent watermarking methods address this gap by moving the watermark from generated text to behavioral choices. However, by treating each action step as an independent trial, they overlook trajectory structure and become fragile when trajectories are perturbed, truncated, or observed without reliable alignment. We propose SeqWM, a sequential behavioral watermarking framework that embeds signals into history-conditioned transition patterns and verifies trajectories position-agnostically against random-key baselines. Experiments across diverse agent benchmarks and LLM backbones show that SeqWM consistently achieves reliable detection while preserving agent utility, and remains robust under trajectory corruption where round-indexed behavioral watermarks collapse.
• Abstract（参考訳）: LLMをベースとしたエージェントは、実行可能な決定のシーケンスを通じて行動するが、それらの軌道は、どのエージェントやポリシーが生成したかの証拠をほとんど提供しておらず、証明、所有権、未承認の再利用は観察された行動のみから確立することが困難である。 これは、テキスト透かしがエージェントの実行を定義するアクションレベルの決定をキャプチャできないため、生成されたテキストだけに留まらず、エージェントの振る舞いに直接埋め込まれた透かし信号を動機付けている。 最近のエージェント透かし手法は、透かしを生成されたテキストから行動選択に移行することによって、このギャップに対処する。 しかし、各行動ステップを独立した試行として扱うことで、軌道構造を見落とし、軌道が乱れ、乱れ、あるいは信頼できるアライメントを伴わずに観察されるときに脆弱になる。 本稿では,履歴条件の遷移パターンに信号を埋め込んだシーケンシャルな行動透かしフレームワークSeqWMを提案する。 多様なエージェントベンチマークとLCMバックボーンによる実験により、SeqWMはエージェントユーティリティを保ちながら信頼性の高い検出を一貫して達成し、ラウンドインデックスされた振る舞いの透かしが崩壊する軌道上の汚職の下でも堅牢であることが示された。

関連論文リスト

• Beyond Input Guardrails: Reconstructing Cross-Agent Semantic Flows for Execution-Aware Attack Detection [32.301679396929536]
  静的な入力フィルタリングから実行対応分析へ、防御パラダイムをシフトするフレームワークであるSysNameを提案する。 SysNameは断片化された操作プリミティブを連続した行動軌跡に合成し、システムアクティビティの全体像を可能にする。 実証的な評価により、SysNameは10以上の異なる複合攻撃ベクトルを効果的に検出し、それぞれノードレベルとパスレベルのエンドツーエンド攻撃検出に対して85.3%と66.7%のF1スコアを達成した。
  論文  参考訳（メタデータ） (2026-03-04T01:59:16Z)
• On Protecting Agentic Systems' Intellectual Property via Watermarking [17.334130453604313]
  AgentWMはエージェントモデル用に設計された最初の透かしフレームワークである。 AgentWMは、機能的に同一のツール実行パスの分布を微妙にバイアスすることで、アクションシーケンスのセマンティックな等価性を利用して、透かしを注入する。 我々は,エージェントIPを適応的敵に対して効果的に保護できることを確認した。
  論文  参考訳（メタデータ） (2026-02-09T09:02:15Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• AgentMark: Utility-Preserving Behavioral Watermarking for Agents [20.30614808186259]
  AgentMarkは、ユーティリティを保持しながら、計画決定にマルチビット識別子を組み込むフレームワークである。 エージェントから明示的な挙動分布を抽出し、分布保存条件サンプリングを適用する。 具体化、ツール利用、社会環境における実験は、実用的なマルチビット容量、部分ログからの堅牢な回復、ユーティリティ保存を実証している。
  論文  参考訳（メタデータ） (2026-01-05T15:42:18Z)
• SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
  ソフトプロンプト(SWAP)のための逐次透かしを提案する。 SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。 11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-05T13:48:48Z)
• Position: LLM Watermarking Should Align Stakeholders' Incentives for Practical Adoption [94.887133335656]
  私たちはこのレンズを通して透かしの3つのクラスを見直します。 emphLLMテキスト透かしは、反ミスツールとしてのみフレーム化された場合に、控えめなプロバイダの利点を提供する。 emphIn-context watermarking (ICW)は、会議の主催者や教育者といった信頼できる関係者向けに調整されている。
  論文  参考訳（メタデータ） (2025-10-21T06:34:51Z)
• Agent Guide: A Simple Agent Behavioral Watermarking Framework [8.635811152610604]
  Agent Guide(エージェントガイド)は、エージェントのハイレベルな判断(振る舞い)を確率バイアスを通じて導くことによって、透かしを埋め込む行動的透かしフレームワークである。 我々はz統計に基づく統計分析を用いて透かしを検出し、複数のラウンドで確実に抽出する。 我々のフレームワークは、悪意のあるエージェントを識別し、プロプライエタリなエージェントシステムを保護するために、エージェントの透かしに実用的で堅牢なソリューションを提供する。
  論文  参考訳（メタデータ） (2025-04-08T09:54:49Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。