論文の概要: What Survives Self-Evolution: Provenance Marks in Copied Agent Harnesses

• arxiv url: http://arxiv.org/abs/2610.21458v1
• Date: Thu, 15 Oct 2026 08:03:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.273165
• Title: What Survives Self-Evolution: Provenance Marks in Copied Agent Harnesses
• Title（参考訳）: 自己進化を生き残るもの - コピーされたエージェントのハーネスにおける前兆
• Abstract要約: 盗賊は、流出したハーネスを公表された自己進化器に渡すことができ、その結果を独自のものとして出荷することができる。 大規模な言語モデル(LLM)の提案者は、それを運ぶファイルを書き直し、スコアはより良い書き直しを維持する。 スキームを意識したプラジャリストは、測定不可能なコストでネクタイをリシャッフルし、プロジェクタにもっと一般的なコードを求めるプラジャリストは、75-100%の書き直しで鍵を除去する。
• 参考スコア（独自算出の注目度）: 43.26554326312535
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agent harnesses, the prompt and tool code around a base model, leak. Claude Code's 512,000 lines were mirrored within hours of a packaging error. A plagiarist can pass a leaked harness through a published self-evolver and ship the result as its own. We define this as a covert rewriting attack. No one targets a provenance mark, yet a large language model (LLM) proposer rewrites the file that carries it and a score keeps the better rewrites. We give the first measurement of marks under this attack, with three evolvers, five proposers and two environments. Published marks fail. KGW in the prompt survives GEPA's rewrites in 0 of 12 copies, AgentMark as released in 5 of 12. The proposer's habits decide survival, by two orders of magnitude across models, and selection protects a mark only when each decision sees enough games. We then build a mark for this attack. Its key is the order of near-tied entries of a table of where objects are found, built from public games, so deleting the table costs success, rewrites that keep its rows keep the order, and a customer reads the key from the agent's actions alone. On held-out games it is detected in 62 of 76 copies whose lineage rewrote its file. A scheme-aware plagiarist reshuffles the ties at no measurable cost, and a plagiarist who asks the proposer for more general code removes the key in 75-100% of rewrites.
• Abstract（参考訳）: エージェントハーネス、ベースモデルの周りのプロンプトとツールコード、リーク。 クロード・コードの512,000行はパッケージングエラーの数時間以内にミラーリングされた。 盗賊は、流出したハーネスを公表された自己進化器に渡すことができ、その結果を独自のものとして出荷することができる。 私たちはこれを秘密の書き換え攻撃と定義します。 証明マークを狙う人はいないが、大きな言語モデル(LLM)プロジェクタがファイルを書き直し、スコアはより良い書き直しを維持している。 3つの進化論者、5つの提案者、2つの環境を持つこの攻撃下でのマークの最初の測定を行う。 発行されたマークは失敗します。 KGWは12部中0部でGEPAの書き直しを継続しており、AgentMarkは12部中5部でリリースされた。 提案者の習慣は、モデル間で2桁の規模で生存を決定、選択は各決定が十分なゲームを見る場合にのみマークを保護する。 そして、この攻撃の印を付けます。 鍵となるのは、公共のゲームから作られた、オブジェクトが見つかるテーブルのほぼタイトなエントリの順番であり、テーブルを削除することは成功を犠牲にし、行が順序を保つように書き直しを行い、顧客はエージェントのアクションだけでキーを読み取る。 ホールドアウトゲームでは76部のうち62部で検出され、その系統がファイルを書き直された。 スキームを意識したプラジャリストは、測定不可能なコストでネクタイをリシャッフルし、プロジェクタにもっと一般的なコードを求めるプラジャリストは、75-100%の書き直しで鍵を除去する。

関連論文リスト

• Self-Propagating Misalignment in LLM Agents, and Why Auditing or Disabling Memory Is Not Enough [5.5947232975067065]
  LLMエージェントに対するメモリ中毒攻撃は、エージェントの永続的なメモリに内容を植え付ける外部の敵を仮定し、その振る舞いを制御させる。 我々は、不整合エージェントが、まだ実行できないゴールを永続記憶に書き込むことができるかどうかを調べ、その機会が生じたら、将来整合エージェントがそれを実行できるようにする。
  論文  参考訳（メタデータ） (2026-10-02T21:46:13Z)
• EVOMAL: Self-Poisoning in Self-Evolving Coding Agents [21.932129032072893]
  自己進化型コーディングエージェントは、共有スキルライブラリから取得したスキルを模倣して、独自のツールを記述する。 エージェントの作者は、悪意のあるスキルを保存し、実行します。 EvoMalは、バナーに交換可能なペイロードをラップすることで、自己攻撃を増幅する攻撃です。
  論文  参考訳（メタデータ） (2026-08-26T13:19:12Z)
• Proof-of-Execution Memory: Defending LLM Agents Against Forged-Reasoning Attacks by Verifying What Actually Happened [2.45357121165634]
  本稿では,言語モデルに対して,最初の試みでSENTINELを回避しようとする自動攻撃者について述べる。 メモリを全く検査しないPEM(Proof-of-Execution Memory)を提案する。
  論文  参考訳（メタデータ） (2026-08-17T02:54:04Z)
• Measuring the Wrong Thing: Internal Harmfulness Scores Anti-Rank Successful Jailbreaks [8.249133191294703]
  内部安全スコアは、テキストが生成される前にプロンプトを判断する。 間違った量を測定するスコアに調整されたフィルターは、いずれにせよ失敗した攻撃に対して偽陽性の予算を費やす。 固定コンテンツ独立計測座標を提供するアクティブアテンション・プロービングを導入する。
  論文  参考訳（メタデータ） (2026-08-10T14:05:32Z)
• Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses [7.287314790466206]
  セルフチェックディフェンスは、応答する前に、ターゲットモデルに要求を評価するように要求する。 個々の攻撃に対して無害な2つの攻撃を構成することで、違反する可能性があることを示す。
  論文  参考訳（メタデータ） (2026-07-29T09:01:26Z)
• CopyBench: Measuring Literal and Non-Literal Reproduction of Copyright-Protected Text in Language Model Generation [132.00910067533982]
  LM世代におけるリテラルコピーと非リテラルコピーの両方を測定するために設計されたベンチマークであるCopyBenchを紹介する。 リテラル複写は比較的稀であるが、イベント複写と文字複写という2種類の非リテラル複写は、7Bパラメータのモデルでも発生する。
  論文  参考訳（メタデータ） (2024-07-09T17:58:18Z)
• Are You Copying My Model? Protecting the Copyright of Large Language Models for EaaS via Backdoor Watermark [58.60940048748815]
  企業は大規模な言語モデル(LLM)に基づいたEmbeddding as a Service(E)の提供を開始した。 Eはモデル抽出攻撃に弱いため、LLMの所有者に重大な損失をもたらす可能性がある。 埋め込みにバックドアを埋め込むEmbMarkerという埋め込み透かし手法を提案する。
  論文  参考訳（メタデータ） (2023-05-17T08:28:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。