論文の概要: Subtle Injection for Ground-truth Inference of LLM Training Data

• arxiv url: http://arxiv.org/abs/2606.06502v1
• Date: Mon, 18 May 2026 14:48:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.655916
• Title: Subtle Injection for Ground-truth Inference of LLM Training Data
• Title（参考訳）: LLMトレーニングデータのグランド・トゥルース推定のためのサブス・インジェクション
• Authors: Abraham Itzhak Weinberg,
• Abstract要約: SIGILは、認識不能なEmphcanary Sequenceを保護されたテキストとコードに埋め込むフレームワークである。 SIGILは、語彙規則、語彙句、構文、意味、コードパターンの5つのカナリア戦略を定義している。
• 参考スコア（独自算出の注目度）: 0.2538209532048867
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are increasingly trained on scraped web corpora without authorisation, content owners require forensic methods to prove that their documents were included in a model's training set. We propose \textbf{SIGIL} (\textbf{S}ubtle \textbf{I}njection for \textbf{G}round-truth \textbf{I}nference of \textbf{L}LM training data), a framework that embeds imperceptible \emph{canary sequences} into protected text and code such that any LLM trained on those documents exhibits statistically detectable behavioural signatures when probed with targeted queries. SIGIL defines five canary strategies -- lexical-rare, lexical-phrase, syntactic, semantic, and code-pattern -- and a \emph{Membership Inference Score} (MIS) grounded in the Neyman-Pearson hypothesis testing framework with formal false-positive rate (FPR) control. Simulator parameters are calibrated against the empirical membership inference literature, yielding realistic heterogeneous results across $36{,}000$ trials: overall AUC $= 0.892$, rising from $0.831$ at $0.1\%$ injection to $0.947$ at $10\%$. Detection rates range from $33\%$ to $78\%$ across model-size and injection-rate conditions. Code Pattern canaries achieve the highest AUC ($0.903$, Cohen's $d = 1.84$); Syntactic Structure the lowest ($0.875$, $d = 1.63$). All four experimental factors -- injection rate, model size, canary strategy, and mixture ratio -- have significant independent effects on MIS ($p < 0.001$). SIGIL maintains AUC $> 0.86$ even under $100\%$ paraphrasing ($\text{AUC} = 0.864$), confirming robustness through semantic leakage that survives surface-level rewriting.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、認可なしにスクラップされたWebコーパスで訓練されることが多いため、コンテンツ所有者は、彼らのドキュメントがモデルのトレーニングセットに含まれていることを証明するために法医学的な方法を必要とする。 本稿では, 対象クエリで探索した場合に, LLMが統計的に検出可能な動作シグネチャを示すように, 認識不能な \emph{canary sequence} を保護されたテキストやコードに埋め込むフレームワークである。 SIGILは5つのカナリア戦略 - 語彙規則、語彙句、構文、意味、コードパターン -- と、正式な偽陽性率(FPR)制御を備えたNeyman-Pearson仮説テストフレームワークに根ざした \emph{Membership Inference Score} (MIS) を定義する。 シミュレーションパラメータは経験的メンバーシップ推論の文献に対して校正され、36{,}000$トライアルで現実的な不均一な結果が得られる: 全体的なAUC$=0.892$は0.831$から0.1\%$インジェクションで0.947$から10\%$に上昇する。 検出レートは、モデルサイズとインジェクションレートの条件によって、33\%$から78\%$まで様々である。 Code Patternのカナリアは、最高額のAUC(0.903$, Cohen's $d = 1.84$),Syntactic Structure(0.875$, $d = 1.63$)を達成する。 注入速度, モデルサイズ, カナリア戦略, 混合比の4つの実験因子はMIS(p < 0.001$)に対して有意な独立性を示す。 SIGIL は AUC $> 0.86$ を 100\%$ パラフレーズ ($\text{AUC} = 0.864$) 以下でも維持している。

関連論文リスト

• Representation Without Reward: A JEPA Audit for LLM Fine-Tuning [1.2691047660244335]
  JEPA(Joint-embedding predictive Architectures)は、モデルが観測された出力よりも遅延表現を予測できるように訓練された時に、より有用な抽象化を学ぶべきであることを提案している。 自己回帰型言語モデルの微調整には、この原理はより厳密な要件を必要とする。 我々は、Llama-3.2-1B-Instruct LoRA を用いて、自然言語からレジェックス生成におけるその要件を検証した。
  論文  参考訳（メタデータ） (2026-05-14T20:27:32Z)
• ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
  $textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。 Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
  論文  参考訳（メタデータ） (2026-05-11T16:20:51Z)
• MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents [0.0]
  検索強化エージェントに対するメモリ中毒攻撃を,統合評価フレームワークを用いたStackelbergゲームとして定式化する。 ASR-R: 0.25〜1.00$) による攻撃成功度を4倍に向上させる。 私たちの主な貢献は、勾配結合に接地したキャリブレーションに基づく防御であるMEMSADである。
  論文  参考訳（メタデータ） (2026-05-05T08:15:41Z)
• ClaimFlow: Tracing the Evolution of Scientific Claims in NLP [67.23189226608389]
  NLP文献のクレーム中心のビューである$texttClaimFlow$を紹介します。 新しいタスク $-$$textitClaim Relation Classification$$-$を定義する。 我々の分析によると、63.5$%の請求は決して再利用されない。
  論文  参考訳（メタデータ） (2026-03-17T02:43:36Z)
• Real-time nonlinear inversion of magnetic resonance elastography with operator learning [0.06797079068199119]
  oNLIフレームワークは、NLIに匹敵する空間精度を持つエラストグラムのリアルタイムMREインバージョン(30,000倍高速化)を可能にする。 MRE文学におけるソフト事前正規化に類似した構造的事前機構が,空間的精度を向上させるために組み込まれている。
  論文  参考訳（メタデータ） (2025-10-03T08:55:40Z)
• Blackbox Dataset Inference for LLM [27.02176845242058]
  大規模言語モデルのトレーニングには、個人識別可能な情報と著作権のある資料が含まれる。 本稿では、被疑者モデルがトレーニングに$mathcalD$という犠牲データセットを使用したかどうかを検知することを目的としたテキストデータセット推論について検討する。
  論文  参考訳（メタデータ） (2025-07-04T14:45:41Z)
• Language Models May Verbatim Complete Text They Were Not Explicitly Trained On [97.3414396208613]
  我々は、$n$-gram ベースのメンバシップ定義を効果的にゲームできることを示す。 会員定義に対して$n$の1つの実行可能な選択を見つけることは困難であることを示す。 以上の結果から,n$-gramの会員シップが不十分であることが示唆された。
  論文  参考訳（メタデータ） (2025-03-21T19:57:04Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。