論文の概要: Contagious Fingerprints: When LLMs Inherit Another Model's Identity
- arxiv url: http://arxiv.org/abs/2611.18104v1
- Date: Fri, 13 Nov 2026 12:32:44 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:27:33.861366
- Title: Contagious Fingerprints: When LLMs Inherit Another Model's Identity
- Title(参考訳): 伝染性フィンガープリント:LDMが他のモデルのアイデンティティを継承する時
- Abstract要約: 別のモデルで始まる会話を継続するモデルがそのモデルの指紋を継承することを示す。
提案するtextscLineupは,請求項モデルからの参照を同一履歴に記入し,評価された応答をそのランクで検証する。
- 参考スコア(独自算出の注目度): 0.20305676256390937
- License:
- Abstract: The fingerprint by which a classifier recognizes the LLM behind a text is usually treated as a fixed property of the model. We show that it is contagious: a model that continues a conversation begun by another model inherits that model's fingerprint. This undermines audits of API relays, which can serve the first turns of a conversation with the model a customer pays for and silently hand the rest to a cheaper one. After such a handoff, detection of the substitute by a text classifier drops from 0.97 to 0.72 (DeepSeek replacing Claude Sonnet) and from 0.87 to 0.54 for a same-vendor downgrade (Haiku), and retraining on handoff data repairs only substitutes seen in training. Preregistered experiments trace the contagion to imitation of the history's style. History also moves a model away from its own fingerprint: active probes are not camouflaged, but when calibrated on fresh conversations they flag \emph{honest} models on long contexts at rates up to 1.00, and a standard MMD equality test rejects all nine models we test. Both failures come from comparing a history-dependent reply with a history-free reference. We propose \textsc{Lineup}, which samples references from the claimed model \emph{on the same history} and tests the audited reply by its rank among them. \textsc{Lineup} controls false positives by exchangeability and needs no fitted threshold or log-probabilities. With contemporaneous references on two closed models, its false-positive rate is 0.056 (preregistered bound 0.10), and it detects 0.81 of substitute sessions across six pairs after four audited turns.
- Abstract(参考訳): 分類器がテキストの裏にあるLCMを認識する指紋は通常、モデルの固定プロパティとして扱われる。
別のモデルで始まる会話を継続するモデルは、そのモデルの指紋を継承する。
これはAPIリレーの監査を損なうもので、顧客が支払うモデルとの会話の最初のターンに役立ち、残りを安く手渡すことができる。
このようなハンドオフの後、テキスト分類器による置換品の検出は、Claude Sonnetを代替するDeepSeek)から0.97から0.72(DeepSeek)へ、同じベンダーダウングレード(Haiku)に対して0.87から0.54に低下し、トレーニングで見られる代替品のみのハンドオフデータ修復をリトレーニングする。
事前登録された実験は、歴史の様式の模倣に感染を辿った。
アクティブプローブはカモフラージュされていないが、新鮮な会話をキャリブレーションすると、最大1.00のレートで長いコンテキストで 'emph{honest} モデルをフラグ付けし、標準的なMDD平等テストでは、テストした9つのモデルをすべて拒否する。
どちらの失敗も、履歴に依存した応答と履歴のない参照を比較することから来ています。
我々は、請求項モデル \emph{on the same history} からの参照をサンプリングした \textsc{Lineup} を提案する。
\textsc{Lineup}は、交換可能性によって偽陽性を制御し、適合しきい値やログ確率を必要としない。
2つの閉じたモデルに対する同時参照では、偽陽性率は0.056(予め登録された境界0.10)であり、4つの監査されたターンの後、6対の代替セッションの0.81を検出する。
関連論文リスト
- Deletion Sensitivity Is a Property of the Model: A Three-Condition Measurement over 72 Valid Experimental Cells [7.507350679759051]
推論モデルは、マルチターンツールセッションのすべてのターンでトレースを書き、その後、それを読み取ります。
本稿では,マルチターンツールコールにおける履歴の完全削除の直接的,盲目的,多列的計測について報告する。
論文 参考訳(メタデータ) (2026-11-09T20:51:21Z) - Do We Need an LLM to Know Why Sources Conflict? Decision Models for Knowledge-Conflict Typing in RAG [0.0]
テキストを生成する代わりに、1つのフォワードパスで固定オプションに対して確率を返す型決定モデルが、この分類を迅速かつ安価に行うことができるかどうかを検討する。
同一入力におけるGeminiモデルに対して、7つのプロバイダから1つの商用推論ゲートウェイによって提供される11の決定モデルすべてを評価する。
論文 参考訳(メタデータ) (2026-10-27T09:43:21Z) - Style, Not Self: Surface Cues Explain Zero-Shot Code Attribution by Large Language Models [4.36766480644779]
5つのLCMはMBPP、HumanEval、DS-1000のソリューションを生成し、さらに7つのMBPP、モデルが4つのタスクで評価器として機能する。
単一解法タスクでは、バランスの取れた精度は15のモデルとベンチマークの組み合わせで49-58%である。
名前付きモデルへの帰属はいくつかのペアで成功し、常に他のペアで逆転する。
論文 参考訳(メタデータ) (2026-09-24T16:11:21Z) - TeleAntiFraud 2.0: A Refreshable, Profile-Grounded, and Audio-Based Benchmark for Telecom Fraud Detection [55.35119005976305]
テレコム詐欺スクリプトは急速に進化し、日常的なサービス会話に似たように設計されている。
ベンチマークは、以前に確立されたテストセットを上書きすることなく、新しく観察された詐欺パターンを組み込まなければならない。
本稿では,Mixed-Tree Anti-Fraud Generation Pipelineで構築したTeleAntiFraud 2.0について述べる。
論文 参考訳(メタデータ) (2026-09-16T14:41:11Z) - Legible Failures: Detecting and Repairing In-Context Binding Errors [0.0]
間違った答えは、モデルが必要な情報を欠いているか、保持していたかを示していない。
16の公的なチェックポイントで、それぞれが3つのシードで評価される頻度を測定します。
インコンテキストバインディングは、プローブが動作可能な設定であることに気付きました。
論文 参考訳(メタデータ) (2026-09-10T08:20:15Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳(メタデータ) (2026-05-09T22:27:31Z) - DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability
Curvature [143.5381108333212]
大規模な言語モデルからサンプリングされたテキストは、モデルのログ確率関数の負の曲率領域を占有する傾向にあることを示す。
次に、与えられたLLMから通路が生成されるかどうかを判断するための新しい曲率ベースの基準を定義する。
我々は、モデルサンプル検出のための既存のゼロショット法よりもディテクターGPTの方が識別性が高いことを発見した。
論文 参考訳(メタデータ) (2023-01-26T18:44:06Z) - Are You Stealing My Model? Sample Correlation for Fingerprinting Deep
Neural Networks [86.55317144826179]
従来の方法は、常にモデル指紋として転送可能な敵の例を利用する。
本稿では,SAmple correlation (SAC) に基づく新しいモデル盗難検出手法を提案する。
SACは、敵の訓練や移動学習を含む様々なモデル盗難攻撃をうまく防いでいる。
論文 参考訳(メタデータ) (2022-10-21T02:07:50Z) - Learnable Boundary Guided Adversarial Training [66.57846365425598]
私たちは、あるクリーンモデルからのモデルロジットを使用して、別のロバストモデルの学習をガイドします。
我々は、CIFAR-100上で、追加の実データや合成データなしで、新しい最先端のロバスト性を実現する。
論文 参考訳(メタデータ) (2020-11-23T01:36:05Z) - TACRED Revisited: A Thorough Evaluation of the TACRED Relation
Extraction Task [80.38130122127882]
TACREDはリレーショナル抽出(RE)において最も大きく、最も広く使われているクラウドソースデータセットの1つである
パフォーマンスの天井に到達したのか、改善の余地はあるのか?
ラベルエラーは絶対F1テストエラーの8%を占めており、例の50%以上を可逆化する必要がある。
論文 参考訳(メタデータ) (2020-04-30T15:07:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。