論文の概要: Anytime-valid detection of LLM weight exfiltration

• arxiv url: http://arxiv.org/abs/2610.11843v1
• Date: Thu, 08 Oct 2026 12:31:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.022962
• Title: Anytime-valid detection of LLM weight exfiltration
• Title（参考訳）: LLM重み付きろ過の随時検出
• Abstract要約: 妥協されたLLM推論サーバは、ペイロードビットを、そうでなければ妥当なトークン選択に符号化することで、モデルの重みをリークすることができる。 信頼できるサーバにおける同じプロンプトのリプレイは、そのようなずれを露呈することができるが、良質な数値的非決定性もまたトークンミスマッチを引き起こす。 本稿では,信頼度の高いトラフィックに対して,全応答ミスマッチイベントを校正するプロンプトレベルのe-プロセスを提案する。
• 参考スコア（独自算出の注目度）: 0.09654814878464187
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A compromised LLM inference server can leak model weights by encoding payload bits in otherwise plausible token choices. A replay of the same prompt in a trusted server can expose such deviations, but benign numerical nondeterminism also causes token mismatches. Patient attackers can therefore hide within normal variation unless evidence is combined across responses. We introduce a prompt-level e-process that calibrates whole-response mismatch events on trusted benign traffic and accumulates evidence sequentially while, under a calibration-transfer assumption, controlling the probability of any false alarm over an unbounded monitoring horizon. We evaluate it on four models against a seed-blind attack and a stronger seed-aware attack that hides payload bits only in near-ties to remain stealthy, analyzing the channel capacity vs detectability trade-off. Compared with a hard per-token alarm, the e-process combines weak evidence across responses while providing explicit anytime false-alarm control.
• Abstract（参考訳）: 妥協されたLLM推論サーバは、ペイロードビットを、そうでなければ妥当なトークン選択に符号化することで、モデルの重みをリークすることができる。 信頼できるサーバにおける同じプロンプトのリプレイは、そのようなずれを露呈することができるが、良質な数値的非決定性もまたトークンミスマッチを引き起こす。 したがって、患者攻撃者は、反応間で証拠が組み合わさりない限り、正常な変動の中に隠れることができる。 本研究では,信頼されたベニグニグニグニグニグニグニグニグニグニグナグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグナグナグニグナグニグナグニグナグナグニグナグナグニグニグニグナグニグニグナグ 我々は、シードブラインド攻撃とより強力なシード認識攻撃に対して、4つのモデルでこれを評価し、ペイロードビットを秘密裏に隠蔽し、チャネルキャパシティと検出可能性トレードオフを分析した。 ハード・パー・トーケンのアラームと比較すると、Eプロセスは反応の弱いエビデンスを組み合わさり、明示的ないつでも偽アラーム制御を提供する。

関連論文リスト

• When Normalization Selects the Sign: Auditing Robustness Ablations in Quantum Attention [0.17499351967216337]
  生成した電力グリッド軌道上の4量子量子アテンション検出器の問題点を実証する。 学習したスケーリングモジュールは、固定された物理的攻撃予算で有用であるように見えるが、エンコーダの摂動の上限値に一致すると順序が逆になる。 実践的な教訓は、どの摂動予算が固定されているかを特定すること、ラベルと介入が予測を保存することをチェックすること、探索的制御と確認的証拠を区別することである。
  論文  参考訳（メタデータ） (2026-10-02T00:57:53Z)
• Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
  Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。 Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。 Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
  論文  参考訳（メタデータ） (2026-09-29T07:58:49Z)
• Client-Side Probing of Deleted Ridge Statistics in Federated Unlearning [8.170162585703787]
  Federated Unlearningは、共有モデルからクライアントのデータを取り除き、スクラッチからリトレーニングすることを目的としている。 いくつかの効率的なシステムは、訓練機能のコンパクトで付加的な要約を格納することで、削除を正確にする。 これらの放送は、隠れた要約を明らかにすることもできる。
  論文  参考訳（メタデータ） (2026-09-03T20:59:09Z)
• Raw-Curve Quantum Fingerprints: A Mahalanobis Authentication Framework with Drift Early Warning and Adversarial Detection [11.819995530903567]
  量子クラウドプラットフォームは強力なコンピューティング機能を提供することを目指しているが、ユーザは、どの物理デバイスがワークロードを実行するかを検証する直接的な手段を持っていない。 この透明性の欠如により、悪意のある敵がジョブを代替または劣等なプロセッサにリダイレクトするハードウェア置換攻撃が可能になる。 実測データから多次元量子指紋を構築することにより,この問題に対処する汎用認証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-10T04:10:21Z)
• Caught in the Act(ivation): Toward Pre-Output and Multi-Turn Detection of Credential Exfiltration by LLM Agents [0.0]
  出力トークンが出力される前に,アクティベーションプローブがクレデンシャルアクセスを検出できるかどうかを検討する。 第3に,マルチターンフィルタを累積情報フロー問題として扱う。 その結果、クレデンシャル・エミッション・ディフェンスは、事前出力監視、カナリア検出、時間的漏洩会計を併用すべきであることが示唆された。
  論文  参考訳（メタデータ） (2026-06-02T18:53:17Z)
• Verifiable Dropout: Turning Randomness into a Verifiable Claim [1.7476019497926718]
  ゼロ知識証明に基づくプライバシー保護機構であるVerifiable Dropoutを導入する。 提案手法は, ドロップアウトマスクを決定論的, 暗号的にシードに結合し, ドロップアウト動作の正しい実行を証明している。 この設計は、ユーザーがトレーニング手順の整合性を監査し、ランダムさがバイアスでもチェリーピックでもないことを保証します。
  論文  参考訳（メタデータ） (2025-12-27T09:14:35Z)
• Uncertainty is Fragile: Manipulating Uncertainty in Large Language Models [79.76293901420146]
  大規模言語モデル(LLM)は、出力の信頼性が不可欠である様々な高い領域で採用されている。 本研究では,不確実性推定の脆弱性を調査し,攻撃の可能性を探る。 攻撃者がLSMにバックドアを埋め込むことができ、入力中の特定のトリガーによって起動されると、最終的な出力に影響を与えることなくモデルの不確実性を操作できることを示す。
  論文  参考訳（メタデータ） (2024-07-15T23:41:11Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)
• Tracking the risk of a deployed model and detecting harmful distribution shifts [105.27463615756733]
  実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。 我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
  論文  参考訳（メタデータ） (2021-10-12T17:21:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。