論文の概要: Privacy Failure in Split-LLM Training, The Returned Gradient Nullifies the Decoys

• arxiv url: http://arxiv.org/abs/2609.04382v1
• Date: Thu, 03 Sep 2026 18:43:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:23.795744
• Title: Privacy Failure in Split-LLM Training, The Returned Gradient Nullifies the Decoys
• Title（参考訳）: スプリットLLMトレーニングにおけるプライバシ障害
• Abstract要約: 本稿では、2ノードスプリットLLMトレーニングシステムについて,可観測チャネルを未試験のまま残しながらプライバシ評価をパスしたシステムセキュリティケーススタディを提案する。 我々は、事前に固定されたプロトコルを用いて測定する: 既知の強度でインジェクトされ、楽器がそれを見ることができることを証明するリーク、不在なリークを報告しないことを示すシャッフルラベル制御、そして実行前に設定された閾値。 9つのシードにまたがって、ゼロは各フレームの実際の行を識別し、1ラン当たり4,096行の4,096行を攻撃した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present a systems-security case study of a two-node split-LLM training system whose privacy evaluation passed while leaving an observable channel untested. The Trusted Local Node (TLN) sends protected activations to the Untrusted Cloud Node (UCN), the UCN returns its output, and TLN, holding the private loss, returns the output gradient. The frame the UCN receives mixes real rows with decoys, and the loss ignores the decoys. Their gradients are exactly zero, so the pattern of zeros reveals which rows were real. We measure it with a protocol fixed in advance: a leak injected at known strength to prove the instrument can see one, a shuffled-label control to prove it does not report absent leaks, and a threshold set before the runs. Across nine seeds, the zeros identified the real rows on every frame, 4,096 of 4,096 per run. An attack on the frame contents recovered about one extra token per hundred over a constant-guess baseline (+0.65 to +1.50 percentage points); the shuffled controls recovered nothing. A second set of runs repeated this on a configuration that keeps model quality within budget, so the finding is not confined to a setting nobody would deploy. On both datasets, every such run passed the forward-channel privacy check and the quality check, yet failed that same check once the returned gradient was included. Clipping and noising each row of the gradient closed the leak for about 0.01 nats of held-out cross-entropy. The system is not thereby safe: five classes of attack, including those accumulating observations across training steps, were never measured.
• Abstract（参考訳）: 本稿では、2ノードスプリットLLMトレーニングシステムについて,可観測チャネルを未試験のまま残しながらプライバシ評価をパスしたシステムセキュリティケーススタディを提案する。 Trusted Local Node (TLN)は、保護されたアクティベーションをUntrusted Cloud Node (UCN)に送信し、UCNはその出力を返し、TLNはプライベート損失を保持して出力勾配を返す。 UCNが受信するフレームは実列とデコイを混合し、損失はデコイを無視する。 彼らの勾配はちょうどゼロなので、零点のパターンはどの行が実であるかを明らかにする。 我々は、事前に固定されたプロトコルを用いて測定する: 既知の強度でインジェクトされ、楽器がそれを見ることができることを証明するリーク、不在なリークを報告しないことを示すシャッフルラベル制御、そして実行前に設定された閾値。 9つの種にまたがって、ゼロは各フレームの実際の行を特定し、1ラン当たり4,096の4,096である。 フレームの内容に対する攻撃は、定数ゲスベースライン(+0.65から+1.50ポイント)で100個当たり1個余分なトークンを回収し、シャッフルされた制御は何も回収しなかった。 2つ目の実行セットは、モデル品質を予算内に保持する構成でこれを繰り返すため、発見は、誰もデプロイしない設定に限定されない。 どちらのデータセットでも、これらの実行はすべてフォワードチャネルのプライバシチェックと品質チェックをパスしたが、返される勾配が含まれれば同じチェックは失敗する。 勾配の各行を傾けると、ホールドアウトしたクロスエントロピーの0.01ナットの漏れが閉じた。 このシステムは安全ではなく、訓練段階にまたがる観察を蓄積する5つのクラスを含む5つの攻撃が測定されなかった。

関連論文リスト

• Reversibility-Verified De-identification for Cloud-Local LLM Inference: A Locally Certified Dehydrate-Rehydrate Loop with Layered Assurance (DR-SL) [1.802678437602184]
  DR-SL (Dehydrate-Rehydrate with Self-Learning loop) は、脱同定完全性を2つの測定可能な条件として定式化する。 完全局所二分岐検証器は、終了が保証されたレキソグラフィゲートの下で脱水を繰り返す。 ファノ型の低い境界、フグの目撃者、そしてレート・プライバシ・フィージビリティの基準を証明し、その範囲を明確化します。
  論文  参考訳（メタデータ） (2026-09-14T01:04:58Z)
• Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning [67.04448659688579]
  FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。 フェデレーションはオプションではなく、オフ・ザ・シェルフ・トランスファーは流通シフトによって崩壊する。 Live FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。
  論文  参考訳（メタデータ） (2026-09-02T07:57:12Z)
• Calibrating Criterion Revision in LLM Agents: Failure Modes and a Trace-Anchored Protocol [3.202978695204522]
  言語モデルエージェントは、失敗後に改善したり、成功と見なすものを再検討することなく、エピソード間でテキストを運ぶことができる。 CMB-0.1を12例,腕4例で検討した。 モデルトライアルが5つの条件すべてを満たすことはないが、このゼロは一般能力の欠如を証明していない。
  論文  参考訳（メタデータ） (2026-08-21T04:21:28Z)
• CUSTOS: Toward Forensic-Ready Zero Trust at the Capture-Containment Boundary [1.1458853556386797]
  CUSTOSは、法医学的管理ポイント(FMP)を中心にした、法医学的なZT参照アーキテクチャである。 常時オンの判定記録は、ゲートウェイ上で1.9～3.0%のスループットコストで取得され、ハッシュチェーンされる。 以上の結果から, 鑑識対応型ZTは, 常にオンの床と有界な反応性キャプチャの両方を必要とすることが明らかとなった。
  論文  参考訳（メタデータ） (2026-08-17T19:17:15Z)
• Dual Spatial-Temporal Attribution: Architecture-Aligned Post-Hoc Explainability for Recurrent Graph Anomaly Detection [1.8899300124593645]
  動的グラフにおける異常検出のためのポストホックな説明可能性フレームワークであるX-AddGraphを提案する。 検出器は凍結されているため、検出性能は正確に保存される。 X-AddGraphはすべてのスコアを同一に再現し、存在しない説明を追加します。
  論文  参考訳（メタデータ） (2026-08-12T15:58:27Z)
• Mapping CVEs to MITRE ATT&CK Techniques: A Curated Gold-Set Classifier and the Limits of LLM-Assisted Label Expansion [46.262619407930266]
  我々は、専門家のMITRE Center for Threat-Informed Defense mappingsから1,207 CVEのキュレートされた金のデータセットにマルチラベル分類器をトレーニングする。 その結果得られたモデルは、ゼロショットの埋め込み類似性のベースラインと比較して、おおよそdoubles recall@5である。 次に,LLMによるラベリングが金のデータセットを拡張できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-07-28T10:59:04Z)
• Track-Leakage-Free Hold-Out Self-Validation for Photogrammetric Reconstruction: Protocol, Sensitivity, and Limits [0.0]
  画像再構成のためのトラックレカジフリーホールドアウトプロトコルを定式化する。 我々は、5つの基準撮影、13のETH3Dレーザースキャンシーン、EuRoC飛行、30のIMC 2025シーンで評価した。
  論文  参考訳（メタデータ） (2026-07-25T17:00:11Z)
• What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
  本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。 複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
  論文  参考訳（メタデータ） (2026-06-19T06:04:17Z)
• Ghost: Plausible Yet Unlearnable Trajectories via On-Manifold Substitution for Next-POI Privacy [34.07056031726073]
  チェックイントラジェクトリをリリースするパブリッシャは、ユーザの将来位置の強い予測器を不注意に公開する。 このリスクに対処するために、クリーンなテスト入力に対して次点次点(next-POI)の精度を低下させた被害者モデルを生成する、学習不能なトラジェクトリ、摂動シーケンスを生成する。 我々はGhostを提案する。Ghostは、摂動が人間のチェックインシーケンスのように見えるが、学習可能な信号は残っていない。
  論文  参考訳（メタデータ） (2026-06-02T14:31:14Z)
• Revisiting Auxiliary Losses for Conditional Depth Routing: An Empirical Study [31.968379218484746]
  ゲート決定は、言語モデリング(LM)の損失に影響を与える前に、多くのレイヤを通して伝播しなければならない。 補助的な損失はトレーニングを安定させるために積み重ねられることが多いが、それらの間の相互作用、特に予測的な補助的なスコアと明示的なスコアの監督の間の相互作用は、制御された条件下で体系的に比較されていない。 これは、後続のすべてのレイヤがフルに実行されると仮定する、オフポリティのオラクルラベルにトレースしますが、ゲートされた実行ルートはフルに1分しかありません。
  論文  参考訳（メタデータ） (2026-04-19T03:20:40Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。