論文の概要: Component-Aware Differential Privacy for Federated Multilingual Speech-LLMs

• arxiv url: http://arxiv.org/abs/2609.11762v1
• Date: Thu, 10 Sep 2026 16:17:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.443524
• Title: Component-Aware Differential Privacy for Federated Multilingual Speech-LLMs
• Title（参考訳）: フェデレーション型多言語音声-LLMにおける成分認識差分プライバシー
• Abstract要約: 層ごとの差分プライバシー(DP)クリッピングは、パラメータ数に比例した行列ごとのクリッピング予算を割り当てることで、フェデレートラーニングにおける勾配忠実度を向上させる。 このレシピは音声大言語モデル(音声-LLM)において,音声エンコーダと言語デコーダが更新ノルムの桁違いに異なる場合に破られることを示す。
• 参考スコア（独自算出の注目度）: 43.01574038234673
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Per-layer differential privacy (DP) clipping improves gradient fidelity in federated learning by allocating per-matrix clipping budgets proportional to parameter count. We show that this recipe breaks for speech large language models (speech-LLMs), when the acoustic encoder and the language decoder differ by an order of magnitude in update norm. Single-pool per-layer methods suffer \emph{cross-component budget collapse}, dragging word error rate (WER) far from flat global clipping or collapsing training entirely. When the norm imbalance is milder, adaptive single-pool methods partially recover, confirming that collapse severity scales with the inter-component norm ratio. We empirically diagnose the root cause across six per-layer methods and three speech-LLM architectures. We then propose \emph{$α$-split}, a two-pool allocation that normalises encoder and LLM parameters into independent pools, and show that joint $\ell_2$ sensitivity and the original $(\varepsilon,δ)$-DP guarantee are unchanged. At architecture-calibrated $α$, our method recovers WER utility compared to flat DP, while granting the encoder $4.47{\times}$ tighter per-component noise protection against speaker voice-based gradient-inversion attacks at only $+2.6\%$ LLM noise overhead.
• Abstract（参考訳）: 層ごとの差分プライバシー(DP)クリッピングは、パラメータ数に比例した行列ごとのクリッピング予算を割り当てることで、フェデレートラーニングにおける勾配忠実度を向上させる。 このレシピは音声大言語モデル(音声-LLM)において,音声エンコーダと言語デコーダが更新ノルムの桁違いに異なる場合に破られることを示す。 単プール単層法は, 平らなグローバルクリッピングや崩壊訓練とはかけ離れたワードエラー率(WER)を低下させるため, \emph{cross-component budget collapse} に苦しむ。 ノルム不均衡が緩やかであれば、適応的な単一プール法は部分的に回復し、崩壊重大度が成分間ノルム比と共にスケールすることを確認する。 6層法と3つの音声-LLMアーキテクチャで根本原因を実証的に診断する。 次に、エンコーダとLLMパラメータを独立プールに正規化する2プールアロケーションである \emph{$α$-split} を提案し、ジョイント$\ell_2$感度と元の$(\varepsilon,δ)$-DP保証が変わらないことを示す。 アーキテクチャを校正した$α$では、この手法はフラットDPと比較してWERユーティリティを回復する一方、エンコーダの$4.47{\timesは、スピーカー音声による勾配反転攻撃に対するより厳密なノイズ保護を、わずか2.6\%のLLMノイズオーバヘッドで行う。

関連論文リスト

• HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation [56.14416807766864]
  同型暗号化により、サーバは暗号化されたユーザープロンプト上で言語モデルを直接実行することができる。 既存のアプローチでは、各サイトのエラー許容度を調整するのではなく、モデル全体のイテレーションカウントを均一に修正する。 非線形反復回数を学習可能にする微調整法であるHAT(Hymomorphic Encryption-Aware Training)を導入する。
  論文  参考訳（メタデータ） (2026-09-01T18:02:02Z)
• Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
  我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。 本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
  論文  参考訳（メタデータ） (2026-08-10T07:49:10Z)
• Subspace-Aware Sparse Autoencoders for Effective Mechanistic Interpretability [11.543771846135021]
  スパースオートエンコーダ(SAE)は、大規模言語モデルにおける機械的解釈可能性に広く用いられている。 この仮定はモデル特徴の多次元構造と一致しないことを示す。 本稿では,単一ベクトルデコーダを学習したデコーダサブスペースに置き換えるSubspace-Aware Sparse Autoencoders (SASA)を紹介する。
  論文  参考訳（メタデータ） (2026-06-04T16:08:25Z)
• DP-LAC: Lightweight Adaptive Clipping for Differentially Private Federated Fine-tuning of Language Models [25.94292199187493]
  フェデレートラーニング(FL)は、デバイス上のユーザデータを保持しながら、エッジデバイス全体にわたる大規模言語モデルの協調トレーニングを可能にする。 DP-SGDは、各クライアントのコントリビューションを閾値$C$にクリップし、ノイズを$C$に比例させることで、このリスクを軽減する。 DP-LACは,まず,プライベートヒストグラム推定を用いて,最適値の1桁以内の初期クリッピング閾値を推定する手法である。 実証実験の結果、DP-LACは最先端適応クリッピング法とバニラDP-SGDの両方に優れており、平均精度は6.6%である。
  論文  参考訳（メタデータ） (2026-05-11T09:32:21Z)
• S2D2: Fast Decoding for Diffusion LLMs via Training-Free Self-Speculation [22.303253139413286]
  ブロック拡散言語モデルはブロックワイド自己回帰復号とブロック内並列復号を結合する。 この問題に対処する既存のアプローチでは、追加のトレーニングが必要か、追加のテストタイム計算が必要になります。 ブロック拡散言語モデルのための訓練不要な自己投機的デコーディングフレームワークであるS2D2を提案する。
  論文  参考訳（メタデータ） (2026-03-26T17:48:50Z)
• $\nabla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
  $nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。 $nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
  論文  参考訳（メタデータ） (2026-03-05T08:42:54Z)
• MARS-Sep: Multimodal-Aligned Reinforced Sound Separation [72.85468563236005]
  MARS-Sepは音分離のための強化学習フレームワークである。 クリッピングされた信頼領域サロゲートによって最適化された、ファクタライズされたベータマスクポリシを学ぶ。 複数のベンチマークの実験は、テキスト、オーディオ、イメージ-キュード分離において一貫した利得を示している。
  論文  参考訳（メタデータ） (2025-10-12T09:05:28Z)
• FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
  Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。 Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
  論文  参考訳（メタデータ） (2025-05-19T07:32:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。