Fugu-MT 論文翻訳(概要): Manifold-Constrained Residual Adaptation with Frame-Adaptive Layer Aggregation for Speaker Verification

論文の概要: Manifold-Constrained Residual Adaptation with Frame-Adaptive Layer Aggregation for Speaker Verification

arxiv url: http://arxiv.org/abs/2610.25892v1
Date: Mon, 19 Oct 2026 06:47:48 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-24 03:55:40.866565
Title: Manifold-Constrained Residual Adaptation with Frame-Adaptive Layer Aggregation for Speaker Verification
Title（参考訳）: 話者検証のためのフレーム適応層アグリゲーションを用いたマニフォールド制約残差適応
Abstract要約: 大規模な自己教師型音声モデルは、話者検証のための強力な表現を提供するが、完全な微調整は高価である。従来のアダプタは、各層の出力を変更するために小さなトレーニング可能なモジュールを挿入するが、元の残余接続は変更しない。本研究では,各トランスフォーマー残状態の隠れ次元をN群に分割し,シンクホーン正規化行列を用いて情報交換を行うマニフォールド制約残留適応器(MCRA)を提案する。フレーム適応層集約(FALA)も提案する。これは、すべての発話間で共有される単一の学習クエリを用いて、層重みを計算するアテンションベースのアグリゲーション手法である。
参考スコア（独自算出の注目度）: 43.84109036113216
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large self-supervised speech models provide powerful representations for speaker verification, but full fine-tuning is expensive. Most conventional adapters insert small trainable modules to modify the output of each layer, while keeping the original residual connections unchanged. Building on our preliminary study of manifold-constrained Hyper-Connections in speaker encoders, we explore parameter-efficient adaptation of both residual paths and feature selection across layers. We first propose a Manifold-Constrained Residual Adapter (MCRA), which splits the hidden dimensions of each Transformer residual state into N groups and uses a small Sinkhorn-normalized matrix to exchange information among them. A learnable gate controls the balance between the original and mixed residual paths. The gate adds only one scalar parameter at each residual connection and initially favors the original path, allowing gradual adaptation. We further propose Frame-Adaptive Layer Aggregation (FALA), an attention-based aggregation method that uses a single learned query shared across all utterances to compute layer weights separately for each speech frame. Because the layer representations depend on the input, the resulting weights vary across both utterances and frames, unlike the fixed weights of a conventional layer-weighted sum. Compared with a frozen WavLM baseline using a fixed layer-weighted sum, our method achieves relative EER reductions of 22.4% on VoxCeleb1-O and 2.9% on CN-Celeb, with trainable adaptation parameters equivalent to only 0.0009% and 0.0016% of the WavLM-Large parameters, respectively.
Abstract（参考訳）: 大規模な自己教師型音声モデルは、話者検証のための強力な表現を提供するが、完全な微調整は高価である。従来のアダプタは、各層の出力を変更するために小さなトレーニング可能なモジュールを挿入するが、元の残余接続は変更しない。話者エンコーダにおける多様体制約ハイパーコネクションの予備研究に基づいて,残差経路のパラメータ適応と層間特徴選択について検討する。まず,各トランスフォーマー残状態の隠れ次元をN群に分割し,シンクホーン正規化行列を用いて情報交換を行うマニフォールド制約残留適応器(MCRA)を提案する。学習可能なゲートは、元の残路と混合残路のバランスを制御する。ゲートは、残余接続ごとに1つのスカラーパラメータのみを追加し、最初は元のパスを好んで、段階的な適応を可能にする。さらに、すべての発話間で共有される1つの学習クエリを用いて、各音声フレームの層重みを別々に計算する、注目に基づくアグリゲーション手法であるフレーム適応層集約(FALA)を提案する。層表現は入力に依存するため、従来の層重み付け和の固定重みとは異なり、結果の重みは発話とフレームの両方で異なる。固定層重み付き和を用いた凍結WavLMベースラインと比較すると,VoxCeleb1-Oでは22.4%,CN-Celebでは2.9%,適応パラメータは0.0009%,WovLM-Largeパラメータは0.0016%と比較的低い。

関連論文リスト

Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
論文参考訳（メタデータ） (2026-08-10T07:49:10Z)
Controllable Diversity in Normalization-Based Implicit Ensembles via Softmax-Temperature Modulation [0.9668407688201359]
$N-Ensは正規化に基づく暗黙のアンサンブルで、各メンバーをマルチタスクアーキテクチャのタスクとして扱う。正規化層のみが複製されるため、このメカニズムは畳み込みやトランスフォーマーのバックボーンを包むことができる。
論文参考訳（メタデータ） (2026-07-26T22:06:42Z)
Improving Neural Network Training by Decoupling the Magnitude and Direction of Weight Vectors [110.10775872372047]
EmphMagnitude-Direction-Direction (MD) Decouplingを提案する。これは、各重量をハイパースフィア上の固定ノルム方向に分解し、学習可能な1ローとカラムごとのマグニチュードゲインを、別々の学習速度で更新する。アダムとムーンの双方で、MD Decouplingはよく調整されたベースラインを改善し、モデルの幅を調整せずに最適なLRを転送し、大規模なMixture-of-Expertsモデルのスケールに役立っている。
論文参考訳（メタデータ） (2026-06-24T15:40:26Z)
Tapered Language Models [17.586289013051864]
エビデンスによれば、層は最終的な出力に不均一に寄与し、後にそれを変換するのではなく、残基を精製する。我々の制御された実験は、固定された予算の下で、以前の層により多くのキャパシティを割り当て、後で層を減らせば均一幅のベースライン上でのパープレキシティが向上し、逆アロケーションが悪くなることを示している。
論文参考訳（メタデータ） (2026-06-22T17:56:25Z)
Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文参考訳（メタデータ） (2026-06-05T14:00:47Z)
Attention Residuals [38.59138244826294]
PreNorm との残余接続は現代の LLM では標準的なものであるが、固定単位重み付きで全ての層出力を蓄積する。本稿では,アテンション残余(AttnRes)を提案する。
論文参考訳（メタデータ） (2026-03-16T09:32:21Z)
Improving Recursive Transformers with Mixture of LoRAs [2.672804414228544]
共有フィードフォワードネットワーク(FFN)内にLoRA(Lo-Rank Adaptation)の専門家を挿入するLoRA(MoL)の混合 MoLは、バックボーンパラメータをアンタイズすることなく共有FFNのトークン条件の重み空間変調を可能にする。 ModernALBERTは、コンパクトモデル間で最先端のパフォーマンスを達成する。
論文参考訳（メタデータ） (2025-12-14T23:39:30Z)
Kernelized Sparse Fine-Tuning with Bi-level Parameter Competition for Vision Models [80.50996301430108]
スパースチューニングは、下流タスクに最も関係のある重みだけを調整することで、顕著なパフォーマンスを達成する。上述の制限を克服する一段法SNELLAを提案する。 SNELLAは低メモリ使用量でSOTA性能を達成する。
論文参考訳（メタデータ） (2025-10-28T03:39:18Z)
HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization [55.972018549438964]
LLM(Federated Fine-tuning of Pre-trained Large Language Models)は、さまざまなデータセットにまたがるタスク固有の適応を可能にすると同時に、プライバシの保護を可能にする。本研究では, HAFLQ (Heterogeneous Adaptive Federated Low-Rank Adaptation Fine-tuned LLM with Quantization) を提案する。テキスト分類タスクの実験結果から,HAFLQはメモリ使用量を31%削減し,通信コストを49%削減し,精度を50%向上し,ベースライン法よりも高速な収束を実現している。
論文参考訳（メタデータ） (2024-11-10T19:59:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。