論文の概要: DiEP: Adaptive Mixture-of-Experts Compression through Differentiable Expert Pruning

• arxiv url: http://arxiv.org/abs/2509.16105v1
• Date: Fri, 19 Sep 2025 15:47:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-22 18:18:11.236163
• Title: DiEP: Adaptive Mixture-of-Experts Compression through Differentiable Expert Pruning
• Title（参考訳）: DiEP: 可変エキスパートプルーニングによるAdaptive Mixture-of-Experts圧縮
• Authors: Sikai Bai, Haoxi Li, Jie Zhang, Zicong Hong, Song Guo,
• Abstract要約: 既存のMoEプルーニング法は、様々なMoE層で専門家の冗長性が異なるため、最適以下の結果と性能劣化をもたらすことが多い。 我々は、層間重要度を共同学習しながら、層レベルでのプルーニング率を適応的に調整する、textbfDiEPと呼ばれる、一様でないプルーニング戦略を提案する。 本手法は,非一様専門家の組み合わせを指数関数的に増加させ,適応的勾配に基づくプルーニングを可能にする。
• 参考スコア（独自算出の注目度）: 24.59026258291765
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Despite the significant breakthrough of Mixture-of-Experts (MoE), the increasing scale of these MoE models presents huge memory and storage challenges. Existing MoE pruning methods, which involve reducing parameter size with a uniform sparsity across all layers, often lead to suboptimal outcomes and performance degradation due to varying expert redundancy in different MoE layers. To address this, we propose a non-uniform pruning strategy, dubbed \textbf{Di}fferentiable \textbf{E}xpert \textbf{P}runing (\textbf{DiEP}), which adaptively adjusts pruning rates at the layer level while jointly learning inter-layer importance, effectively capturing the varying redundancy across different MoE layers. By transforming the global discrete search space into a continuous one, our method handles exponentially growing non-uniform expert combinations, enabling adaptive gradient-based pruning. Extensive experiments on five advanced MoE models demonstrate the efficacy of our method across various NLP tasks. Notably, \textbf{DiEP} retains around 92\% of original performance on Mixtral 8$\times$7B with only half the experts, outperforming other pruning methods by up to 7.1\% on the challenging MMLU dataset.
• Abstract（参考訳）: Mixture-of-Experts (MoE) の大きなブレークスルーにもかかわらず、これらのMOEモデルの規模は増大し、大きなメモリとストレージの課題をもたらしている。 既存のMoEプルーニング法は、すべての層に均一な間隔でパラメータサイズを減少させるが、様々なMoE層で専門家の冗長性が異なるため、しばしば最適以下の結果と性能劣化をもたらす。 そこで本稿では, 層間の重要性を学習しながら, 層レベルでのプルーニング率を適応的に調整し, 異なるMoE層間の冗長性を効果的に把握する, 非一様プルーニング戦略を提案する。 グローバルな離散探索空間を連続的に変換することにより、指数関数的に増加する非一様専門家の組み合わせを処理し、適応的な勾配に基づくプルーニングを可能にする。 5つの先進MoEモデルに対する広範囲な実験により,NLPタスクにまたがる手法の有効性が示された。 特に、 \textbf{DiEP} は、Mixtral 8$\times$7B のオリジナルパフォーマンスの 92 % を保ち、エキスパートの半分しか持たず、挑戦的な MMLU データセットでは、他のプルーニング手法よりも7.1 % 上回っている。

関連論文リスト

• MoA: Heterogeneous Mixture of Adapters for Parameter-Efficient Fine-Tuning of Large Language Models [61.89384981175277]
  ローランド適応 (LoRA) とミックスオブエキスパート (MoE) を統合するための固有テキストbfMixture-of-Adapters (MoA) アプローチを提案する。 実験結果から, 不均一なMoAは均一なMoE-LoRA法よりも性能およびパラメータ効率が優れていることがわかった。
  論文  参考訳（メタデータ） (2025-06-06T09:54:19Z)
• Cluster-Driven Expert Pruning for Mixture-of-Experts Large Language Models [24.64757529640278]
  クラスタ駆動のExpert Pruning(C-Prune)は、大規模言語モデルの適応的なタスク固有圧縮のための新しい2段階のフレームワークである。 C-Pruneはレイヤワイドの専門家クラスタリングを通じて動作し、各MoE層内で機能的に類似した専門家をグループ化する。 複数のMoEモデルとベンチマークの広範な実験を通じてC-Pruneを検証する。
  論文  参考訳（メタデータ） (2025-04-10T14:46:26Z)
• A Sliding Layer Merging Method for Efficient Depth-Wise Pruning in LLMs [13.000188564679998]
  本稿では,再現カーネルHilbert空間内の異なるレイヤの出力の相関関係を解析することにより,大規模言語モデルにおけるPatch-like'の特徴関係を明らかにする。 本研究では, 連続層を上から下へ動的に選択・融合するスライディング層マージ法について, 予め定義された類似度閾値に従って提案する。 提案手法は,ゼロショット推論性能と再学習後の回復品質の両方において,既存のプルーニング技術より優れる。
  論文  参考訳（メタデータ） (2025-02-26T14:15:24Z)
• Determining Layer-wise Sparsity for Large Language Models Through a Theoretical Perspective [55.90119819642064]
  本稿では,大規模言語モデル (LLM) の階層的疎度率を理論的観点から決定する上での課題に対処する。 これは、スペーサー化プロセス全体での再構成エラーの累積効果を指す。 この問題を緩和するレイヤワイド・スパシティ・アロケーションに対する、シンプルで効果的なアプローチを導出します。
  論文  参考訳（メタデータ） (2025-02-20T17:51:10Z)
• MoE-I$^2$: Compressing Mixture of Experts Models through Inter-Expert Pruning and Intra-Expert Low-Rank Decomposition [32.97035551579975]
  モデルサイズを小さくし,計算コストを低減させるために,MoEに適した2段階圧縮手法を提案する。 Qwen1.5-MoE-A2.7B、DeepSeek-V2-Lite、Mixtral-8$times$7Bの実験により、提案手法はモデルサイズを低減し、推論効率を向上させることができることを示した。
  論文  参考訳（メタデータ） (2024-11-01T20:37:58Z)
• Diversifying the Expert Knowledge for Task-Agnostic Pruning in Sparse Mixture-of-Experts [75.85448576746373]
  本稿では,モデルのパラメータ効率を向上させるために,類似の専門家をグループ化し,グループ化する方法を提案する。 提案手法の有効性を3つの最先端MoEアーキテクチャを用いて検証する。 評価の結果,本手法は自然言語タスクにおいて,他のモデルプルーニング手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-07-12T17:25:02Z)
• Diffusion for Natural Image Matting [88.58577778234036]
  DiffMatteは、画像マッチングの課題を克服するために設計されたソリューションである。 まず、DiffMatteはデコーダを複雑な結合されたマッティングネットワーク設計から切り離し、拡散プロセスのイテレーションで1つの軽量デコーダだけを含む。 第2に、均一な時間間隔を持つ自己整合トレーニング戦略を採用し、時間領域全体にわたるトレーニングと推論の間に一貫したノイズサンプリングを確保する。
  論文  参考訳（メタデータ） (2023-12-10T15:28:56Z)
• ECoFLaP: Efficient Coarse-to-Fine Layer-Wise Pruning for Vision-Language Models [70.45441031021291]
  LVLM(Large Vision-Language Models)は、様々なモダリティから豊富な情報を統合することで、世界を包括的に理解することができる。 LVLMは計算/エネルギーの膨大なコストと炭素消費のためにしばしば問題となる。 本稿では,LVLMの2段間粗大な重み付け法であるECoFLaP(Efficient Coarse-to-Fine LayerWise Pruning)を提案する。
  論文  参考訳（メタデータ） (2023-10-04T17:34:00Z)
• Harnessing Hard Mixed Samples with Decoupled Regularizer [69.98746081734441]
  Mixupは、決定境界を混合データで滑らかにすることで、ニューラルネットワークの一般化を改善する効率的なデータ拡張アプローチである。 本稿では,非結合型正規化器(Decoupled Mixup, DM)を用いた効率的な混合目標関数を提案する。 DMは、ミキシングの本来の滑らかさを損なうことなく、硬質混合試料を適応的に利用して識別特性をマイニングすることができる。
  論文  参考訳（メタデータ） (2022-03-21T07:12:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。