論文の概要: Cascaded Multi-Granularity Pruning for On-Device LLM Inference in Industrial IoT

• arxiv url: http://arxiv.org/abs/2606.26861v1
• Date: Thu, 25 Jun 2026 10:44:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.238366
• Title: Cascaded Multi-Granularity Pruning for On-Device LLM Inference in Industrial IoT
• Title（参考訳）: 産業用IoTにおけるオンデバイスLCM推論のためのカスケードマルチグラニュラリティプルーニング
• Abstract要約: 本稿では, 層やアテンションヘッド, フィードフォワードチャネルを粗い順序で除去する多粒度刈取フレームワークを提案する。 情報理論解析は、この順序付けを動機付け、構造独立推定(SIA)はチェック可能な条件として定式化される。 NVIDIA DGX Sparkを使用した産業用スリーディングベアリング障害診断プラットフォーム上に展開され、圧縮されたモデルは推論遅延を67.2%、ピークメモリを62.5%削減した。
• 参考スコア（独自算出の注目度）: 4.775543545907101
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deploying large language models (LLMs) on Industrial Internet of Things (IIoT) edge devices demands extreme compression, yet existing structured pruning methods collapse at high compression ratios due to one-shot importance estimation, and their cross-architecture behavior remains unpredictable. This article presents a cascaded multi-granularity pruning framework that removes layers, attention heads, and feed-forward channels in coarse-to-fine order, with lightweight low-rank recovery between stages to re-estimate component importance. An information-theoretic analysis motivates this ordering, and the Structural Independence Assumption (SIA) is formalized as a checkable condition predicting whether per-component pruning criteria are reliable for a given architecture: Multi-Head Attention (MHA)+GELU designs satisfy the SIA, whereas Grouped Query Attention (GQA)+SwiGLU designs violate it. On bearing fault diagnosis spanning 88M to 6.25B-parameter models, the framework extends achievable compression to 13.8 times on MHA+GELU architectures with 83.82% accuracy (+3.70 percentage points (pp) over the strongest baseline), while exposing a ~74pp accuracy collapse on GQA+SwiGLU architectures that violate the SIA. Deployed on an industrial slewing bearing fault diagnosis platform with NVIDIA DGX Spark, compressed models reduce inference latency by up to 67.2% and peak memory by 62.5%, demonstrating viability for IIoT edge inference.
• Abstract（参考訳）: 産業用IoT(Industrial Internet of Things, IIoT)エッジデバイスに大規模言語モデル(LLM)をデプロイするには、極端な圧縮を必要とするが、既存の構造化プルーニング手法は、1ショットの重要度推定によって高い圧縮比で崩壊し、アーキテクチャ間の振る舞いは予測できないままである。 本稿では, 階層, 注目ヘッド, フィードフォワードチャネルを粗い順序で除去し, ステージ間の低ランク回復を軽量に行い, コンポーネントの重要性を再推定する多粒度刈取フレームワークを提案する。 情報理論解析は、この順序付けを動機付け、構造独立推定(SIA)は、コンポーネントごとのプルーニング基準が所定のアーキテクチャに対して信頼できるかどうかを予測するチェック可能な条件として定式化される: マルチヘッドアテンション(MHA)+GELU設計は、SIAを満足するが、グループクエリアテンション(GQA)+SwiGLU設計は、それを侵害する。 88Mから6.25Bパラメータモデルの故障診断では、このフレームワークはMHA+GELUアーキテクチャの13.8倍の精度で83.82%の精度(+3.70ポイント(pp))を達成可能とし、SIAに違反するGQA+SwiGLUアーキテクチャの約74ppの精度崩壊を露呈した。 NVIDIA DGX Sparkを使用した産業用スリーディングベアリング障害診断プラットフォーム上に展開された圧縮モデルは、推論遅延を最大67.2%削減し、ピークメモリを62.5%削減し、IoTエッジ推論の実現可能性を示している。

関連論文リスト

• BGA: A noise-immune neural distillation framework for malicious signature extraction in high-entropy encrypted flows [12.604432348059133]
  本稿では,暗号化脅威知能のための雑音免疫型ニューラル蒸留フレームワークであるBGAを提案する。 このアーキテクチャは、双方向長期記憶(Bidirectional Long-Term Memory, BiLSTM)とアダプティブGated Multi-Head Attention機構を統合している。 CIC-IDS-2018とEdge-IIoTベンチマークの大規模な評価では、すべての主要なメトリクスでパフォーマンスの上限が9レイテンシを超えることが示されている。
  論文  参考訳（メタデータ） (2026-08-14T09:33:16Z)
• SoRoMoX: Fast, Differentiable, and Parallelizable Soft Robot Models [40.64972837908431]
  SoRoMoXは、統一された制御可能なインターフェースを通じて、明瞭な、Piecewise Constant Strain、および可変ストレインモデルを実装している。 連続したCPUロールアウトは最先端の代替よりも18.1倍速く、GPU並列ロールアウトはスループットを最大234.6倍向上させる。
  論文  参考訳（メタデータ） (2026-08-06T23:31:47Z)
• LLaDA MoE v2: Scaling Mixture-of-Experts Diffusion Language Models [129.64558694024126]
  拡散言語モデル(dLLM)は自己回帰(AR)言語モデリングの代替を提供する。 我々は, MoE dLLM に対するハイパーパラメータ, 計算割り当て, アーキテクチャスケールの最適化を特徴付ける。 23.5Tトークンで30B-A3B dLLMのLLaDA MoE v2をスクラッチからトレーニングします。
  論文  参考訳（メタデータ） (2026-08-04T10:53:02Z)
• Similarity-Guided Curriculum Fine-Tuning of LLMs for Neural Architecture Synthesis [48.83701310501069]
  ニューラルアーキテクチャ探索(NAS)のためのニューラルネットワークコードにプログレッシブなカリキュラムを構築するMinHashベースの類似性スケジューリングフレームワークを導入する。 我々は,CIFAR-10画像分類におけるLEMURベンチマークにおいて,オリンピックコード7Bの枠組みを評価する。 SVHNでは,カリキュラムなしの直接ベースモデル生成により,CIFAR-10相当値よりもかなり低い精度(60.5%)で27%のSRが得られる。
  論文  参考訳（メタデータ） (2026-07-13T14:14:30Z)
• TriSP: Tri-Signal Structured Pruning for Large Language Models [0.0]
  大規模言語モデル(LLM)は多様なタスクにわたって高いパフォーマンスを達成するが、そのデプロイメントはメモリと計算コストによって制約される。 構造化プルーニング(Structured pruning)は、アテンションヘッドやマルチ層パーセプトロン(Multi-Layer Perceptron、MLP)ニューロンなどの構造全体を除去して、標準ハードウェア上で効率的に動作するより小さな密度のモデルを生成することで、この問題に対処する。 本稿では,Tri-Signal Structured Pruning(Tri-Signal Structured Pruning,Tri-Signal Structured Pruning,Tri-Signal Structured Pruning,Tri-Signal Structured Pruning)を提案する。
  論文  参考訳（メタデータ） (2026-06-09T17:02:14Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• PACE: Post-Causal Entropy Modeling for Learned LiDAR Point Cloud Compression [43.524231862354405]
  LiDARポイントクラウド圧縮は、高解像度センサーから大量のデータを処理するために自律システムにとって不可欠である。 PACEは、祖先のコンテキストアグリゲーションを非因果バックボーンとして再構成し、因果関係を軽量でステージスケーラ可能な予測器に変換する新しいフレームワークである。 実験により、PACEは圧縮効率を新たな最先端に設定し、顕著なBD-BR節約を実現し、自動回帰モードで復号遅延を90%以上削減した。
  論文  参考訳（メタデータ） (2026-05-02T08:36:11Z)
• Differentiable latent structure discovery for interpretable forecasting in clinical time series [38.473526928012724]
  連続時間多タスクガウス過程であるStructGPを導入し, 基本的不確かさを保ちながら, 相違構造学習と相違構造学習を組み合わせ, 相互依存の有向非巡回グラフ(DAG)を導出する。 LP-StructGPは,被験者特異的カップリングフィルタとソフトマックスゲーティング機構を用いて,患者間の進行パターンを捉えることで,StructGPを潜在経路に分割し,時間的に変化する軌跡を増大させる。
  論文  参考訳（メタデータ） (2026-04-30T14:59:50Z)
• Cross-Validated Cross-Channel Self-Attention and Denoising for Automatic Modulation Classification [0.0]
  目的は、変調クラス分離の損失を軽減する機能保存型デノナイジング手法を開発することである。 チャネル間自己アテンションブロックを組み込んだ深層学習AMCモデルを提案する。 その結果,低および中程度のSNRでは,デノイング深度が頑健性に強く影響することが示唆された。
  論文  参考訳（メタデータ） (2026-04-11T06:29:12Z)
• Fragile Reasoning: A Mechanistic Analysis of LLM Sensitivity to Meaning-Preserving Perturbations [2.7946918847372277]
  大規模言語モデルは、数学的推論ベンチマークにおいて強い性能を示すが、意味を保存する表面摂動に対して驚くほど脆弱である。 我々は677 GSM8K問題に対して,3つのオープンウェイトLLM(Mistral-7B,Llama-3-8B,Qwen2.5-7B)を意味論的に等価な変種と組み合わせて評価した。 3つのモデルはいずれも相当な解答フリップ率(28.8%-45.1%)を示し、数字のパラフレーズは名前スワップよりも一貫して破壊的である。
  論文  参考訳（メタデータ） (2026-04-02T05:30:20Z)
• LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels [49.35636088613484]
  JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。 最初のJEPAであるLeModelWorldを紹介します。 数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
  論文  参考訳（メタデータ） (2026-03-13T19:48:14Z)
• AgentCPM-Explore: Realizing Long-Horizon Deep Exploration for Edge-Scale Agents [75.67445299298949]
  AgentCPM-Exploreは、知識密度と強力な探索能力を備えたコンパクトな4Bエージェントモデルである。 本稿では,パラメータ空間モデルの融合,報酬信号の復調,文脈情報の改良を特徴とする総合的なトレーニングフレームワークを提案する。 AgentCPM-Exploreは4つのベンチマークで8BクラスのSOTAモデルにマッチまたは超え、また5つのベンチマークでClaude-4.5-SonnetやDeepSeek-v3.2のような大規模モデルよりも優れている。
  論文  参考訳（メタデータ） (2026-02-06T08:24:59Z)
• HQP: Sensitivity-Aware Hybrid Quantization and Pruning for Ultra-Low-Latency Edge AI Inference [0.0]
  相乗的モデル加速を実現するために設計されたHybrid Quantization and Pruning (HQP)フレームワーク。 HQPフレームワークは3.12倍の推論速度向上と55%のモデルサイズ縮小を実現している。
  論文  参考訳（メタデータ） (2026-02-02T18:17:45Z)
• Think Before You Prune: Self-Reflective Structured Pruning for Reasoning Language Models [31.422773877490613]
  推論 LLM (Reasoning LLMs) はチェーン・オブ・ソート・ジェネレーションを通じて強力な多段階推論を実現する。 RLMの大きなモデルサイズと長いデコードタイムのアウトプットは、リソース制約のある設定にデプロイするのにコストがかかり、不適当である。 我々は、構造化されたプルーニングフレームワークであるRESPを紹介し、プルーニング決定とモデルの推論力学を一致させる。
  論文  参考訳（メタデータ） (2025-12-01T20:27:05Z)
• Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
  第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
  論文  参考訳（メタデータ） (2025-11-04T17:22:22Z)
• HierarchicalPrune: Position-Aware Compression for Large-Scale Diffusion Models [15.143674484507251]
  本稿では,鍵となる観測を基礎とした新しい圧縮フレームワークであるHierarchicalPruneを紹介する。 DMブロックは異なる機能的階層を示し、初期のブロックはセマンティック構造を確立し、後のブロックはテクスチャの洗練を扱う。 我々のフレームワークは、出力画像の品質を保ちながら、デバイス上の推論に適した範囲に数十億の拡散モデルをもたらす。
  論文  参考訳（メタデータ） (2025-08-06T17:30:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。