論文の概要: What Breaks Under Pruning in Smart Homes, and When? Evaluating LLM Degradation Across Architectures and Task Complexity

• arxiv url: http://arxiv.org/abs/2609.17515v1
• Date: Tue, 15 Sep 2026 17:51:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.642176
• Title: What Breaks Under Pruning in Smart Homes, and When? Evaluating LLM Degradation Across Architectures and Task Complexity
• Title（参考訳）: スマートホームにおけるプルーニングの状況と時期 : アーキテクチャとタスク複雑度を考慮したLCMの劣化評価
• Abstract要約: プルーニングは、大規模な言語モデルのデプロイメントコストを削減できるが、コンテキストベースのツール呼び出しへの影響は、まだよく分かっていない。 4大言語モデル(LLM)を用いたスマートホームツールのプルーニングによる劣化を系統的に研究する。 以上の結果から, 高密度モデルでは, 急激な劣化が続き, より厳密なプルーニング領域が狭く, MoEモデルではかなり高いプルーニングが許容されることがわかった。
• 参考スコア（独自算出の注目度）: 0.9666308705700454
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pruning can reduce the deployment cost of large language models (LLMs), but its impact on context-grounded tool calling remains poorly understood. We systematically study pruning-induced degradation in smart-home tool calling across four LLMs spanning dense Transformer, dense hybrid, and mixture-of-experts (MoE) architectures, together with depth, width, hybrid, and expert pruning methods. After post-pruning supervised fine-tuning (SFT), we evaluate more than 19,500 instances from three smart-home datasets. Beyond aggregate task accuracy, we characterize degradation along two dimensions: action components (i.e., operation, device, argument, and value) and task complexity. Our results show that dense models have narrow safe pruning regions followed by sharp degradation, while MoE models tolerate substantially more pruning. Pruning degrades grounded specificity before schema-level intent, and aggressive dense pruning can induce systematic over-refusal. These findings highlight the importance of evaluating pruning beyond aggregate accuracy when selecting pruned LLMs for reliable tool execution.
• Abstract（参考訳）: プルーニングは、大規模言語モデル(LLM)のデプロイメントコストを削減できるが、コンテキストベースのツール呼び出しへの影響は、まだよく分かっていない。 本研究では, 高密度トランスフォーマー, 高密度ハイブリッド, 混合実験(MoE)アーキテクチャにまたがる4つのLLMを対象とするスマートホームツールのプルーニングによる劣化を, 深さ, 幅, ハイブリッド, 専門家によるプルーニング手法とともに系統的に検討した。 教師付き微調整(SFT)後,3つのスマートホームデータセットから19,500以上のインスタンスを評価した。 集約されたタスクの精度を超えて、アクションコンポーネント(オペレーション、デバイス、引数、値)とタスクの複雑さという2つの次元に沿った劣化を特徴付ける。 以上の結果より, 高密度モデルでは, 急激な劣化がみられ, また, MoEモデルではプルーニングがかなり許容されることがわかった。 プルーニングはスキーマレベルの意図の前に具体性を低下させ、アグレッシブなプルーニングは体系的な過剰な拒絶を引き起こす。 これらの知見は, 信頼性の高いツール実行のために, プルーニングLLMを選択する際に, 集合的精度を超えてプルーニングを評価することの重要性を浮き彫りにした。

関連論文リスト

• When Tools Fail: Benchmarking Dynamic Replanning and Anomaly Recovery in LLM Agents [48.32450507410869]
  既存のベンチマークでは、LLMにおけるツール統合推論を理想化された'ハッピーパス'に基づいて評価している。 我々はTIRエージェントの動的経路探索とエラー回復のためのベンチマークであるToolMazeを紹介する。
  論文  参考訳（メタデータ） (2026-06-04T07:38:46Z)
• MagicAgent: Towards Generalized Agent Planning [73.21129030631421]
  汎用エージェント計画に特化して設計された基盤モデルである textbfMagicAgent について述べる。 多様な計画タスクにまたがる高品質なトラジェクトリを生成する軽量でスケーラブルな合成データフレームワークを提案する。 MagicAgent-32B と MagicAgent-30B-A3B は様々なオープンソースベンチマークにおいて優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2026-02-22T01:39:16Z)
• What Makes a Good LLM Agent for Real-world Penetration Testing? [37.56537537883771]
  LLMをベースとした28の浸透試験システムを分析し,複雑性の増大を示す3つのベンチマークで5つの代表的実装を評価した。 我々は、B型障害がLLMの根本原因とほとんど変わらず、エージェントはリアルタイムなタスクの難易度推定を欠いていることを示す。 Excaliburは、強力なツールと困難な計画とを結合した浸透試験エージェントである。
  論文  参考訳（メタデータ） (2026-02-19T18:42:40Z)
• Breaking Expert Knowledge Limits: Self-Pruning for Large Language Models [21.22854931342453]
  大規模言語モデル(LLM)は、広範囲のタスクにおいて顕著なパフォーマンスを達成しており、その巨大なサイズのため、実際のデプロイメントを妨げている。 既存のプルーニング手法は手動設計プルーニングアルゴリズムに大きく依存しているため、テクティファイジの作業コストや専門知識のテクティファイアに繋がる。 筆者らはまず, LLMを活用して, 専門家の知識を使わずに, 自己に最適なプルーニングアルゴリズムを設計することで, 専門家の知識限界を克服する, textbfAutoPrune と呼ばれる新しいプルーニング手法を提案する。
  論文  参考訳（メタデータ） (2025-11-19T12:38:21Z)
• High-Layer Attention Pruning with Rescaling [14.141903038286362]
  プルーニングは大規模言語モデル(LLM)の圧縮に非常に効果的な手法である 本稿では,モデル上層における注意を戦略的に喚起する新しいプルーニングアルゴリズムを提案する。 我々は, LLaMA3.1-8B, Mistral-7B-v0.3, Qwen2-7B, Gemma2-9Bを含む広範囲のLLMについて総合的な実験を行った。
  論文  参考訳（メタデータ） (2025-07-02T17:15:05Z)
• Growing Through Experience: Scaling Episodic Grounding in Language Models [67.27024505353384]
  言語モデル(LM)は、物理的な計画タスクに長けるために、堅牢なエピソジックグラウンドを必要とする。 現在のエピソジックな基盤アプローチは、スケーラビリティと統合に苦労しています。 本稿では,より小規模から大規模にエピソジックな動作を効果的に伝達する,スケーラブルな弱から強のエピソジックな学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-02T04:52:19Z)
• DSMoE: Matrix-Partitioned Experts with Dynamic Routing for Computation-Efficient Dense LLMs [86.76714527437383]
  本稿では,事前学習したFFN層を計算ブロックに分割することで,分散化を実現するDSMoEを提案する。 我々は,Sigmoid アクティベーションとストレートスルー推定器を用いた適応型エキスパートルーティングを実装し,トークンがモデル知識の様々な側面に柔軟にアクセスできるようにする。 LLaMAモデルを用いた実験により、DSMoEは既存のプルーニング法やMoE法に比べて優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-02-18T02:37:26Z)
• Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning [65.23593936798662]
  LLM生成データによる微調整により,目標タスクの性能が向上し,非目標タスクの劣化が低減されることを示す。 微調整後のLSMにおける破滅的忘れを緩和するために、トークンの難易度低減に基づく経験的説明を提供する最初の研究である。
  論文  参考訳（メタデータ） (2025-01-24T08:18:56Z)
• Greedy Output Approximation: Towards Efficient Structured Pruning for LLMs Without Retraining [16.026565606764954]
  我々は Transformer-based large language model (LLMs) のプルーニングプロセスを単純化する。 出力近似の最適化から導いた2つの推論対応プルーニング基準を提案する。 また,モデル再トレーニングを伴わずにプルーニングエラーを軽減するための2段階再構成手法も導入した。
  論文  参考訳（メタデータ） (2024-07-26T23:53:59Z)
• A deeper look at depth pruning of LLMs [49.30061112976263]
  大規模言語モデル(LLM)は、トレーニングにはリソース集約的だが、本番環境でのデプロイにはよりコストがかかる。 最近の研究は、ブロックの重要性を推定するために、安価なプロキシに基づいてLSMのブロックをプルークしようと試みている。 適応メトリクスはタスク間のパフォーマンスのトレードオフを示すことを示す。
  論文  参考訳（メタデータ） (2024-07-23T08:40:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。