論文の概要: Constraint-Driven Model Optimization: An Industry Framework for Selecting Compression and Acceleration Techniques in Modern Machine Learning Systems

• arxiv url: http://arxiv.org/abs/2607.13735v2
• Date: Fri, 17 Jul 2026 08:40:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 13:50:44.315471
• Title: Constraint-Driven Model Optimization: An Industry Framework for Selecting Compression and Acceleration Techniques in Modern Machine Learning Systems
• Title（参考訳）: 制約駆動モデル最適化:現代の機械学習システムにおける圧縮と加速技術の選択のための産業フレームワーク
• Abstract要約: 最適化は制約駆動の多目的エンジニアリング決定として定式化されるべきである。 この研究は、制約を意識した多目的工学プロセスとしてモデル最適化を形式化する最初の構造化試みの1つを提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid deployment of machine learning systems across cloud, edge, and enterprise environments has brought model optimization to the forefront of systems-engineering. Despite a rich literature spanning quantization, pruning, knowledge distillation, parameter-efficient fine-tuning (PEFT), and inference-time optimization, practitioners are often left navigating these techniques through heuristics rather than principled methodology. We argue that optimization should be formulated as a constraint-driven, multi-objective engineering decision and introduce a unified framework that characterizes any production deployment along five interacting constraint dimensions: data availability, latency budget, memory budget, accuracy tolerance, and retraining budget. Building on this taxonomy, we synthesize empirical gains reported across the research literature and map them to operational constraints rather than algorithmic categories. To ensure practical relevance, we selected these techniques by reviewing recent literature for methods that report measurable improvements against critical deployment bottlenecks. We propose a prescriptive decision framework and provide optimization pipelines for four representative industrial scenarios to illustrate it in practice. To the best of our knowledge, this work provides one of the first structured attempts to formalize model optimization as a constraint-aware, multi-objective engineering process, synthesizing quantitative evidence from the research literature.
• Abstract（参考訳）: クラウド、エッジ、エンタープライズ環境にわたる機械学習システムの迅速な展開は、システムエンジニアリングの最前線にモデル最適化をもたらした。 量子化、プルーニング、知識蒸留、パラメータ効率のよい微調整(PEFT)、推論時間最適化など、豊富な文献があるにもかかわらず、実践者は原則的な手法ではなくヒューリスティックな手法でこれらのテクニックをナビゲートすることがしばしばある。 我々は、最適化は制約駆動の多目的エンジニアリング決定として定式化されるべきであり、データ可用性、遅延予算、メモリ予算、正確性許容、再トレーニング予算という5つの相互作用する制約次元に沿って、運用デプロイメントを特徴付ける統一的なフレームワークを導入するべきだと論じている。 この分類法に基づいて,研究文献に報告されている経験的利得を合成し,それらをアルゴリズム的カテゴリではなく,運用上の制約にマッピングする。 実用的妥当性を確保するため,我々は,重要なデプロイメントボトルネックに対する測定可能な改善を報告する手法について,最近の文献をレビューすることで,これらの手法を選択した。 本稿では,4つの産業シナリオを対象とした規範的意思決定フレームワークと最適化パイプラインを提案する。 我々の知る限り、本研究は、モデル最適化を制約を意識した多目的工学プロセスとして形式化し、研究文献から定量的証拠を合成する最初の構造化試みの1つである。

関連論文リスト

• little m: An AI Agent for Industrial Process Optimization [6.819597984555337]
  我々は,産業プロセス制御モデルの定式化を支援するAIエージェントであるlittle mを紹介する。 本稿では,50の標準シナリオからなる新しいデータセットであるIndustrial Process Control Benchmark (IPC-Bench)を紹介する。 ほとんど m は最先端の LLM を著しく上回り、意味論的に正しいモデルを生成する。
  論文  参考訳（メタデータ） (2026-09-15T06:01:18Z)
• Token-Operations-Oriented Inference Optimization Techniques for Large Models [97.15115857661591]
  大規模モデル推論最適化は、大規模モデルサービスのスケーラブルで低コストで高度に安定した運用をサポートするための重要な基盤となる。 本稿では,マルチモデルフュージョン,モデル最適化,コンピュータモデルフュージョン,コンピュータネットワークモデルフュージョンからなる4層技術アーキテクチャを初めて提案する。
  論文  参考訳（メタデータ） (2026-06-18T14:33:09Z)
• Evolution of Optimization Methods: Algorithms, Scenarios, and Evaluations [98.44542103979735]
  勾配勾配降下法(SGD)とアダム(Adam)による1次勾配勾配降下法は、現代の訓練パイプラインの基礎となる。 大規模モデルトレーニング、厳格なプライバシ要件、分散学習パラダイムは、プライバシ保護とメモリ効率に関する従来のアプローチにおける重要な制限を明らかにする。 深層学習最適化アルゴリズムの進化軌道を振り返って分析し、様々なモデルアーキテクチャやトレーニングシナリオの主流を包括的に評価する。 我々は、重要な新興トレンドと基本設計のトレードオフを抽出し、将来の研究の有望な方向性を示唆する。
  論文  参考訳（メタデータ） (2026-04-14T17:01:36Z)
• Deep Unfolding: Recent Developments, Theory, and Design Guidelines [99.63555420898554]
  この記事では、最適化アルゴリズムを構造化されたトレーニング可能なMLアーキテクチャに変換するフレームワークであるDeep Unfoldingのチュートリアルスタイルの概要を提供する。 推論と学習のための最適化の基礎を概観し、深層展開のための4つの代表的な設計パラダイムを導入し、その反復的な性質から生じる特有なトレーニングスキームについて議論する。
  論文  参考訳（メタデータ） (2025-12-03T13:16:35Z)
• Data-Driven Differential Evolution in Tire Industry Extrusion: Leveraging Surrogate Models [0.0]
  本研究では,複雑な実世界の製造システムを最適化するためのサロゲートに基づくデータ駆動手法を提案する。 機械学習モデルは、システム挙動を近似し、サロゲートモデルを構築するために使用され、それは、調整されたメタヒューリスティックなアプローチに統合される。 以上の結果から,サロゲートに基づく最適化手法は歴史的最良構成よりも優れていた。
  論文  参考訳（メタデータ） (2025-07-15T10:52:45Z)
• LLM-guided Chemical Process Optimization with a Multi-Agent Approach [8.714038047141202]
  本稿では,最小限のプロセス記述から動作制約を自律的に推論するマルチエージェントLLMフレームワークを提案する。 当社のAutoGenベースのフレームワークは、制約生成、パラメータ検証、シミュレーション、最適化ガイダンスのための特別なエージェントを備えたOpenAIのo3モデルを採用しています。
  論文  参考訳（メタデータ） (2025-06-26T01:03:44Z)
• A Survey of Automatic Prompt Engineering: An Optimization Perspective [18.933465526053453]
  本稿では,統合最適化理論レンズによる自動プロンプト工学の総合的な研究について紹介する。 我々は離散的かつ連続的でハイブリッドなプロンプト空間上の問題としてプロンプト最適化を定式化する。 制約のある最適化とエージェント指向のプロンプト設計において、未探索のフロンティアを強調した。
  論文  参考訳（メタデータ） (2025-02-17T08:48:07Z)
• A Survey on Inference Optimization Techniques for Mixture of Experts Models [50.40325411764262]
  大規模Mixture of Experts(MoE)モデルは、条件計算によるモデル容量と計算効率の向上を提供する。 これらのモデル上で推論をデプロイし実行することは、計算資源、レイテンシ、エネルギー効率において大きな課題を示す。 本調査では,システムスタック全体にわたるMoEモデルの最適化手法について分析する。
  論文  参考訳（メタデータ） (2024-12-18T14:11:15Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Machine Learning Insides OptVerse AI Solver: Design Principles and Applications [74.67495900436728]
  本稿では,Huawei CloudのOpsVerse AIソルバに機械学習(ML)技術を統合するための総合的研究について述べる。 本稿では,実世界の多面構造を反映した生成モデルを用いて,複雑なSATインスタンスとMILPインスタンスを生成する手法を紹介する。 本稿では,解解器性能を著しく向上させる,最先端パラメータチューニングアルゴリズムの導入について詳述する。
  論文  参考訳（メタデータ） (2024-01-11T15:02:15Z)
• Designing MacPherson Suspension Architectures using Bayesian Optimization [21.295015276123962]
  コンプライアンステストは、まず、規律モデルを用いたコンピュータシミュレーションによって行われる。 このシミュレーションを通した設計は、物理的プロトタイピングとして考慮される。 提案手法は汎用的で,スケーラブルで,効率的であることを示す。
  論文  参考訳（メタデータ） (2022-06-17T21:50:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。