論文の概要: Enabling Hard Constraints in Differentiable Neural Network and Accelerator Co-Exploration

• arxiv url: http://arxiv.org/abs/2301.09312v1
• Date: Mon, 23 Jan 2023 08:15:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-01-24 14:02:30.203952
• Title: Enabling Hard Constraints in Differentiable Neural Network and Accelerator Co-Exploration
• Title（参考訳）: 微分型ニューラルネットワークと加速器共爆発におけるハード制約の実現
• Authors: Deokki Hong, Kanghyun Choi, Hye Yoon Lee, Joonsang Yu, Noseong Park, Youngsok Kim, and Jinho Lee
• Abstract要約: HDXは、グローバルな設計目的を損なうことなく、制約の厳しいソリューションを探索する。 与えられたハード制約の利害関係の勾配を操作することにより、制約を満たす高品質な解が得られる。
• 参考スコア（独自算出の注目度）: 14.477055610549886
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Co-exploration of an optimal neural architecture and its hardware accelerator is an approach of rising interest which addresses the computational cost problem, especially in low-profile systems. The large co-exploration space is often handled by adopting the idea of differentiable neural architecture search. However, despite the superior search efficiency of the differentiable co-exploration, it faces a critical challenge of not being able to systematically satisfy hard constraints such as frame rate. To handle the hard constraint problem of differentiable co-exploration, we propose HDX, which searches for hard-constrained solutions without compromising the global design objectives. By manipulating the gradients in the interest of the given hard constraint, high-quality solutions satisfying the constraint can be obtained.
• Abstract（参考訳）: 最適なニューラルアーキテクチャとハードウェアアクセラレーションの共存は、特にロープロファイルシステムにおける計算コスト問題に対処する関心の高まりのアプローチである。 大規模な共同探索空間は、しばしば、微分可能なニューラルアーキテクチャ探索という考え方を採用することで扱われる。 しかし,同探索の探索効率が優れているにもかかわらず,フレームレートなどの制約を体系的に満たさないという重要な課題に直面している。 微分可能共探索のハード制約問題に対処するため,グローバルな設計目的を損なうことなく,ハード制約されたソリューションを探索するHDXを提案する。 与えられたハード制約の利害関係の勾配を操作することで、制約を満たす高品質な解が得られる。

関連論文リスト

• FX-DARTS: Designing Topology-unconstrained Architectures with Differentiable Architecture Search and Entropy-based Super-network Shrinking [19.98065888943856]
  微分可能なアーキテクチャサーチ(DARTS)の探索空間に強い先行性が課せられる 本稿では,セルトポロジの制約を排除し,スーパーネットワークの離散化機構を変更することで,これらの制約を緩和することを目的とする。 FX-DARTSは、パフォーマンスと計算複雑性の間の競合するトレードオフを持つ一連のニューラルネットワークを探索することができる。
  論文  参考訳（メタデータ） (2025-04-25T08:34:29Z)
• Single-loop Algorithms for Stochastic Non-convex Optimization with Weakly-Convex Constraints [49.76332265680669]
  本稿では、目的関数と制約関数の両方が弱凸である問題の重要な部分集合について検討する。 既存の手法では、収束速度の遅さや二重ループ設計への依存など、しばしば制限に直面している。 これらの課題を克服するために,新しい単一ループペナルティに基づくアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:48Z)
• Hard-Constrained Neural Networks with Universal Approximation Guarantees [5.3663546125491735]
  HardNetは、モデルキャパシティを犠牲にすることなく、本質的に厳しい制約を満たすニューラルネットワークを構築するためのフレームワークである。 ニューラルネットワークの普遍近似能力はHardNetが保持していることを示す。
  論文  参考訳（メタデータ） (2024-10-14T17:59:24Z)
• Scaling physics-informed hard constraints with mixture-of-experts [0.0]
  我々は、Mixture-of-Experts (MoE) を用いて、ハード物理制約を強制するためのスケーラブルなアプローチを開発する。 MoEは小さなドメインに対する制約を課し、それぞれが微分可能な最適化によって"専門家"によって解決される。 標準的な微分可能最適化と比較して、我々のスケーラブルなアプローチは、ニューラルPDEソルバ設定においてより精度が高い。
  論文  参考訳（メタデータ） (2024-02-20T22:45:00Z)
• Boundary Exploration for Bayesian Optimization With Unknown Physical Constraints [37.095510211590984]
  本稿では,実現不可能な設計と実現不可能な設計の境界を効率的に探索する新しいベイズ最適化手法であるBE-CBOを提案する。 提案手法は,合成および実世界のベンチマークに関する総合的な実験を通じて,最先端手法に対する優れた性能を示す。
  論文  参考訳（メタデータ） (2024-02-12T14:59:40Z)
• Neural Fields with Hard Constraints of Arbitrary Differential Order [61.49418682745144]
  我々は、ニューラルネットワークに厳しい制約を課すための一連のアプローチを開発する。 制約は、ニューラルネットワークとそのデリバティブに適用される線形作用素として指定することができる。 私たちのアプローチは、広範囲の現実世界のアプリケーションで実証されています。
  論文  参考訳（メタデータ） (2023-06-15T08:33:52Z)
• Feature-adjacent multi-fidelity physics-informed machine learning for partial differential equations [0.1713291434132985]
  物理インフォームドニューラルネットワークは偏微分方程式の解法として登場した。 複雑な問題に対して、そのようなネットワークのトレーニングには高忠実度データが必要である。 本稿では,低忠実度および高忠実度ソリューションで共有される特徴空間に基づく,新しい多忠実度アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2023-03-21T03:51:15Z)
• Oracle-Efficient Smoothed Online Learning for Piecewise Continuous Decision Making [73.48977854003697]
  この研究は、複雑性という新しい概念、一般化ブラケット数を導入し、空間の大きさに対する敵の制約を結婚させる。 次に、オンライン予測や断片的連続関数の計画など、関心のあるいくつかの問題で境界をインスタンス化する。
  論文  参考訳（メタデータ） (2023-02-10T18:45:52Z)
• DC3: A learning method for optimization with hard constraints [85.12291213315905]
  この問題に対処するアルゴリズムとして,Deep Constraint Completion and Correction (DC3)を提案する。 DC3は、等式制約を満たす部分解と不等式制約を満たすアンロールベースの補正を暗黙的に完成する。 合成最適化タスクとAC最適電力流の実世界設定の両方でDC3の有効性を実証します。
  論文  参考訳（メタデータ） (2021-04-25T18:21:59Z)
• CoreDiag: Eliminating Redundancy in Constraint Sets [68.8204255655161]
  最小コア(最小非冗長制約集合)の決定に利用できる新しいアルゴリズムを提案する。 このアルゴリズムは、冗長性の度合いが高い分散知識工学シナリオにおいて特に有用である。 本手法の適用可能性を示すために, 商業的構成知識ベースを用いた実証的研究を実施した。
  論文  参考訳（メタデータ） (2021-02-24T09:16:10Z)
• Differentiable Causal Discovery from Interventional Data [141.41931444927184]
  本稿では、介入データを活用可能なニューラルネットワークに基づく理論的基盤化手法を提案する。 提案手法は,様々な環境下での美術品の状態と良好に比較できることを示す。
  論文  参考訳（メタデータ） (2020-07-03T15:19:17Z)
• MineReduce: an approach based on data mining for problem size reduction [58.720142291102135]
  本稿では,マイニングパターンを用いて問題サイズの削減を行うMineReduceという手法を提案する。 異種車両ルーティング問題に対するMineReduceの適用について述べる。
  論文  参考訳（メタデータ） (2020-05-15T08:49:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。