論文の概要: Enabling Hard Constraints in Differentiable Neural Network and
Accelerator Co-Exploration
- arxiv url: http://arxiv.org/abs/2301.09312v1
- Date: Mon, 23 Jan 2023 08:15:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-24 14:02:30.203952
- Title: Enabling Hard Constraints in Differentiable Neural Network and
Accelerator Co-Exploration
- Title(参考訳): 微分型ニューラルネットワークと加速器共爆発におけるハード制約の実現
- Authors: Deokki Hong, Kanghyun Choi, Hye Yoon Lee, Joonsang Yu, Noseong Park,
Youngsok Kim, and Jinho Lee
- Abstract要約: HDXは、グローバルな設計目的を損なうことなく、制約の厳しいソリューションを探索する。
与えられたハード制約の利害関係の勾配を操作することにより、制約を満たす高品質な解が得られる。
- 参考スコア(独自算出の注目度): 14.477055610549886
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Co-exploration of an optimal neural architecture and its hardware accelerator
is an approach of rising interest which addresses the computational cost
problem, especially in low-profile systems. The large co-exploration space is
often handled by adopting the idea of differentiable neural architecture
search. However, despite the superior search efficiency of the differentiable
co-exploration, it faces a critical challenge of not being able to
systematically satisfy hard constraints such as frame rate. To handle the hard
constraint problem of differentiable co-exploration, we propose HDX, which
searches for hard-constrained solutions without compromising the global design
objectives. By manipulating the gradients in the interest of the given hard
constraint, high-quality solutions satisfying the constraint can be obtained.
- Abstract(参考訳): 最適なニューラルアーキテクチャとハードウェアアクセラレーションの共存は、特にロープロファイルシステムにおける計算コスト問題に対処する関心の高まりのアプローチである。
大規模な共同探索空間は、しばしば、微分可能なニューラルアーキテクチャ探索という考え方を採用することで扱われる。
しかし,同探索の探索効率が優れているにもかかわらず,フレームレートなどの制約を体系的に満たさないという重要な課題に直面している。
微分可能共探索のハード制約問題に対処するため,グローバルな設計目的を損なうことなく,ハード制約されたソリューションを探索するHDXを提案する。
与えられたハード制約の利害関係の勾配を操作することで、制約を満たす高品質な解が得られる。
関連論文リスト
- Neural Networks with Quantization Constraints [111.42313650830248]
量子化学習における制約付き学習手法を提案する。
結果の問題は強い双対であり、勾配推定は不要であることを示す。
提案手法は画像分類タスクにおける競合性能を示す。
論文 参考訳(メタデータ) (2022-10-27T17:12:48Z) - Challenges to Solving Combinatorially Hard Long-Horizon Deep RL Tasks [25.37125069796657]
高いレベルで多くの異なるソリューションを許容するタスクのセットを提案するが、状態の推論が必要であり、最高のパフォーマンスのために数千のステップを先延ばしする必要がある。
汎用階層的RLアプローチは、抽象的なドメイン知識を活用できない限り、しばしば、ディスカウントによる長期的影響を無視する。
論文 参考訳(メタデータ) (2022-06-03T20:38:27Z) - DC3: A learning method for optimization with hard constraints [85.12291213315905]
この問題に対処するアルゴリズムとして,Deep Constraint Completion and Correction (DC3)を提案する。
DC3は、等式制約を満たす部分解と不等式制約を満たすアンロールベースの補正を暗黙的に完成する。
合成最適化タスクとAC最適電力流の実世界設定の両方でDC3の有効性を実証します。
論文 参考訳(メタデータ) (2021-04-25T18:21:59Z) - CoreDiag: Eliminating Redundancy in Constraint Sets [68.8204255655161]
最小コア(最小非冗長制約集合)の決定に利用できる新しいアルゴリズムを提案する。
このアルゴリズムは、冗長性の度合いが高い分散知識工学シナリオにおいて特に有用である。
本手法の適用可能性を示すために, 商業的構成知識ベースを用いた実証的研究を実施した。
論文 参考訳(メタデータ) (2021-02-24T09:16:10Z) - DeepReach: A Deep Learning Approach to High-Dimensional Reachability [6.604421202391151]
Hamilton-Jacobi (HJ) 到達可能性解析は動的制御系の性能と安全性を保証する重要な形式的検証手法である。
本稿では,高次元到達性問題に対するニューラルPDE解法であるDeepReachを提案する。
論文 参考訳(メタデータ) (2020-11-04T00:47:59Z) - Automated Search for Resource-Efficient Branched Multi-Task Networks [81.48051635183916]
我々は,多タスクニューラルネットワークにおける分岐構造を自動的に定義する,微分可能なニューラルネットワーク探索に根ざした原理的アプローチを提案する。
本手法は,限られた資源予算内で高い性能の分岐構造を見いだすことができる。
論文 参考訳(メタデータ) (2020-08-24T09:49:19Z) - Differentiable Causal Discovery from Interventional Data [141.41931444927184]
本稿では、介入データを活用可能なニューラルネットワークに基づく理論的基盤化手法を提案する。
提案手法は,様々な環境下での美術品の状態と良好に比較できることを示す。
論文 参考訳(メタデータ) (2020-07-03T15:19:17Z) - CLAIMED: A CLAssification-Incorporated Minimum Energy Design to explore
a multivariate response surface with feasibility constraints [5.358212984063069]
物理学における力場系の最適化の問題に動機付けられ、決定論的複素多変量応答曲面の探索を検討する。
目的は、所望または"ターゲット"ベクトルに近い出力を生成する入力の組み合わせを見つけることである。
1次元の損失関数に関して入力空間の探索の問題を減らす一方で、探索は非自明で困難である。
本稿では、機械学習技術とスマートな実験設計のアイデアを組み合わせることで、入力空間内の複数の良い領域を特定する手法を提案する。
論文 参考訳(メタデータ) (2020-06-09T02:44:31Z) - MineReduce: an approach based on data mining for problem size reduction [58.720142291102135]
本稿では,マイニングパターンを用いて問題サイズの削減を行うMineReduceという手法を提案する。
異種車両ルーティング問題に対するMineReduceの適用について述べる。
論文 参考訳(メタデータ) (2020-05-15T08:49:50Z) - Bounding boxes for weakly supervised segmentation: Global constraints
get close to full supervision [31.59087323604063]
ボックスアノテーションから導かれるいくつかの大域的制約に基づいて,弱教師付き学習セグメンテーションを提案する。
特に、ネットワーク出力に制約を課すことにより、ディープラーニング設定の前に古典的な厳密さを活用する。
我々は,グローバルな背景空き制約に先立って,厳密さを取り入れ,境界ボックス外の情報によるトレーニングを指導する。
論文 参考訳(メタデータ) (2020-04-14T22:11:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。