論文の概要: On Robustness and Generalization of ML-Based Congestion Predictors to Valid and Imperceptible Perturbations

• arxiv url: http://arxiv.org/abs/2403.00103v1
• Date: Thu, 29 Feb 2024 20:11:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-05 19:04:18.972224
• Title: On Robustness and Generalization of ML-Based Congestion Predictors to Valid and Imperceptible Perturbations
• Title（参考訳）: MLに基づく摂動に対する混雑予測器のロバスト性と一般化について
• Authors: Chester Holtz, Yucheng Wang, Chung-Kuan Cheng, Bill Lin
• Abstract要約: 最近の研究は、ニューラルネットワークが入力の小さな、慎重に選択された摂動に対して一般的に脆弱であることを示した。 現状のCNNとGNNをベースとした渋滞モデルでは、知覚不能な摂動に対する脆さが示される。 我々の研究は、CADエンジニアがEDAフローにニューラルネットワークベースのメカニズムを統合する際に注意すべきであることを示唆している。
• 参考スコア（独自算出の注目度）: 9.982978359852494
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There is substantial interest in the use of machine learning (ML)-based techniques throughout the electronic computer-aided design (CAD) flow, particularly methods based on deep learning. However, while deep learning methods have achieved state-of-the-art performance in several applications, recent work has demonstrated that neural networks are generally vulnerable to small, carefully chosen perturbations of their input (e.g. a single pixel change in an image). In this work, we investigate robustness in the context of ML-based EDA tools -- particularly for congestion prediction. As far as we are aware, we are the first to explore this concept in the context of ML-based EDA. We first describe a novel notion of imperceptibility designed specifically for VLSI layout problems defined on netlists and cell placements. Our definition of imperceptibility is characterized by a guarantee that a perturbation to a layout will not alter its global routing. We then demonstrate that state-of-the-art CNN and GNN-based congestion models exhibit brittleness to imperceptible perturbations. Namely, we show that when a small number of cells (e.g. 1%-5% of cells) have their positions shifted such that a measure of global congestion is guaranteed to remain unaffected (e.g. 1% of the design adversarially shifted by 0.001% of the layout space results in a predicted decrease in congestion of up to 90%, while no change in congestion is implied by the perturbation). In other words, the quality of a predictor can be made arbitrarily poor (i.e. can be made to predict that a design is "congestion-free") for an arbitrary input layout. Next, we describe a simple technique to train predictors that improves robustness to these perturbations. Our work indicates that CAD engineers should be cautious when integrating neural network-based mechanisms in EDA flows to ensure robust and high-quality results.
• Abstract（参考訳）: コンピュータ支援設計(CAD)の流れ、特にディープラーニングに基づく手法を通じて機械学習(ML)ベースの技術の利用に大きな関心が寄せられている。 しかしながら、ディープラーニング手法はいくつかのアプリケーションで最先端のパフォーマンスを達成したが、最近の研究は、ニューラルネットワークは一般的に、小さな、慎重に選択された入力の摂動(例えば、画像内の1ピクセルの変化)に対して脆弱であることを示した。 本研究では,MLベースのEDAツールのコンテキストにおける堅牢性について検討する。 私たちが認識している限り、私たちはMLベースのEDAという文脈でこの概念を最初に探求しています。 まず、ネットリストやセル配置で定義されたvlsiレイアウト問題に特化した新しいインプセプティビリティの概念について述べる。 インプセプティビリティの定義は、レイアウトの摂動がグローバルルーティングを変更することはないという保証によって特徴づけられる。 次に、現状のCNNとGNNに基づく渋滞モデルが、知覚不能な摂動に対して脆さを示すことを示した。 すなわち、少数の細胞(例えば、細胞の1%-5%)が、世界的混雑の指標が影響を受けないことを保証するように、その位置がずれている場合(例えば、レイアウト空間の0.001%が逆向きにシフトした設計の1%は、最大90%の混雑の予測を減少させるが、摂動による混雑の変化は生じない)。 言い換えれば、任意の入力レイアウトに対して、予測器の品質を任意に低下させることができる(つまり、設計が「凝縮フリー」であると予測できる)。 次に,これらの摂動に対するロバスト性を改善する予測器の訓練手法について述べる。 我々の研究は、CADエンジニアが、堅牢で高品質な結果を保証するために、EDAフローにニューラルネットワークベースのメカニズムを統合する際に慎重であることを示します。

関連論文リスト

• The Over-Certainty Phenomenon in Modern UDA Algorithms [3.301728339780329]
  我々は、ニューラルネットワークが観測するデータの認識に関連して、決定境界を再検討することを目指している。 精度を向上するだけでなく,モデルのキャリブレーションも保証するUDAアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-04-24T19:55:50Z)
• Rethinking PGD Attack: Is Sign Function Necessary? [131.6894310945647]
  本稿では,このような手話に基づく更新アルゴリズムが段階的攻撃性能にどのように影響するかを理論的に分析する。 本稿では,手話の使用を排除したRGDアルゴリズムを提案する。 提案したRGDアルゴリズムの有効性は実験で広く実証されている。
  論文  参考訳（メタデータ） (2023-12-03T02:26:58Z)
• Active Inference on the Edge: A Design Study [5.815300670677979]
  アクティブ推論(アクティブ推論、英: Active Inference、ACI)とは、脳が知覚情報を常に予測し評価し、長期的サプライズを減らす方法を記述する神経科学の概念である。 我々は,ACIエージェントが要求を満たすことなく,最適化問題を迅速かつ追跡的に解決できたことを示す。
  論文  参考訳（メタデータ） (2023-11-17T16:03:04Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Bridging Precision and Confidence: A Train-Time Loss for Calibrating Object Detection [58.789823426981044]
  本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。 その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
  論文  参考訳（メタデータ） (2023-03-25T08:56:21Z)
• A Simple Approach to Improve Single-Model Deep Uncertainty via Distance-Awareness [33.09831377640498]
  本研究では,1つの決定論的表現に基づく1つのネットワークの不確実性向上手法について検討する。 本稿では,現代のDNNにおける距離認識能力を向上させる簡易な手法として,スペクトル正規化ニューラルガウス過程(SNGP)を提案する。 ビジョンと言語理解のベンチマークスイートでは、SNGPは予測、キャリブレーション、ドメイン外検出において、他の単一モデルアプローチよりも優れている。
  論文  参考訳（メタデータ） (2022-05-01T05:46:13Z)
• Unveiling the potential of Graph Neural Networks for robust Intrusion Detection [2.21481607673149]
  本稿では,グラフとして構造化された攻撃の流れパターンを学習するための新しいグラフニューラルネットワーク(GNN)モデルを提案する。 我々のモデルは従来の実験と同等の精度を維持することができる一方、最先端のML技術は敵攻撃下で50%の精度(F1スコア)を低下させる。
  論文  参考訳（メタデータ） (2021-07-30T16:56:39Z)
• TELESTO: A Graph Neural Network Model for Anomaly Classification in Cloud Services [77.454688257702]
  機械学習(ML)と人工知能(AI)はITシステムの運用とメンテナンスに適用される。 1つの方向は、修復自動化を可能にするために、繰り返し発生する異常タイプを認識することである。 与えられたデータの次元変化に不変な手法を提案する。
  論文  参考訳（メタデータ） (2021-02-25T14:24:49Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)
• Relaxing the Constraints on Predictive Coding Models [62.997667081978825]
  予測符号化(英: Predictive coding)は、脳が行う主計算が予測誤差の最小化であるとする皮質機能の影響力のある理論である。 アルゴリズムの標準的な実装は、同じ前方と後方の重み、後方の非線形微分、1-1エラーユニット接続といった、潜在的に神経的に予測できない特徴を含んでいる。 本稿では,これらの特徴はアルゴリズムに不可欠なものではなく,Hebbianの更新ルールを用いてパラメータセットを直接あるいは学習することで,学習性能に悪影響を及ぼすことなく除去可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-02T15:21:37Z)
• Local error quantification for Neural Network Differential Equation solvers [6.09170287691728]
  NN DEソルバをより正確かつ効率的にする手法を開発した。 本手法は,NNDEの精度の高い予測誤差をポイントワイズで推定する手法によって実現される。 非線形システムとカオスシステムでテストすることで,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-08-24T08:22:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。