論文の概要: The Dark Side: Security Concerns in Machine Learning for EDA

• arxiv url: http://arxiv.org/abs/2203.10597v1
• Date: Sun, 20 Mar 2022 16:44:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-22 19:24:16.675048
• Title: The Dark Side: Security Concerns in Machine Learning for EDA
• Title（参考訳）: ダークサイド: edaの機械学習におけるセキュリティの懸念
• Authors: Zhiyao Xie and Jingyu Pan and Chen-Chia Chang and Yiran Chen
• Abstract要約: 多くの前例のない効率的なEDA手法が機械学習(ML)技術によって実現されている。 MLは回路設計において大きな可能性を示しているが、セキュリティ問題に関する暗黒面はほとんど議論されていない。 本稿では,ML for EDAにおけるすべてのセキュリティ問題について,包括的かつ公平に概説する。
• 参考スコア（独自算出の注目度）: 29.20366952640125
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The growing IC complexity has led to a compelling need for design efficiency improvement through new electronic design automation (EDA) methodologies. In recent years, many unprecedented efficient EDA methods have been enabled by machine learning (ML) techniques. While ML demonstrates its great potential in circuit design, however, the dark side about security problems, is seldomly discussed. This paper gives a comprehensive and impartial summary of all security concerns we have observed in ML for EDA. Many of them are hidden or neglected by practitioners in this field. In this paper, we first provide our taxonomy to define four major types of security concerns, then we analyze different application scenarios and special properties in ML for EDA. After that, we present our detailed analysis of each security concern with experiments.
• Abstract（参考訳）: ICの複雑さが増大するにつれ、新しい電子設計自動化(EDA)手法によって設計効率の向上が著しく求められている。 近年、機械学習(ML)技術により、多くの先例のない効率的なEDA手法が実現されている。 しかし、MLは回路設計における大きな可能性を示しているが、セキュリティ問題に関するダークサイドは、ほとんど議論されていない。 本稿では,ML for EDAにおけるすべてのセキュリティ問題について,包括的かつ公平に概説する。 多くはこの分野の実践者によって隠されたり無視されたりしている。 本稿では,まず4つの主要なセキュリティ問題を定義するための分類法を提案し,その上で,ML for EDAにおけるさまざまなアプリケーションシナリオと特別な特性を分析した。 その後,各セキュリティの問題点について,実験により詳細な分析を行う。

関連論文リスト

• Multimodal Situational Safety [73.63981779844916]
  マルチモーダル・シチュエーション・セーフティ(Multimodal situational Safety)と呼ばれる新しい安全課題の評価と分析を行う。 MLLMが言語やアクションを通じても安全に応答するためには、言語クエリが対応する視覚的コンテキスト内での安全性への影響を評価する必要があることが多い。 我々は,現在のMLLMの状況安全性能を評価するためのマルチモーダル状況安全ベンチマーク(MSSBench)を開発した。
  論文  参考訳（メタデータ） (2024-10-08T16:16:07Z)
• The Art of Defending: A Systematic Evaluation and Analysis of LLM Defense Strategies on Safety and Over-Defensiveness [56.174255970895466]
  大規模言語モデル(LLM)は、自然言語処理アプリケーションにおいて、ますます重要な役割を担っている。 本稿では,SODE(Safety and Over-Defensiveness Evaluation)ベンチマークを提案する。
  論文  参考訳（メタデータ） (2023-12-30T17:37:06Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Machine Learning with Confidential Computing: A Systematization of Knowledge [9.632031075287047]
  機械学習(ML)におけるプライバシとセキュリティの課題は、MLの広範な開発と、最近の大規模な攻撃面のデモとともに、ますます深刻になっている。 成熟したシステム指向のアプローチとして、Confidential Computingは、さまざまなMLシナリオにおけるプライバシとセキュリティの問題を軽減するために、学術と産業の両方で使用されている。 機密性保証とii)整合性保証を提供する機密コンピューティング支援ML技術に関する先行研究を体系化し、それらの高度な特徴と欠点について論じる。
  論文  参考訳（メタデータ） (2022-08-22T08:23:53Z)
• A Survey and Perspective on Artificial Intelligence for Security-Aware Electronic Design Automation [6.496603310407321]
  我々は、回路設計/最適化、セキュリティとエンジニアリングの課題、セキュリティを意識したCAD/EDAの研究、今後の研究方向性について、AL/MLの現状を要約する。
  論文  参考訳（メタデータ） (2022-04-19T17:46:39Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Machine Learning for Electronic Design Automation: A Survey [23.803190584543863]
  CMOS技術のダウンスケーリングにより、超大規模集積(VLSI)の設計複雑さが増大している。 機械学習(ML)の最近のブレークスルーとEDAタスクの複雑さの増大により、ESAタスクの解決にMLを組み込むことへの関心が高まっている。
  論文  参考訳（メタデータ） (2021-01-10T12:54:37Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)
• Machine Learning for Reliability Engineering and Safety Applications: Review of Current Status and Future Opportunities [1.2183405753834562]
  機械学習(ML)は、ますます多くの学術分野や産業に浸透している。 信頼性と安全性のためのMLには、すでに大きなが断片化された文献がある。 MLは信頼性と安全性のアプリケーションにおいて重要な課題を解決するための、新たな洞察と機会を提供することができる、と我々は主張する。
  論文  参考訳（メタデータ） (2020-08-19T02:08:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。