論文の概要: Security Knowledge-Guided Fuzzing of Deep Learning Libraries
- arxiv url: http://arxiv.org/abs/2306.03269v1
- Date: Mon, 5 Jun 2023 21:38:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-24 04:23:56.008590
- Title: Security Knowledge-Guided Fuzzing of Deep Learning Libraries
- Title（参考訳）: 深層学習ライブラリのセキュリティ知識に基づくファジング
- Authors: Nima Shiri Harzevili, Hung Viet Pham, Song Wang
- Abstract要約: 本稿では,不正な入力生成規則を利用して,DLライブラリのテストを行う新しい深層学習ファザを提案する。
Orionは、APIドキュメント、ソースコード、開発者テスト、GitHubで公開されているリポジトリなど、さまざまなソースからAPI呼び出しコードを収集している。
Orionは143のバグと68のバグを報告している。
- 参考スコア（独自算出の注目度）: 11.118370064698869
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: There have been many Deep Learning (DL) fuzzers proposed in the literature.
However, most of them only focused on high-level APIs that are used by users,
which results in a large number of APIs used by library developers being
untested. Additionally, they use general input generation rules to generate
malformed inputs such as random value generation and boundary-input generation,
which are ineffective to generate DL-specific malformed inputs.
To fill this gap, we first conduct an empirical study regarding root cause
analysis on 447 history security vulnerabilities of two of the most popular DL
libraries, i.e., PyTorch and TensorFlow, for characterizing and understanding
their malicious inputs. As a result, we categorize 18 rules regarding the
construction of malicious inputs, which we believe can be used to generate
effective malformed inputs for testing DL libraries. We further design and
implement Orion, a new fuzzer that tests DL libraries by utilizing our
malformed input generation rules mined from real-world deep learning security
vulnerabilities. Specifically, Orion first collects API invocation code from
various sources such as API documentation, source code, developer tests, and
publicly available repositories on GitHub. Then Orion instruments these code
snippets to dynamically trace execution information for each API such as
parameters' types, shapes, and values. Then, Orion combines the malformed input
generation rules and the dynamic execution information to create inputs to test
DL libraries.
Our evaluation on TensorFlow and PyTorch shows that Orion reports 143 bugs
and 68 of which are previously unknown. Among the 68 new bugs, 58 have been
fixed or confirmed by developers after we report them and the left are awaiting
confirmation. Compared to the state-of-the-art DL fuzzers (i.e., FreeFuzz and
DocTer), Orion detects 21% and 34% more bugs respectively.
- Abstract（参考訳）: この文献には多くのDeep Learning(DL)ファジィザが提案されている。
しかし、その多くはユーザが使用するハイレベルなapiのみに重点を置いているため、ライブラリ開発者がテストせずに使用するapiが多数含まれている。
さらに、一般入力生成規則を用いてランダム値生成や境界入力生成などの不正入力を生成し、DL固有の不正入力を生成するのに効果がない。
このギャップを埋めるため、我々はまず、最も人気のあるdlライブラリであるpytorchとtensorflowの447の履歴セキュリティ脆弱性の根本原因分析に関する経験的研究を行い、それらの悪意のある入力を特徴付け、理解する。
その結果、悪意のある入力の構築に関する18のルールを分類し、DLライブラリのテストに有効な不正入力を生成することができると考えている。
我々は、実世界のディープラーニングのセキュリティ脆弱性から抽出した不正な入力生成ルールを利用してdlライブラリをテストする新しいfuzzer、orionの設計と実装をさらに進めます。
具体的には、orionはまずapiドキュメント、ソースコード、開発者テスト、github上の公開リポジトリなど、さまざまなソースからapi呼び出しコードを収集する。
次に、Orionはこれらのコードスニペットを使用して、パラメータの型、形、値などの各APIの実行情報を動的にトレースする。
次に、不正な入力生成ルールと動的実行情報を組み合わせて、DLライブラリをテストする入力を生成する。
TensorFlowとPyTorchに関する我々の評価は、Orionが143のバグを報告し、68がこれまで不明であることを示している。
68の新しいバグの中で、開発者が報告した後、58が修正または確認され、左が確認を待っている。
最先端のDLファザ(FreeFuzzとDocTer)と比較して、Orionはそれぞれ21%と34%のバグを検出する。
関連論文リスト
- Discovery of Timeline and Crowd Reaction of Software Vulnerability Disclosures [47.435076500269545]
Apache Log4Jはリモートコード実行攻撃に対して脆弱であることが判明した。
35,000以上のパッケージが最新バージョンでLog4Jライブラリをアップデートせざるを得なかった。
ソフトウェアベンダが脆弱性のないバージョンをリリースするたびに、ソフトウェア開発者がサードパーティのライブラリを更新するのは、事実上妥当です。
論文 参考訳（メタデータ） (2024-11-12T01:55:51Z) - FuzzTheREST: An Intelligent Automated Black-box RESTful API Fuzzer [0.0]
この作業では、脆弱性検出にReinforcement Learning(RL)を使用しているファジィテストツールのブラックボックスAPIを導入している。
このツールは6つのユニークな脆弱性を発見し、55%のコードカバレッジを達成した。
論文 参考訳（メタデータ） (2024-07-19T14:43:35Z) - A Classification-by-Retrieval Framework for Few-Shot Anomaly Detection to Detect API Injection Attacks [9.693391036125908]
本稿では,2つの主要部品からなる非教師なし数発の異常検出フレームワークを提案する。
まず、FastTextの埋め込みに基づいたAPI専用の汎用言語モデルをトレーニングする。
次に,近似Nearest Neighborサーチを分類・検索手法として用いた。
論文 参考訳（メタデータ） (2024-05-18T10:15:31Z) - Benchmarking Deep Learning Fuzzers [11.118370064698869]
ベンチマークでは、最先端の3つのDLファザ、FreeFuzz、DeepRel、DocTerを、その命令に従って実行します。
これらのファジィザは、ベンチマークデータセットで収集された多くの実際のバグを検出することができません。
我々の系統分析では、これらのファジッターが実際のバグを検知する能力に影響を及ぼす4つの主要な、広く、共通の要因を同定する。
論文 参考訳（メタデータ） (2023-10-10T18:09:16Z) - SyzTrust: State-aware Fuzzing on Trusted OS Designed for IoT Devices [67.65883495888258]
我々は、リソース制限されたTrusted OSのセキュリティを検証するための、最初の状態認識ファジィフレームワークであるSyzTrustを紹介する。
SyzTrustはハードウェア支援フレームワークを採用し、IoTデバイス上でTrusted OSを直接ファジングできるようにする。
我々は、Samsung、Tsinglink Cloud、Ali Cloudの3つの主要なベンダーからSyzTrust on Trusted OSを評価した。
論文 参考訳（メタデータ） (2023-09-26T08:11:38Z) - On the Security Blind Spots of Software Composition Analysis [46.1389163921338]
Mavenリポジトリで脆弱性のあるクローンを検出するための新しいアプローチを提案する。
Maven Centralから53万以上の潜在的な脆弱性のあるクローンを検索します。
検出された727個の脆弱なクローンを検出し、それぞれに検証可能な脆弱性証明プロジェクトを合成する。
論文 参考訳（メタデータ） (2023-06-08T20:14:46Z) - EDEFuzz: A Web API Fuzzer for Excessive Data Exposures [3.5061201620029885]
Excessive Data Exposure(EDE)は2019年で3番目に重大なAPI脆弱性である。
このような問題を効果的に発見し、修正する自動化ツールが、研究や業界でもほとんどありません。
EDEFuzzと呼ばれる最初のファジィツールを構築し、EDEを体系的に検出します。
論文 参考訳（メタデータ） (2023-01-23T04:05:08Z) - REaaS: Enabling Adversarially Robust Downstream Classifiers via Robust
Encoder as a Service [67.0982378001551]
サービスプロバイダがエンコーダを事前トレーニングして、クラウドサービスAPIとしてデプロイする方法を示します。
クライアントはクラウドサービスAPIに問い合わせて、トレーニング/テスト入力のフィーチャーベクタを取得する。
私たちは、クライアントが下流の分類器の堅牢性を証明できるように、クラウドサービスが2つのAPIを提供する必要があることを示しています。
論文 参考訳（メタデータ） (2023-01-07T17:40:11Z) - Untargeted Backdoor Watermark: Towards Harmless and Stealthy Dataset
Copyright Protection [69.59980270078067]
我々は,異常なモデル行動が決定論的でない,未目標のバックドア透かし方式を探索する。
また、提案した未ターゲットのバックドア透かしをデータセットのオーナシップ検証に利用する方法について論じる。
論文 参考訳（メタデータ） (2022-09-27T12:56:56Z) - VUDENC: Vulnerability Detection with Deep Learning on a Natural Codebase
for Python [8.810543294798485]
VUDENCはディープラーニングベースの脆弱性検出ツールである。
大規模で現実世界のPythonコーパスから脆弱性のあるコードの特徴を学ぶ。
VUDENCのリコール率は78%-87%、精度82%-96%、F1スコア80%-90%である。
論文 参考訳（メタデータ） (2022-01-20T20:29:22Z) - Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。
我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
論文 参考訳（メタデータ） (2020-07-07T18:40:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。