Fugu-MT 論文翻訳(概要): PalmTree: Learning an Assembly Language Model for Instruction Embedding

論文の概要: PalmTree: Learning an Assembly Language Model for Instruction Embedding

arxiv url: http://arxiv.org/abs/2103.03809v1
Date: Thu, 21 Jan 2021 22:30:01 GMT
ステータス: 処理完了
システム内更新日: 2021-03-21 08:00:42.187518
Title: PalmTree: Learning an Assembly Language Model for Instruction Embedding
Title（参考訳）: palmtree: 命令埋め込みのためのアセンブリ言語モデルを学ぶ
Authors: Xuezixiang Li, Qu Yu, Heng Yin
Abstract要約: 汎用命令埋め込み生成のためのアセンブリ言語モデルであるPalmTreeの事前トレーニングを提案する。 PalmTreeは固有のメトリクスに対して最高のパフォーマンスを持ち、下流タスクの他の命令埋め込みスキームよりも優れています。
参考スコア（独自算出の注目度）: 8.74990895782223
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep learning has demonstrated its strengths in numerous binary analysis tasks, including function boundary detection, binary code search, function prototype inference, value set analysis, etc. When applying deep learning to binary analysis tasks, we need to decide what input should be fed into the neural network model. More specifically, we need to answer how to represent an instruction in a fixed-length vector. The idea of automatically learning instruction representations is intriguing, however the existing schemes fail to capture the unique characteristics of disassembly. These schemes ignore the complex intra-instruction structures and mainly rely on control flow in which the contextual information is noisy and can be influenced by compiler optimizations. In this paper, we propose to pre-train an assembly language model called PalmTree for generating general-purpose instruction embeddings by conducting self-supervised training on large-scale unlabeled binary corpora. PalmTree utilizes three pre-training tasks to capture various characteristics of assembly language. These training tasks overcome the problems in existing schemes, thus can help to generate high-quality representations. We conduct both intrinsic and extrinsic evaluations, and compare PalmTree with other instruction embedding schemes. PalmTree has the best performance for intrinsic metrics, and outperforms the other instruction embedding schemes for all downstream tasks.
Abstract（参考訳）: ディープラーニングは、関数境界検出、バイナリコード検索、関数プロトタイプ推論、値セット分析など、多数のバイナリ分析タスクにおいて、その強みを実証している。二元分析タスクにディープラーニングを適用する場合、ニューラルネットワークモデルにどの入力を入力すべきかを決定する必要があります。具体的には、固定長ベクトルで命令を表現する方法に答える必要がある。命令表現を自動的に学習するというアイデアは興味深いが、既存のスキームは分解のユニークな特徴を捉えていない。これらのスキームは複雑なインストラクション構造を無視し、主にコンテキスト情報がノイズの多い制御フローに依存し、コンパイラの最適化の影響を受けやすい。本稿では,大規模非ラベルバイナリコーパス上で自己教師あり学習を行うことで汎用命令埋め込みを生成するために,palmtreeと呼ばれるアセンブリ言語モデルを事前学習することを提案する。 PalmTreeは3つの事前訓練タスクを使用して、アセンブリ言語の様々な特性をキャプチャする。これらのトレーニングタスクは既存のスキームの問題を克服し、高品質な表現を生成するのに役立つ。内在的および外在的評価を行い、PalmTreeと他の命令埋め込み方式との比較を行う。 PalmTreeは固有のメトリクスに対して最高のパフォーマンスを持ち、下流タスクの他の命令埋め込みスキームよりも優れています。