論文の概要: Static Program Slicing Using Language Models With Dataflow-Aware Pretraining and Constrained Decoding
- arxiv url: http://arxiv.org/abs/2604.26961v1
- Date: Thu, 09 Apr 2026 19:46:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 02:32:14.247308
- Title: Static Program Slicing Using Language Models With Dataflow-Aware Pretraining and Constrained Decoding
- Title(参考訳): データフローを考慮した言語モデルを用いた静的プログラムスライシング
- Authors: Pengfei He, Shaowei Wang, Tse-Hsun, Chen, Muhammad Asaduzzaman,
- Abstract要約: 静的プログラムスライシングは、特定の変数に関連するコードを分離するための基本的なソフトウェア工学技術である。
言語モデル(LM)を用いた最近の学習ベースアプローチは、不正確な依存性モデリングと制約のない生成に悩まされている。
そこで我々はSliceformerを提案する。Sliceformerは静的プログラムスライシングを小さな言語モデルを用いてシーケンス・ツー・シーケンス・タスクとして再構成する新しい手法である。
- 参考スコア(独自算出の注目度): 24.26113575281974
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Static program slicing is a fundamental software engineering technique for isolating code relevant to specific variables. While recent learning-based approaches using language models (LMs) show promise in automating slice prediction, they suffer from inaccurate dependency modeling and unconstrained generation, where LMs fail to capture precise data flow relations and produce slices containing hallucinated tokens and statements. To address these challenges, we propose Sliceformer, a novel approach that reformulates static program slicing as a sequence-to-sequence task using small language models such as CodeT5+. Sliceformer introduces two key innovations that directly target the identified limitations. First, to improve dependency modeling, we design dataflow-aware pretraining objectives that leverage data flow graphs (DFG) to teach models data dependencies through dataflow-preserving statement permutation and dataflow-aware span corruption. Second, to eliminate hallucination, we develop a constrained decoding mechanism that enforces both lexical and syntactic constraints. We evaluate Sliceformer on Java and Python program slicing benchmarks, demonstrating consistent improvements over state-of-the-art baselines with up to 22% gain in ExactMatch.
- Abstract(参考訳): 静的プログラムスライシングは、特定の変数に関連するコードを分離するための基本的なソフトウェア工学技術である。
言語モデル(LM)を用いた最近の学習ベースのアプローチでは、スライス予測の自動化が期待できるが、不正確な依存性モデリングと制約のない生成に悩まされ、LMは正確なデータフローの関係を捉えず、幻覚したトークンやステートメントを含むスライスを生成する。
これらの課題に対処するために,CodeT5+のような小さな言語モデルを用いて静的プログラムスライシングをシーケンス・ツー・シーケンスタスクとして再構成する新しい手法であるSliceformerを提案する。
Sliceformerは、特定された制限を直接ターゲットとする2つの重要なイノベーションを紹介している。
まず、依存性モデリングを改善するために、データフローグラフ(DFG)を利用したデータフロー対応事前学習目標を設計し、データフロー保存文の置換とデータフロー対応文の汚損に関するモデル依存性を教える。
第二に、幻覚をなくすために、語彙的制約と構文的制約の両方を強制する制約付き復号機構を開発する。
我々はSliceformerをJavaとPythonのプログラムスライシングベンチマークで評価し、ExactMatchで最大22%向上した最先端のベースラインに対して一貫した改善を実証した。
関連論文リスト
- Relational Probing: LM-to-Graph Adaptation for Financial Prediction [3.7582774908258294]
言語モデルは、テキスト内の金融エンティティ間の関係を識別するために使用することができる。
本稿では,標準言語モデルヘッドをリレーショナルグラフに置き換えるEmphRelational Probingを提案する。
言語モデルの出力はテキストを超えることができ、ダウンストリームモデルのタスク固有のフォーマットに変換できる。
論文 参考訳(メタデータ) (2026-04-11T13:43:56Z) - Beyond Masks: Efficient, Flexible Diffusion Language Models via Deletion-Insertion Processes [41.57128726515332]
DID(Deletion-Insertion Diffusion Language Model)を提案する。
DIDはトークンの削除と挿入を離散拡散過程として厳格に定式化する。
固定長および可変長の設定に対する実験により,MDLMと既存の挿入型LMのベースラインよりもDIDの利点が示された。
論文 参考訳(メタデータ) (2026-03-04T12:53:17Z) - Streaming Operator Inference for Model Reduction of Large-Scale Dynamical Systems [0.2609784101826761]
本稿では,データストリームの逐次到着から縮小モデルを学習するStreaming OpInfを提案する。
提案手法は,メモリ要求を99%以上削減し,次元を31,000倍以上削減しながら,バッチOpInfに匹敵する精度を実現する。
論文 参考訳(メタデータ) (2026-01-17T20:46:47Z) - SLICET5: Static Program Slicing using Language Models with Copy Mechanism and Constrained Decoding [13.61350801915956]
静的プログラムスライシングはソフトウェア工学の基本的な技術である。
ourtoolは静的プログラムスライシングをシーケンス・ツー・シーケンスタスクとして再構成する新しいスライシングフレームワークである。
ourtoolは、最先端のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2025-09-22T03:14:47Z) - Fast Controlled Generation from Language Models with Adaptive Weighted Rejection Sampling [90.86991492288487]
トークンの制約を評価するのは 違法にコストがかかる
LCDは文字列上のグローバル分布を歪め、ローカル情報のみに基づいてトークンをサンプリングすることができる。
我々のアプローチは最先端のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2025-04-07T18:30:18Z) - COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement [80.18490952057125]
反復改良は、複雑なタスクにおける大規模言語モデル(LLM)の能力を高める効果的なパラダイムとして登場した。
我々はこれらの課題を克服するために、コンテキストワイズ順序非依存言語モデリング(COrAL)を提案する。
当社のアプローチでは、管理可能なコンテキストウィンドウ内で複数のトークン依存関係をモデル化しています。
論文 参考訳(メタデータ) (2024-10-12T23:56:19Z) - Unsupervised Pre-training with Language-Vision Prompts for Low-Data Instance Segmentation [105.23631749213729]
低データ体制における教師なし事前学習のための新しい手法を提案する。
最近成功したプロンプト技術に触発されて,言語ビジョンプロンプトを用いた教師なし事前学習法を導入した。
提案手法は,低データ方式のCNNモデルよりも高速に収束し,性能がよいことを示す。
論文 参考訳(メタデータ) (2024-05-22T06:48:43Z) - EPIC: Effective Prompting for Imbalanced-Class Data Synthesis in Tabular Data Classification via Large Language Models [39.347666307218006]
大規模言語モデル (LLM) は、多様なアプリケーションにまたがるテキスト内学習能力を示す。
バランスの取れたデータサンプルと一貫したフォーマットと独自の変数マッピングを併用した新しい手法であるEPICを導入し、不均衡なデータセットであっても、全てのクラスで正確な合成データを生成するのにLLMをガイドする。
論文 参考訳(メタデータ) (2024-04-15T17:49:16Z) - Lexically Aware Semi-Supervised Learning for OCR Post-Correction [90.54336622024299]
世界中の多くの言語における既存の言語データの多くは、非デジタル化された書籍や文書に閉じ込められている。
従来の研究は、あまり良くない言語を認識するためのニューラル・ポスト・コレクション法の有用性を実証してきた。
そこで本研究では,生画像を利用した半教師付き学習手法を提案する。
論文 参考訳(メタデータ) (2021-11-04T04:39:02Z) - Unsupervised Paraphrasing with Pretrained Language Models [85.03373221588707]
教師なし環境で,事前学習した言語モデルを用いて高品質なパラフレーズを生成する訓練パイプラインを提案する。
提案手法は,タスク適応,自己スーパービジョン,動的ブロッキング(Dynamic Blocking)という新しい復号アルゴリズムから構成される。
提案手法は,Quora Question PairとParaNMTの両方のデータセット上で,最先端の性能を達成できることを示す。
論文 参考訳(メタデータ) (2020-10-24T11:55:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。