論文の概要: Frequency-Aware Continual Learning for Smart Contract Vulnerability Detection with Large Language Models
- arxiv url: http://arxiv.org/abs/2608.19680v1
- Date: Thu, 20 Aug 2026 06:14:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.47481
- Title: Frequency-Aware Continual Learning for Smart Contract Vulnerability Detection with Large Language Models
- Title(参考訳): 大規模言語モデルを用いたスマートコントラクト脆弱性検出のための周波数認識連続学習
- Authors: Tenghui Huang, Jiawen Kang, Dongning Liu, Changyan Yi, Chengjun Cai, Anjia Yang, Li Li, Dong In Kim,
- Abstract要約: 言語モデル(LLM)によるスマートコントラクトの脆弱性検出は、3つの因果関係の課題に直面している。
新しい脆弱性カテゴリにはパラメータ効率の適応が要求される。
第三に、タスク毎のアダプタを共有バックボーンでトレーニングすることは、以前に学習した脆弱性を壊滅的に忘れてしまう。
そこで我々は,各ステージが1つの課題に対処し,次の課題に投入する3段階パイプラインを提案する。
- 参考スコア(独自算出の注目度): 20.782246700088077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Smart contract vulnerability detection with Large Language Models (LLMs) faces three causally linked challenges. First, new vulnerability categories demand parameter-efficient adaptation, since full retraining is prohibitive for sequentially arriving tasks. Second, training per-task adapters on a shared backbone causes catastrophic forgetting of previously learned vulnerabilities. Third, the resulting multiplicity of adapters must be consolidated into a single model, since task identity is unknown at inference time. Each challenge arises directly from the solution to its predecessor, making an integrated framework essential. We propose a three-stage pipeline in which each stage addresses one challenge and feeds into the next. The adaptation stage uses Frequency-Aware Low-Rank Adaptation (FA-LoRA), which performs adaptation in the Fourier domain with per-frequency importance gates, requiring only 0.4% trainable parameters while outperforming standard LoRA and QLoRA. The continual learning stage applies Forget-Aware Replay (FAR), which uses these frequency gates to estimate per-sample forgetting risk via loss dynamics and prioritizes vulnerable knowledge for rehearsal, achieving an average Micro-F1 of 0.8022 across sequential tasks. The deployment stage employs Anchor-Protected Progressive Merging (APPM), which exploits the asymmetric generalization produced by FAR training to identify the strongest-generalizing adapter as an anchor and consolidates all adapters into a single model via anchor-protected weighted merging with frequency-domain gate competition. APPM achieves a Micro-F1 of 0.8085, within 2.7% of the independent per-task upper bound, at a merge cost of 156 ms and no additional runtime memory. Experiments on DIVE confirm the framework effectively addresses all three challenges for evolving blockchain ecosystems.
- Abstract(参考訳): 言語モデル(LLM)によるスマートコントラクトの脆弱性検出は、3つの因果関係の課題に直面している。
まず、新しい脆弱性カテゴリにはパラメータ効率の適応が要求される。
第二に、共有バックボーン上でタスク毎のアダプタをトレーニングすることは、以前に学習した脆弱性を壊滅的に忘れてしまう。
第三に、結果として生じるアダプタの多重性は、推論時にタスクの同一性が不明であるため、単一のモデルに統合されなければならない。
それぞれの課題はソリューションから前者への直接的に発生し、統合されたフレームワークが不可欠になる。
そこで我々は,各ステージが1つの課題に対処し,次の課題に投入する3段階パイプラインを提案する。
適応段階は周波数対応低ランク適応 (FA-LoRA) を使用しており、標準のLoRAとQLoRAを上回りながら、トレーニング可能なパラメータをわずか0.4%しか必要としない。
連続的な学習段階はForget-Aware Replay (FAR) で、これらの周波数ゲートを使用して損失ダイナミクスによるリスクの回避を見積もり、リハーサルのための脆弱な知識を優先順位付けし、シーケンシャルなタスクで平均0.8022マイクロF1を達成する。
展開段階では、Anchor-Protected Progressive Merging (APPM) が採用され、FARトレーニングによって生じる非対称な一般化を利用して、最強の一般化アダプタをアンカーとして識別し、アンカー保護重み付けマージと周波数領域ゲート競合によって全てのアダプタを単一モデルに統合する。
APPMは、タスクごとのアッパーバウンドの2.7%の0.8085マイクロF1を、マージコスト156msと追加のランタイムメモリなしで達成している。
DIVEの実験では、ブロックチェーンエコシステムを進化させる上での3つの課題に、このフレームワークが効果的に対処していることが確認されている。
関連論文リスト
- S$^3$AM: A Single-Stream SAM with Reliability-Calibrated Frequency Adapter for Multi-modal Salient Object Detection [74.15663758681849]
シングルストリームフレームワークは、信頼性キャリブレーションされた周波数適応をMSOD用のSAMバックボーンに組み込む。
RGB-D、RGB-T、RGB-NIRの正当性オブジェクト検出ベンチマークの実験により、提案フレームワークが競合性能を達成することを確認した。
論文 参考訳(メタデータ) (2026-08-18T08:05:00Z) - TAME: Test-Time Adversarial Prompt Tuning via Mixture-of-Experts for Vision-Language Models [76.92890872338235]
大規模事前学習型ビジョンランゲージモデル(VLM)は、強いゼロショット一般化を示すが、知覚不能な逆方向の摂動に対して非常に脆弱である。
ダウンストリームタスク固有のリトレーニングを必要とせずに堅牢性を高めるため,新しいテストタイムディフェンスであるTAMEを提案する。
論文 参考訳(メタデータ) (2026-05-17T18:07:08Z) - When to Retrieve During Reasoning: Adaptive Retrieval for Large Reasoning Models [13.891522069967507]
本稿では、推論対応検索フレームワークReaLM-Retrieveを紹介する。
ステップレベルの不確実性検出は、トークンや文レベルではなく、推論ステップで知識ギャップを識別する。
検索介入政策は、外部証拠が進行中の推論に最大限の利益をもたらすことを学習する。
論文 参考訳(メタデータ) (2026-04-29T13:15:44Z) - MI$^2$DAS: A Multi-Layer Intrusion Detection Framework with Incremental Learning for Securing Industrial IoT Networks [47.386868423451595]
MI$2$DASは、異常に基づく階層的なトラフィックプーリングとオープンセット認識を統合する多層侵入検知フレームワークである。
Edge-IIoTsetデータセットで実施された実験は、すべてのレイヤで強力なパフォーマンスを示している。
これらの結果は、IIoTセキュリティを強化するための効果的でスケーラブルで適応的なフレームワークとして、MI$2$DASを示している。
論文 参考訳(メタデータ) (2026-02-27T09:37:05Z) - Make Anything Match Your Target: Universal Adversarial Perturbations against Closed-Source MLLMs via Multi-Crop Routed Meta Optimization [49.30177419529011]
我々は、より厳密な設定であるユニバーサル・ターゲティング・トランスファラブル・アタック(UTTAA)について研究する。
単一の摂動は、未知の商用MLLMをまたいで、指定されたターゲットに対する任意の入力を常に制御しなければならない。
本稿では,M CRMO-Attackを提案する。
論文 参考訳(メタデータ) (2026-01-30T17:03:24Z) - OpenRT: An Open-Source Red Teaming Framework for Multimodal LLMs [36.57820295876294]
MLLMの安全性評価のための統一的,モジュール型,高スループットのRed-teamingフレームワークであるOpenRTを紹介した。
OpenRTのコアとなるのは,5次元にわたるモジュール分離を可能にする対角カーネルを導入することで,自動化された再チームのパラダイムシフトだ。
このフレームワークは、ホワイトボックス勾配、マルチモーダル摂動、高度なマルチエージェント進化戦略など、37の多様な攻撃手法を統合している。
論文 参考訳(メタデータ) (2026-01-04T16:41:33Z) - Trajectory Guard -- A Lightweight, Sequence-Aware Model for Real-Time Anomaly Detection in Agentic AI [0.0]
トラジェクトリガードはシームズ・リカレント・オートエンコーダであり、コントラスト学習によるタスク・トラジェクトリアライメントと、再構成によるシーケンシャル・アライメントを共同で学習するハイブリッド・ロス機能を備えている。
32ミリ秒のレイテンシで、当社のアプローチは LLM Judge のベースラインよりも17-27倍高速で動作し、実運用環境におけるリアルタイムの安全性検証を可能にします。
論文 参考訳(メタデータ) (2026-01-02T00:27:11Z) - A transfer learning approach for automatic conflicts detection in software requirement sentence pairs based on dual encoders [5.780557526613627]
本稿では,SBERTとSimCSEをベースとしたTransferable Software Requirement Conflict Detection Frameworkを提案する。
提案したフレームワークは、マクロF1と重み付きF1のスコアをドメイン内設定で10.4%改善し、クロスドメインシナリオでマクロF1を11.4%向上させる。
論文 参考訳(メタデータ) (2025-11-28T09:16:35Z) - Hierarchical Spatio-Temporal Attention Network with Adaptive Risk-Aware Decision for Forward Collision Warning in Complex Scenarios [7.238050152381639]
本稿では,階層型時空間注意ネットワークと動的リスク閾値調整アルゴリズムを併用した前方衝突警報フレームワークを提案する。
マルチシナリオデータセットでテストされ、完全なシステムは高い有効性を示し、F1スコアは0.912、偽警報率は8.2%、警告リード時間は2.8秒である。
論文 参考訳(メタデータ) (2025-11-25T05:57:29Z) - Adaptive Memory Networks with Self-supervised Learning for Unsupervised
Anomaly Detection [54.76993389109327]
教師なし異常検出は、通常のデータのみをトレーニングすることで、目に見えない異常を検出するモデルを構築することを目的としている。
本稿では,これらの課題に対処するために,自己教師付き学習(AMSL)を用いた適応記憶ネットワーク(Adaptive Memory Network)を提案する。
AMSLには、一般的な正規パターンを学ぶための自己教師付き学習モジュールと、リッチな特徴表現を学ぶための適応型メモリ融合モジュールが組み込まれている。
論文 参考訳(メタデータ) (2022-01-03T03:40:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。