論文の概要: A Unified Model for Cross-Domain Clone Detection via Model Merging
- arxiv url: http://arxiv.org/abs/2608.04215v1
- Date: Tue, 04 Aug 2026 20:32:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.639412
- Title: A Unified Model for Cross-Domain Clone Detection via Model Merging
- Title(参考訳): モデルマージによるクロスドメインクローン検出のための統一モデル
- Abstract要約: 現在のディープラーニング検出器は、トレーニング分布の外で大幅に劣化している。
トレーニングされたチェックポイントのみで動作するポストホック手法のファミリーであるモデルマージについて検討する。
同じベースであるTIESマージは、2つのモデルファミリーと3つのランダムシードで検証された効果的なクロスドメイン検出器を生成する。
- 参考スコア(独自算出の注目度): 9.757638656919832
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The growing diversity of code clone types, from syntactic copies to cross-language semantic clones to AI-generated duplicates, has created a fragmentation crisis in clone detection. Current deep learning detectors are domain specialists that degrade significantly outside their training distribution, with F1 drops exceeding 70% across domains. Deploying multiple specialized models is impractical, yet training a single cross-domain detector requires simultaneous access to all training data. To address this, we investigate model merging, a family of post-hoc techniques that operate solely on trained checkpoints. We evaluate parameter merging with five task-vector methods, architecture merging via greedy layer stitching, and cross-tokenizer alignment across four code models, three benchmarks, and twelve configurations. Same-base TIES merging creates effective cross-domain detectors, validated across two model families and three random seeds, reaching 0.865 combined F1 on UniXcoder, 93% of multi-task performance without any training data at the merging step. WUDI achieves the highest in-distribution combined F1 at 0.899, but TIES generalizes better to unseen AI-generated clones, making it our recommended method. Cross-base merging yields only marginal and high-variance gains across all five methods, indicating that task vector compatibility through a shared pre-trained base is the binding factor for effective merging. Merged detectors also outperform zero-shot code LLMs on GPTCloneBench at lower inference cost and generalize up to 4x better than multi-task training to unseen AI-generated clones, suggesting a trade-off between in-domain performance and OOD robustness. This work provides one of the first systematic empirical studies of model merging for software engineering and a practical recipe for building cross-domain clone detectors.
- Abstract(参考訳): 構文コピーから言語間セマンティッククローン、AI生成コピーに至るまで、コードクローンタイプの多様性が増し、クローン検出における断片化危機が生じた。
現在のディープラーニング検出器は、トレーニングディストリビューションの外で大幅に劣化するドメインスペシャリストであり、F1ドロップはドメイン全体で70%を超える。
複数の特殊なモデルをデプロイするのは現実的ではありませんが、単一のクロスドメイン検出器をトレーニングするには、すべてのトレーニングデータに同時アクセスする必要があります。
そこで本研究では,訓練されたチェックポイントのみで動作するポストホック手法であるモデルマージについて検討する。
我々は,5つのタスクベクタメソッドとパラメータマージ,グレディ層縫合によるアーキテクチャマージ,および4つのコードモデル,3つのベンチマーク,12のコンフィグレーションにおけるクロストケナイザアライメントを評価した。
同一ベースのTIESマージは、2つのモデルファミリーと3つのランダムシードで検証された効果的なクロスドメイン検出器を生成し、UniXcoder上で0.865の組み合わせF1、マージステップでのトレーニングデータなしでのマルチタスクパフォーマンスの93%に達する。
WUDI は F1 を0.899 で最大に分配するが、TIES はAI 生成クローンに最適化され、推奨手法となっている。
クロスベースマージ(英語版)は5つの手法の全てで限界利得と高分散利得しか得られず、共有事前学習ベースによるタスクベクトルの互換性が効果的なマージの結合因子であることを示す。
マージされた検出器はまた、GPTCloneBench上のゼロショットコードLLMを低い推論コストで上回り、AI生成クローンを見えないようにマルチタスクトレーニングよりも最大4倍の速度で一般化し、ドメイン内のパフォーマンスとOOD堅牢性の間のトレードオフを示唆している。
この研究は、ソフトウェア工学のためのモデルマージに関する最初の体系的な実証的研究の1つであり、クロスドメインクローン検出器を構築するための実践的なレシピを提供する。
関連論文リスト
- MergeSE: Post-Hoc Model Merging for Software Engineering Tasks Without Retraining [9.757638656919832]
我々は、HFaceエンコーダチェックポイントのトレーニング不要モデルマージのためのオープンソースのCLIおよびWebツールである textbfMergeSE を提示する。
MergeSEは、9つのタスクタイプの組み込みレジストリを通じて、SE分類をより広くサポートする。
TIES、DARE-TIES、Wudi、PCB、平均の5つのマージアルゴリズムをサポートしている。
論文 参考訳(メタデータ) (2026-08-04T19:39:02Z) - ChipMATE: Multi-Agent Training via Reinforcement Learning for Enhanced RTL Generation [55.947962672433675]
ChipMATEは、RTL生成のための最初の自己学習型マルチエージェントフレームワークである。
ChipMATEは産業的な実践に触発され、VerilogエージェントとPythonのリファレンスモデルエージェントをペアにし、相互に出力を検証する。
ChipMATEは、VerilogEval V2で75.0%と80.1%パス@1を4Bと9Bベースモデルで達成している。
論文 参考訳(メタデータ) (2026-05-13T01:04:21Z) - Coupling Models for One-Step Discrete Generation [50.37847093567075]
カップリングモデル(英: Coupling Models)は、離散列とガウス列の間の直接結合を学習する一段階の離散生成モデルである。
単純なデータ間結合と手動で特定したデータ間結合による複雑な連続フローを回避する。
LM1Bテキスト生成パープレキシティを最低パープレキシティ動作ポイントで33%削減する。
論文 参考訳(メタデータ) (2026-05-08T03:40:39Z) - Beyond Perplexity: Character Distribution Signatures and the MDTA Benchmark for AI Text Detection [0.34998703934432673]
トレーニング不要のAIテキスト検出方法は、主にモデルログ確率に依存し、BinocularsやDNA-DetectLLMといったアプローチを通じて強力なパフォーマンスを達成する。
文字分布シグネチャに基づく代替検出信号を導入する。
我々は、大規模ドメインバランスのコーパスに基づいて訓練されたAIモデルが、人間がドメインに特化された分布を示す一方で、グローバルなキャラクタパターンを近似していることを示す理論的基盤を提供する。
論文 参考訳(メタデータ) (2026-05-03T00:10:15Z) - CORE: Robust Out-of-Distribution Detection via Confidence and Orthogonal Residual Scoring [9.25889614321249]
ディープラーニングモデルを確実にデプロイするためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。
本研究では,各部分空間を独立にスコアリングして2つの信号をアンタングル化し,それらを正規化和で結合するCOREを提案する。
COREは5つのアーキテクチャと5つのベンチマーク構成で、競争力や最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-03-18T21:23:54Z) - TriFusion-LLM: Prior-Guided Multimodal Fusion with LLM Arbitration for Fine-grained Code Clone Detection [15.824017693868045]
Full Modelはコードクローン検出のためのマルチモーダル融合フレームワークである。
推論コストを実用的に保ちながら、きめ細かいクローン種の識別を改善する。
Full Modelは、きめ細かいCCDのための効果的なパフォーマンスコストトレードオフを実現する。
論文 参考訳(メタデータ) (2026-03-16T09:08:07Z) - $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
$V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。
V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。
V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
論文 参考訳(メタデータ) (2026-03-04T17:22:16Z) - ShortcutBreaker: Low-Rank Noisy Bottleneck with Global Perturbation Attention for Multi-Class Unsupervised Anomaly Detection [59.89803740308262]
ShortcutBreakerはMUADタスクのための新しい統合された機能再構成フレームワークである。
ショートカットの問題に対処する2つの重要なイノベーションが特徴だ。
提案手法は,4つのデータセットに対して,99.8%,98.9%,90.6%,87.8%の顕著な画像レベルのAUROCを実現する。
論文 参考訳(メタデータ) (2025-10-21T06:51:30Z) - DiffuCoder: Understanding and Improving Masked Diffusion Models for Code Generation [68.19756761027351]
拡散大言語モデル(dLLM)は自己回帰(AR)モデルの魅力的な代替品である。
本研究は,それらの認知過程と強化学習手法について考察する。
我々の研究は、dLLM生成のメカニズムについて深い洞察を与え、効果的な拡散ネイティブなRLトレーニングフレームワークを提供します。
論文 参考訳(メタデータ) (2025-06-25T17:35:47Z) - An Empirical Study of Multimodal Model Merging [148.48412442848795]
モデルマージは、異なるタスクでトレーニングされた複数のモデルを融合してマルチタスクソリューションを生成するテクニックである。
我々は、モダリティ固有のアーキテクチャのビジョン、言語、およびクロスモーダルトランスフォーマーをマージできる新しい目標に向けて研究を行っている。
本稿では,重み間の距離を推定し,マージ結果の指標となる2つの指標を提案する。
論文 参考訳(メタデータ) (2023-04-28T15:43:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。