論文の概要: Temporal Adaptive Fine-Tuning for Code Comprehension
- arxiv url: http://arxiv.org/abs/2610.19970v1
- Date: Wed, 14 Oct 2026 10:53:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.107966
- Title: Temporal Adaptive Fine-Tuning for Code Comprehension
- Title(参考訳): コード理解のための時間適応微調整
- Abstract要約: TAFT(Temporal Adaptive Fine-Tuning)は、リポジトリの遷移を監督として扱う新しい適応手法である。
TAFTは遅延ベースラインとバッチベースラインの両方を一貫して上回る。
- 参考スコア(独自算出の注目度): 2.9678353363584073
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Repository-level code comprehension question answering (QA) supports developer reasoning over functionality and usage distributed across codebases. However, repository-specialized large language models (LLMs) can become misaligned as code evolves. We study this challenge as temporal repository adaptation: acquiring new knowledge, suppressing obsolete, retaining still-valid, and preserving semantically neighboring knowledge. Existing retrieval, fine-tuning, and model-editing methods address only parts of this problem. We propose Temporal Adaptive Fine-Tuning (TAFT), a novel adaptation approach that treats repository transitions as supervision. TAFT derives temporally grounded QA data from repository transitions, pairs newly valid with obsolete knowledge through preference optimization, and replays transition-conditioned retention examples to preserve still-valid knowledge. We evaluate TAFT on an augmented temporal SWE-bench dataset comprising 255,295 QA entries across ten temporal slices, comparing deferred (Baseline), per-slice retrained (Baseline-Batched), and variants with knowledge anchors along four dimensions: updated knowledge, obsolete-answer suppression, retention, and neighbor stability. TAFT consistently outperforms both the deferred and batched baselines, with an average relative improvement of 18% in updated/suppressed knowledge accuracy, doubled retention accuracy, and roughly 1.5 times the neighbor accuracy. With directly supplied knowledge anchors, TAFT-KANT further improves mean updated/suppressed, retention, and neighbor accuracy over TAFT by 3.55%, 8.35%, and 13.00%, respectively. Overall, TAFT demonstrates its effectiveness across all evaluated areas, effectively enabling code comprehension QA alignment with repository evolution.
- Abstract(参考訳): リポジトリレベルのコード理解質問応答(QA)は、コードベースに分散した機能や使用に関する開発者の推論をサポートする。
しかし、リポジトリに特化された大規模言語モデル(LLM)は、コードが進化するにつれて不一致となる。
我々は,この課題を,新たな知識の獲得,陳腐化の抑制,有効性維持,意味的に隣接する知識の保存という,時間的リポジトリ適応として検討する。
既存の検索法、微調整法、モデル編集法は、この問題の一部にのみ対処する。
本稿では,リポジトリの遷移を監督として扱う新しい適応手法であるTemporal Adaptive Fine-Tuning(TAFT)を提案する。
TAFTは、リポジトリの遷移から時間的に基底付けられたQAデータを導出し、優先順位最適化によって新しいペアが廃れた知識で有効になり、遷移条件の保持例を再生して、まだ有効な知識を保存する。
TAFTは10時間スライスに255,295個のQAエントリからなる拡張時空間SWEベンチデータセットを用いて評価し、遅延(Baseline)、スライス毎のリトレーニング(Baseline-Batched)、知識アンカー付き変種(更新知識、陳腐化・抑止、隣接安定性)を比較した。
TAFTは遅延ベースラインとバッチベースラインの両方を一貫して上回り、更新/抑圧された知識の精度が平均18%向上し、保持精度が倍増し、近隣の精度の約1.5倍になった。
直接供給される知識アンカーにより、TAFT-KANTは平均更新/抑制、保持、隣接する精度をそれぞれ3.55%、8.35%、13.00%改善する。
全体として、TAFTは、すべての評価された領域でその効果を示し、コードの理解とリポジトリの進化を効果的にQAアライメントを可能にします。
関連論文リスト
- Trust the Batch, On- or Off-Policy: Adaptive Policy Optimization for RL Post-Training [50.86545293331458]
強化学習は、教師付き学習よりも構造的に難しい。
本稿では,固定クリッピングを政策比率の正規化された有効サンプルサイズに置き換える,単純かつ効果的なバッチ適応目的を提案する。
論文 参考訳(メタデータ) (2026-05-12T16:44:47Z) - Learning from Many and Adapting to the Unknown in Open-set Test Streams [24.690368986775848]
大規模言語モデル(LLM)は、再利用可能な表現と柔軟な推論を通じてタスクを一般化する。
SyCoはRac1およびMAPK経路を介して低ランクアダプタを更新するパラメータ効率適応法である。
論文 参考訳(メタデータ) (2026-04-01T06:23:24Z) - Spectral Imbalance Causes Forgetting in Low-Rank Continual Adaptation [58.3773038915023]
継続的な学習は、事前訓練されたモデルを、以前取得した知識を忘れずにシーケンシャルなタスクに適応することを目的としている。
既存のほとんどのアプローチは、現在のタスク固有の更新が以前取得した知識を自然に保存するプロパティを考慮せずに、継続的な学習を過去の更新への干渉を避けるものとして扱う。
本稿では,視覚言語モデルで使用される標準深度ドットと互換性のある一階述語法を用いてこの問題に対処する。
論文 参考訳(メタデータ) (2026-01-31T13:27:02Z) - InTAct: Interval-based Task Activation Consolidation for Continual Learning [8.228364777296195]
Intactは、パラメータを凍結したり過去のデータを保存したりすることなく、共有レイヤで機能的な振舞いを保存する。
そうすることで、Intactはパラメータ値を直接制限するのではなく、重要なニューロンの機能的役割を安定化する。
さまざまなドメイン-インクリメンタルベンチマークを通じて、InTActは表現のドリフトを一貫して削減し、パフォーマンスを向上する。
論文 参考訳(メタデータ) (2025-11-21T17:36:12Z) - Probing Pre-trained Language Models on Code Changes: Insights from ReDef, a High-Confidence Just-in-Time Defect Prediction Dataset [0.0]
本稿では,22の大規模C/C++プロジェクトから得られた関数レベル修正の信頼性の高いベンチマークであるReDefを紹介する。
欠陥ケースはコミットの反転によって固定され、クリーンケースはポストホック履歴チェックによって検証される。
このパイプラインは3,164の欠陥と10,268のクリーンな修正をもたらし、既存のリソースよりも信頼性の高いラベルを提供する。
論文 参考訳(メタデータ) (2025-09-11T07:07:11Z) - Harnessing Temporal Databases for Systematic Evaluation of Factual Time-Sensitive Question-Answering in Large Language Models [38.12930048471948]
TDBenchは、タイムセンシティブな質問-回答ペアを体系的に構築する新しいベンチマークである。
時間精度と呼ばれるきめ細かい評価基準は、モデル説明における時間参照の有効性を評価する。
現代のLarge Language Modelsの実験では、スケーラブルで包括的なTSQA評価を実現する方法が示されています。
論文 参考訳(メタデータ) (2025-08-04T04:27:06Z) - RePaCA: Leveraging Reasoning Large Language Models for Static Automated Patch Correctness Assessment [0.0]
本稿では,Large Language Models (LLM) を利用した新しい静的APCA手法であるRePaCAを紹介する。
提案手法は,83.1%の精度と84.8%のF1スコアで最先端の性能を実現する。
論文 参考訳(メタデータ) (2025-07-30T11:21:09Z) - Test-Time Adaptation with Binary Feedback [50.20923012663613]
BiTTAは、不確実なサンプルに対するバイナリフィードバック誘導適応と、確実な予測に対する合意に基づく自己適応のバランスをとる、新しいデュアルパス最適化フレームワークである。
実験の結果、BiTTAは最先端のベースラインよりも13.3%の精度向上を実現している。
論文 参考訳(メタデータ) (2025-05-24T05:24:10Z) - Adaptive Retention & Correction: Test-Time Training for Continual Learning [114.5656325514408]
連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。
アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。
ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
論文 参考訳(メタデータ) (2024-05-23T08:43:09Z) - Improving information retention in large scale online continual learning [99.73847522194549]
オンライン連続学習は、既存の知識を維持しながら、新しいデータに効率的に適応することを目的としている。
最近の研究は、リプレイバッファが無制限であっても、大規模なOCLでは情報保持が問題であり続けていることを示唆している。
非定常目標に対する最適化を改善するため,移動平均の手法群を提案する。
論文 参考訳(メタデータ) (2022-10-12T16:59:43Z) - Temporal-Difference Value Estimation via Uncertainty-Guided Soft Updates [110.92598350897192]
Q-Learningは、制御タスクを実行するポリシーを学ぶのに効果的であることが証明されている。
推定ノイズは、政策改善ステップにおける最大演算子の後、バイアスとなる。
UQL(Unbiased Soft Q-Learning)は、2つのアクション、有限状態空間からマルチアクション、無限状態マルコフ決定プロセスまで、EQLの作業を拡張する。
論文 参考訳(メタデータ) (2021-10-28T00:07:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。