論文の概要: Why Constrained Updates Still Forget: A Functional-Path Analysis of Continual SFT

• arxiv url: http://arxiv.org/abs/2610.30191v1
• Date: Wed, 21 Oct 2026 03:57:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.080925
• Title: Why Constrained Updates Still Forget: A Functional-Path Analysis of Continual SFT
• Title（参考訳）: 制約のあるアップデートがまだ忘れられない理由:連続SFTの機能パス分析
• Abstract要約: 教師付き微調整は、言語モデルを特定のタスクに適応させるが、以前取得した振る舞いを妨害する可能性がある。 制御方向への更新とともに、古い空間変化を分解する機能パスアカウントを開発する。 これらの知見は, タスクワイズ行動に対する更新レベルの保護と, 明示的な機能的アンカーによる緩和, 軌道評価, 旧/新共同監査とを関連づけるものである。
• 参考スコア（独自算出の注目度）: 42.82614522980862
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Supervised fine-tuning adapts language models to specialized tasks but can disrupt previously acquired behavior. Existing approaches constrain parameters, gradients, or replay objectives, yet the connection between the protected object, the intervening trajectory, and retained outputs remains unclear. We develop a functional-path account that decomposes old-loss changes along realized updates into the controlled direction, gradient staleness, probe mismatch, and finite-step effects. The account yields a conditional refresh budget and identifies the restoring direction supplied by informative replay. Matched QLoRA interventions separate constraint granularity from placement before or after Adam: placement strongly affects retention across the studied code-label audits, whereas the granularity interaction depends on the endpoint. Checkpointed generation separates endpoint recovery from higher sampled-path accuracy, and matched replay schedules reveal loss exposure concealed by final scores. A sequential-task comparison extends this distinction to backward transfer: subspace regularization and projection improve average retention while trading off different old tasks; supervised replay protects both more consistently in this setting. Additional response interfaces distinguish content gains from exact-response retention. These findings connect update-level protection to task-wise behavior and motivate mitigation through explicit functional anchors, trajectory evaluation, and joint old/new auditing.
• Abstract（参考訳）: 教師付き微調整は、言語モデルを特定のタスクに適応させるが、以前取得した振る舞いを妨害する可能性がある。 既存のアプローチでは、パラメータ、勾配、あるいは目的の再生が制限されているが、保護対象間の接続、介在軌跡、および保持された出力は未だ不明である。 制御方向, 勾配安定性, プローブミスマッチ, 有限ステップ効果に即ち, 古い空間変化を分解する機能パスアカウントを開発した。 口座は条件付きリフレッシュ予算を与え、情報再生によって供給される回復方向を特定する。 適合したQLoRAの介入は、Adamの前や後の配置から制約の粒度を分離する:配置は、調査されたコードラベル監査全体の保持に強く影響しますが、粒度の相互作用はエンドポイントに依存します。 チェックポイント生成は、エンドポイントの回復とサンプリングパスの精度を分離し、マッチしたリプレイスケジュールは最終スコアによって隠された損失露光を明らかにする。 サブスペースの正規化とプロジェクションは、異なる古いタスクをトレードオフしながら平均的保持を改善する。 追加のレスポンスインターフェイスは、コンテンツゲインと正確なレスポンスの保持を区別する。 これらの知見は, タスクワイズ行動に対する更新レベルの保護と, 明示的な機能的アンカーによる緩和, 軌道評価, 旧/新共同監査とを関連づけるものである。

関連論文リスト

• Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning [60.75091491636976]
  TreeOPSDは、長距離エージェント強化学習のための、批判のない、木を意識した後部自己蒸留フレームワークである。 複数の競合ベンチマークとモデルスケールでエージェント機能を改善する。
  論文  参考訳（メタデータ） (2026-10-16T09:17:26Z)
• ReplayLens: Auditing Agents' Use of Outcomes [16.745093090677475]
  エージェントがログ化された経験を再利用すると、変更した決定は記録されたスコア、アクション名、記憶中のレコードの位置を反映する。 ReplayLensは、保存された履歴の1つの関係を一度に変更し、残りのインターフェイスを固定し、その結果の判断を計測するブラックボックス監査である。
  論文  参考訳（メタデータ） (2026-09-28T02:56:32Z)
• Self-Confirming Superposition Traps in Reinforcement Learning [62.71685993550818]
  強化学習はエージェントのポリシーによって選択されたデータに基づいて表現し、その結果のリターンを使って次の選択を導く。 これらのデータに対して表現フィッティングがグローバルに最適である場合でも,このループは低リターンポリシーを維持可能であることを示す。
  論文  参考訳（メタデータ） (2026-09-26T21:56:26Z)
• EgoTSR++: Egocentric Spatiotemporal Reasoning for Task Progress Understanding [51.078675806865306]
  VLM(Vision-Language Models)は、静的な視覚的理解において急速に進歩しているが、エゴセントリックなタスクがどのように進行しているかを判断しても信頼性が低い。 EgoTSR(EgoTSR)は,オーダーローバストなタスク・プログレス理解を診断・改善するための統合フレームワークである。
  論文  参考訳（メタデータ） (2026-09-23T09:20:44Z)
• BICPO-VLA: Behavior-Identified Continuation Preference Optimization for Smooth Asynchronous Vision-Language-Action Control [32.93954687398763]
  BICPO-VLAは、リクエスト・ツー・ハンドオフとリクエスト・ツー・ハンドオフのミスマッチのギャップに対処する。 命令対応因果履歴エンコーダは、コマンドがサポートする動作と現在のタスク進捗を識別する。 BICPOは、既知のアウトゴーイングアクションを実際のハンドオフ状態にロールし、行動にマッチした候補に参照相対フロー-DPOを適用する。
  論文  参考訳（メタデータ） (2026-08-14T03:51:27Z)
• MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
  ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。 MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。 長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
  論文  参考訳（メタデータ） (2026-07-14T15:33:44Z)
• Interference and Retention in Continual Learning [0.0]
  新しいタスクの学習を忘れることは、まさに古いタスクに誘導される干渉エネルギーであることを示す。 IGFAはリプレイフリーでフィッシャーフリーな手法で、タスクが整列したときに方向を共有し、衝突時にそれらを保護する。
  論文  参考訳（メタデータ） (2026-07-10T08:48:23Z)
• EVAF: A Test-Retest Protocol for Selective Parametric Consolidation [0.0]
  本稿では,LRA統合のためのEcho-Valence Attractor Field機構であるEVAFを紹介する。 GPT-2 と TinyLlama 全体で、EVAF は高頻度で高サプライズな体験を優先的に統合する。 テスト-再テスト測定では, 凍結, 検索のみ, アンゲートの連続更新ベースラインよりも, 干渉後の動作持続性が強いことが示された。
  論文  参考訳（メタデータ） (2026-06-29T07:53:50Z)
• Geometric-Disentangelment Unlearning [106.99160454669902]
  忘れたサンプルへの勾配は しばしば 保持された知識を傷つける 本稿では,GU(Geometric-disment Unlearning)を提案する。 本手法はプラグ・アンド・プレイであり,既存の勾配に基づくアンラーニング手法と併用することで副作用を軽減できる。
  論文  参考訳（メタデータ） (2025-11-21T09:58:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。