論文の概要: When Can First-Order Models of Fine-Tuning Bound Forgetting?

• arxiv url: http://arxiv.org/abs/2609.32818v1
• Date: Sat, 26 Sep 2026 17:45:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 19:59:18.392208
• Title: When Can First-Order Models of Fine-Tuning Bound Forgetting?
• Title（参考訳）: ファインチューニング境界モデルの構築はいつ可能か?
• Abstract要約: 新しいデータに言語モデルを微調整することで、保持すべき事実を忘れることができる。 細調整された実行の開始時に得られた測定値が、保護された各事実に対して、実行がモデルにそれを忘れさせる確率を制限できるかどうかを問う。
• 参考スコア（独自算出の注目度）: 3.449257598670055
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fine-tuning a language model on new data can make it forget facts that it should keep. We ask whether measurements taken at the start of a fine-tuning run can bound, for each protected fact, the probability that the run makes the model forget it. In LoRA fine-tuning with stochastic gradient descent on models from 0.6B to 14B parameters, a first-order response model estimated by finite-difference probes predicts changes of per-fact margins with correlation 0.974-0.998. Predictions of forgetting built on this model nevertheless failed, because forgetting requires parameter changes far outside the region in which the model was validated. The probes can, however, bound the probability that a margin first falls below a boundary near zero: we derive Freedman and Azuma first-passage bounds for a linear surrogate of the margin and test on new runs whether they hold for the model. The bounds contain a term R that measures how much the response coefficients change during the run. The simplified Freedman bound, which sets R = 0, certified most facts but was violated in 14 of 112 conditions, and every fact on which it was violated had R >= a, where a is the distance of the fact's margin to the boundary. The complete Freedman bound certifies only facts with R < a, and it held in every condition. On the violated facts, the spread of the margin across test runs was a median of 14.6 times the prediction of the response model, so the failures are breakdowns of the model, and in our data they occurred only where R >= a. We found this pattern post hoc and tested it in two preregistered confirmatory studies with 43 new conditions: the complete bound held in all of them, and the simplified bound failed there on only 3 facts, each with R >= a. First-order models of fine-tuning can thus bound forgetting on the facts whose response coefficients change by less than their distance to the boundary.
• Abstract（参考訳）: 新しいデータに言語モデルを微調整することで、保持すべき事実を忘れることができる。 微調整実行開始時の計測値がバウンド可能かどうかを問う。各保護された事実に対して、実行がモデルにそれを忘れさせる確率を問う。 パラメータ0.6Bから14Bのモデルに対する確率勾配勾配のLoRA微調整において、有限差分プローブによって推定される一階応答モデルは、相関 0.974-0.998 でファクトマージンの変化を予測する。 モデルが検証された領域のはるかに外にあるパラメータの変更を必要とするため、このモデル上に構築された忘れの予測は失敗した。 しかしながら、プローブは、マージンがゼロに近い境界より先に落ちる確率を有界にすることができる: マージンの線形サロゲートに対して、フリードマンと東のファーストパス境界を導出し、モデルが保持するかどうかを新しいランでテストする。 境界はランニング中に反応係数がどれだけ変化するかを測定する項Rを含む。 R = 0 とする単純化されたフリードマン境界は、ほとんどの事実を証明したが、112の条件のうち14の条件で違反しており、それが破られたすべての事実は R >= a であり、a は事実の限界から境界までの距離である。 完全なフリードマン境界は、R < a の事実のみを証明し、すべての条件で保持する。 テスト実行におけるマージンの拡散は, 反応モデルの14.6倍の中央値であったため, 故障はモデルの故障であり, われわれのデータではR>=aであった。 このパターンをポストホックで発見し,43の条件で事前登録された2つの確認実験で検証した: 完全境界はすべての条件で保持され, 単純化された境界は3つの事実で失敗し, それぞれがR>=aであった。 したがって、微調整の1次モデルでは、応答係数が境界までの距離より小さいという事実を忘れることが可能である。

関連論文リスト

• An Omitted Mode Is a Rare Rule: The Sampling-Verification Danger Law in Continuous Code World Models [0.0]
  GPT-5.xは111モードを含む合成ドローのうち105個の省略された1Dクランプを修復する。 2D領域では、ルールを回復するアーティファクトは存在しない(0/156)。 我々は、入場規則のクラスを、演奏中の全てのサンプルと正確に一致しているが、無害であることを示すので、識別性は楽器の計測可能な特性である。
  論文  参考訳（メタデータ） (2026-08-18T16:09:51Z)
• Cross-Entropy Risk Estimation for Language Models: Inconsistency Must Be Dense, and the Holdout Method Is No Exception [0.0]
  トポロジカルな事実から、一人当たりのクロスエントロピーリスクを見積もるのは困難である。 不整合推定は、予測シーケンス長の双方の境界の下で持続する。 前もって固定された閾値以下で リスクを報告すれば 整合性は回復する
  論文  参考訳（メタデータ） (2026-08-16T15:24:52Z)
• Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
  クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。 共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。 このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
  論文  参考訳（メタデータ） (2026-08-08T13:22:14Z)
• Test Set Sizing for the Ridge Regression [51.56484100374058]
  訓練行数mが大きくなる限界において、リッジ回帰のための理想的な列車/試験分割を高精度に導出する。 このような分割が、大規模なデータ制限下で機械学習モデルに対して数学的に計算されるのは、これが初めてである。
  論文  参考訳（メタデータ） (2025-04-27T13:17:18Z)
• Minimax Instrumental Variable Regression and $L_2$ Convergence Guarantees without Identification or Closedness [71.42652863687117]
  インストゥルメンタル変数(IV)回帰の非パラメトリック推定について検討した。 固定IV解に収束できる新しいペナル化ミニマックス推定器を提案する。 ラックス条件下での推定値に対して強い$L$誤差率を導出する。
  論文  参考訳（メタデータ） (2023-02-10T18:08:49Z)
• Training Normalizing Flows with the Precision-Recall Divergence [73.92251251511199]
  特定精度リコールトレードオフを達成することは、em PR-divergencesと呼ぶ家族からの-divergencesの最小化に相当することを示す。 本稿では, 正規化フローをトレーニングして, 偏差を最小化し, 特に, 所与の高精度リコールトレードオフを実現する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2023-02-01T17:46:47Z)
• Benign-Overfitting in Conditional Average Treatment Effect Prediction with Linear Regression [14.493176427999028]
  線形回帰モデルを用いて条件平均処理効果(CATE)の予測における良性過剰適合理論について検討した。 一方,IPW-learnerは確率スコアが分かっていればリスクをゼロに収束させるが,T-learnerはランダムな割り当て以外の一貫性を達成できないことを示す。
  論文  参考訳（メタデータ） (2022-02-10T18:51:52Z)
• Variational Bayesian Unlearning [54.26984662139516]
  本研究では, ベイズモデルの学習を, 消去する訓練データの小さな部分集合から, ほぼ非学習する問題について検討する。 消去されたデータから完全に学習されていないデータと、過去の信念を完全に忘れていないデータとをトレードオフする証拠を最小化するのと等価であることを示す。 VI を用いたモデルトレーニングでは、完全なデータから近似した(正確には)後続の信念しか得られず、未学習をさらに困難にしている。
  論文  参考訳（メタデータ） (2020-10-24T11:53:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。