論文の概要: What Breaks and What Comes Back: Capability Damage and Recovery in Depth-Pruned Small Language Models

• arxiv url: http://arxiv.org/abs/2611.00877v1
• Date: Sat, 31 Oct 2026 12:25:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.438375
• Title: What Breaks and What Comes Back: Capability Damage and Recovery in Depth-Pruned Small Language Models
• Title（参考訳）: 機能障害と回復 - 深層処理された小言語モデル
• Abstract要約: 深さのプルーニングにより、Transformerブロック全体が取り除かれ、言語モデルがより小さく、より高速になる。 ヒーリングと呼ばれる短い微調整で、何が戻ってくるかが決定される。 これをエージェントとして使用する小さなモデルに対して測定する。
• 参考スコア（独自算出の注目度）: 0.3848364262836075
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Depth pruning removes whole Transformer blocks to make a language model smaller and faster, but the damage is not spread evenly across what the model can do, and a short fine-tuning run, called healing, decides what comes back. We measure this for small models used as agents. Four instruction-tuned models of 1.2-1.7B parameters (Llama-3.2-1B, Qwen2.5-1.5B, SmolLM2-1.7B and OLMo-2-1B) are pruned and healed, and six capabilities are tracked: structured output, function calling, instruction following, mathematical reasoning, safety refusal and knowledge. Three results hold across the families. First, function calling and math collapse in every model (retention 0.00-0.07 of the unpruned score), and the order in which capabilities break agrees closely across the four (Kendall's W = 0.92; 0.62 after correcting for chance floors). Second, which parameters are trained matters as much as which data: fully tuning the last three blocks instead of adding low-rank adapters to all blocks costs up to 0.18 in capped mean retention on three families, and one 300k-token pilot per scope detects this. Third, we test a planner that allocates a 1M-token healing budget from 21 short pilot heals. At a fixed budget it raises the weakest capability on two families, although only one of these gains survives a test that also resamples training seeds. Once its 3.48M pilot tokens are counted, uniform healing with the same total number of training tokens matches or beats every planned variant on every family and retains math significantly better on three of them in an item-level test (on one when seeds are also resampled). Healing longer is a strong and simple baseline that planned recovery must beat. Code, per-item predictions and every result are public.
• Abstract（参考訳）: 深さプルーニング(depth pruning)は、Transformerブロック全体を削除して、言語モデルをより小さく、より速くするが、そのダメージはモデルができること全体に均等に分散せず、ヒーリングと呼ばれる短い微調整実行によって、何が返ってくるかを決定する。 これをエージェントとして使用する小さなモデルに対して測定する。 1.2-1.7Bパラメータの4つの命令調整モデル(Llama-3.2-1B、Qwen2.5-1.5B、SmolLM2-1.7B、OLMo-2-1B)が切断・修復され、構造化出力、関数呼び出し、命令追従、数学的推論、安全性の拒絶、知識の6つの能力が追跡される。 3つの結果が家族に当てはまる。 まず、すべてのモデルで関数呼び出しと数学が崩壊し(保持スコアの0.00-0.07)、4つのモデルで機能停止の順序は近い(ケンドールのW = 0.92; 0.62)。 第二に、どのパラメータがデータと同じくらい訓練されているか。すべてのブロックに低ランクのアダプタを追加する代わりに、最後の3ブロックを完全に調整するには、3つのファミリーの平均保持期間が最大0.18コストで、スコープ毎に300kのパイロットがこれを検出する。 第3に、21の短いパイロットヒールから100万の治癒予算を割り当てるプランナーをテストする。 固定予算では2つのファミリーで最も弱い能力を発揮するが、そのうちの1つだけが種子を採取するテストで生き残る。 3.48Mのパイロットトークンが数えられると、同じ数のトレーニングトークンが全ての家族の計画された変種と一致したり、打ち負かされる。 より長く治癒することは、計画された回復が打ち負かさなければならない、強力で単純なベースラインです。 コード、イテムごとの予測、すべての結果は公開されています。

関連論文リスト

• Human Interventions as Labels: Localizing, Steering, and (Sometimes) Editing the Computations Behind LLM Agent Failures [41.99844472131922]
  本研究では,視覚障害者の判断に対して,ルールに基づく監督者のラベルを付して,制御されたエージェント環境を1つの障害で調査する。 第一に、w-vs-act決定は、すべての資格を持つ家族に因果的ローカライズ可能である。 第二に、オーバーエイキングには2つのメカニスティックなシグネチャがある: 4つのファミリーでは、モデルは明らかにその要求が曖昧であることを知っている。
  論文  参考訳（メタデータ） (2026-10-15T11:27:19Z)
• PivotOPD: Learning to Recover from Pivotal Mistakes in Multi-Turn Agents [47.98297005764724]
  オンライン蒸留は、言語エージェントの訓練に有望なアプローチである。 マルチターンインタラクションでは、不正な動作によって学生が後に遭遇する状態が変化するため、エラーはターン間で複雑になる。 PivotOPDは、学生が重要なミスを防ぎ、彼らが作り出す状態から回復するために、共同で学生を訓練するフレームワークである。
  論文  参考訳（メタデータ） (2026-09-30T17:48:11Z)
• DreamingGoose: Staged Distillation from Autoregressive Transformers to Bidirectional Recurrent Diffusion Language Models [41.99844472131922]
  我々はQwen3の教師を1.7Bと8Bで3段階に分けて、注意なし、双方向、ゲート・デルタ・ルール拡散学習者に変換する。 言語モデリングは部分的および非分配のみを転送する。 検索を学習するすべてのモデルは、検索エピソードに現れないトークンに対して0.000のスコアを獲得します。
  論文  参考訳（メタデータ） (2026-09-28T03:57:11Z)
• A Fragility Spectrum for Recursive Language-Model Training [9.563027159959587]
  異なるモデルが同じプロセスで非常に異なる振る舞いをすることを示す。 5世代後のユニークな4グラムの結果は、チェックポイント毎に0.187から0.940まで様々である。 共有プールの構成を変更したり、人文で混合したりすることで、スピアマンの順序の相関は0.91--0.97に保たれる。
  論文  参考訳（メタデータ） (2026-09-10T06:56:22Z)
• Nested Byte-Level Vocabularies Are Cheap to Deploy and Expensive to Share: A Pre-Registered Negative Result [0.0]
  一つの言語モデルが複数の語彙サイズで動作可能であることを示す。 コントロールトークンはアクティブサイズを示し、その埋め込みと出力ヘッドをスライスすることで任意のトレーニングされたサイズにデプロイされる。 キャップトークンも出力制限もないコントロールも同じように堅牢であり、条件付けよりも多粒度トレーニングに寄与する。
  論文  参考訳（メタデータ） (2026-08-28T10:13:32Z)
• Real-Time Detection and Repair of LLM Agent Failures [0.0]
  LLMエージェントは、エポゾドループの途中で失敗し、カスケードツールエラー、ゴールのドリフトオフ、結果の生成、あるいは静かに劣化したコンテンツを吸収する。 1ステップあたりのマイクロ秒のモニターを使用して、正常な実行のみをトレーニングすることで、観測可能なステップ単独で、どの程度の検出が達成できるのかを問う。 システムは1歩あたり200マイクロ秒で、審査員の呼び出しより3桁低い。
  論文  参考訳（メタデータ） (2026-08-03T16:34:46Z)
• Try Again, Don't Look Back: Blind Resampling Outperforms Self-Repair in Small Code Models [0.0]
  Self-repairはコードエージェントの標準コンポーネントであり、ほとんど常にリトライしないベースラインに対して評価されている。 MBPP+を3つのモデルスケールでプラセボ制御した設計を用いて, 整合型再試行条件を4つ比較した。
  論文  参考訳（メタデータ） (2026-07-28T16:58:27Z)
• A Learning-Rate-Gated Failure of GRPO in a Small Language and Vision-Language Model Web Agent: A Controlled Null and Its Mechanism [11.543353599329675]
  検証可能な報酬を伴う強化学習は、より強力なエージェントを生み出すことを期待して、監督されたチェックポイントで日常的に実行される。 4Bから8Bのスケールで、小さな言語とビジョン言語モデルWebエージェントにスキルを追加するかどうかを問う。 エージェントがほとんどマスターしたタスクに対して、強力な教師付きベースラインの成功率を確実に改善する構成は存在しない。
  論文  参考訳（メタデータ） (2026-07-14T11:17:35Z)
• Reward-Informed Sparse Autoencoders and the Solution-Completeness Confound [39.146761527401424]
  我々は報酬インフォームドSAE(RI-SAE)を構築する。 我々はGRPOトラジェクトリを高逆(良い)と低逆(悪い)推論に分割し、標準のJumpReLU SAEをそれらのアクティベーションで訓練した。 Llama-3.1-8Bでは、16,384の機能のスパースサブセットがクラスを分離する(選択された機能ではsilhouette 0.79、全コードでは0.005)。
  論文  参考訳（メタデータ） (2026-06-25T15:45:28Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Hide and Seek in Embedding Space: Geometry-based Steganography and Detection in Large Language Models [44.41218866933059]
  微調整LDMは、ステガノグラフィーチャネルを介してプロンプトシークレットを出力に隠蔽的にエンコードすることができる。 任意の写像を埋め込み空間由来のものに置き換えることで、従来のスキームが100%回復可能であることを示す。 我々は、微調整によるステガノグラフィー攻撃を検出するには、従来のステガナシス以上のアプローチが必要であると論じる。
  論文  参考訳（メタデータ） (2026-01-30T10:43:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。