論文の概要: A helps B while B hurts A: directed transfer in instruction-tuning mixture

• arxiv url: http://arxiv.org/abs/2609.39702v1
• Date: Wed, 30 Sep 2026 13:20:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.828815
• Title: A helps B while B hurts A: directed transfer in instruction-tuning mixture
• Title（参考訳）: A help B while B hurts A: Direct Transfer in instruction-tuning Mix
• Abstract要約: 言語モデルを専門のコーパスに適用することは、固定予算の下でトレーニングする命令チューニングタスクを選択することを意味する。 Task $A$ help task $B$ while $B$ hurts $A$, so helpness is a signed property of direct source-target pairs。 転送マップは、各ソースが保持対象をどれだけ助けるか、あるいは傷つけているかを、署名付きで見積もるものです。
• 参考スコア（独自算出の注目度）: 0.14323566945483493
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adapting a language model to a specialized corpus means choosing which instruction-tuning tasks to train on under a fixed budget, and testing one choice costs a fine-tuning run. Common heuristics add more source tasks or pick sources similar to the target. The first assumes transfer is never negative; the second, that it is symmetric. We show that both assumptions fail: task $A$ can help task $B$ while $B$ hurts $A$, so helpfulness is a signed property of ordered source--target pairs. We introduce the transfer map, a signed estimate of how much each source helps or hurts each held-out target. We fit the map in hundreds of fine-tuning runs on Qwen3 and Mistral models from 0.6B to 32B parameters, with all sources drawn from one corpus and no training examples from the target. The map predicts a held-out target's accuracy on unseen mixtures: recorded before those runs, its predictions have less than half the error of a mixture-agnostic baseline. The map is specific to its target and corpus but transfers across model scale: a mixture selected in advance at one size beats training on all source tasks at every other size we tested. Transfer is thus a property of the data. The map selects the tasks that help and drops the one that interferes: accuracy on the reasoning targets (causal explanation, multi-hop questions and methodological critique) rises by up to 14 percentage points over training on all source tasks.
• Abstract（参考訳）: 言語モデルを専門のコーパスに適用することは、固定予算の下でトレーニングする命令チューニングタスクを選択することを意味します。 共通のヒューリスティックスは、より多くのソースタスクを追加したり、ターゲットと同じようなソースを選択したりする。 第一は移動が決して負ではないと仮定し、第二は対称であると仮定する。 Task $A$ help task $B$ while $B$ hurts $A$, so helpness is a signed property of direct source-target pairs。 転送マップは、各ソースが保持対象をどれだけ助けるか、あるいは傷つけているかを、署名された見積で示します。 Qwen3とMistralのモデルでは0.6Bから32Bのパラメータで、すべてのソースは1つのコーパスから引き出され、ターゲットからのトレーニング例は存在しない。 地図は、未確認の混合に対して保持された目標の精度を予測し、それらの実行前に記録され、その予測は混合に依存しないベースラインのエラーの半分以下である。 マップはターゲットとコーパスに固有のものだが、モデルスケールで転送される: 1サイズで事前に選択された混合は、テストした他のサイズすべてで、すべてのソースタスクのトレーニングを上回ります。 従って、転送はデータのプロパティである。 推論対象の精度(因果的説明、マルチホップ問題、方法論的批判)は、すべてのソースタスクのトレーニングで最大14パーセント上昇する。

関連論文リスト

• Commutator Memory: Sparse, Path-Local Reading and Steering in Language Models [0.0]
  2つのデータソースで言語モデルをトレーニングすることは、同じデータと全露出であっても、異なる重みを与えます。 この経路依存がパラメトリックトレーニング履歴記憶を残しているかどうかを問う。 我々は,ブラケットをロケットを通して1語彙のトークンに投影することで,演算子メモリを定義する。
  論文  参考訳（メタデータ） (2026-09-28T05:23:25Z)
• When does fusing hand-crafted knowledge with learned representations pay? A cost-normalized benchmark of stacking, substitution, and interference [26.45899223541571]
  データ駆動学習による事前知識の融合は、データが不足している場合に魅力的だが、それが役に立つ、冗長な、あるいは有害な場合には、制御されたアカウントが言うことはない。 我々は、データ駆動型代替(SimCLR、SimSiam、DINO、ImageNet転送、拡張、学習教師)に対して、トレーニング期間中に$sim$2%のオーバーヘッドでのみ注入されたGaborターゲットのピン留めされたバンクである固定手作りの知識ソースをベンチマークした。 測定したトレーニング時間の組み合わせ全体において、3つの結果が再帰する(決定レベル融合が異なる)。
  論文  参考訳（メタデータ） (2026-08-21T13:44:10Z)
• Measuring Reward Hacking and Reasoning-Answer Decoupling Under Position-Confounded Optimization [1.1316247605466565]
  正解が常にオプションAである数学問題に対してGRPOを用いて言語モデルを訓練し、不偏解位置を持つ未知のテストセットで評価する。 Qwen2.5、Llama 3.x、Gemma-3のモデルでは、より小さなモデルではオプションAレートが0.90を超えている。 有能なモデルは、Aを選択しながら正しい数値解に到達した推論を生成する。
  論文  参考訳（メタデータ） (2026-08-15T23:13:57Z)
• ASPEST: Bridging the Gap Between Active Learning and Selective Prediction [56.001808843574395]
  選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。 アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。 本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
  論文  参考訳（メタデータ） (2023-04-07T23:51:07Z)
• Project and Probe: Sample-Efficient Domain Adaptation by Interpolating Orthogonal Features [119.22672589020394]
  多様な特徴の集合を学習し,これらの特徴を補間することによって対象分布に適応する,軽量でサンプル効率のよい手法を提案する。 複数の分散シフト設定を持つ4つのデータセットに対する実験により、Pro$2$は、限られたターゲットデータが与えられた場合、パフォーマンスを5～15%向上することが示された。
  論文  参考訳（メタデータ） (2023-02-10T18:58:03Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• On-target Adaptation [82.77980951331854]
  ドメイン適応は、Emphtargetドメインでのトレーニングとテストの間のシフトを軽減することを目指している。 ほとんどの適応法は、ソースデータとターゲットデータに対する共同最適化によるソースデータに依存している。 対象データから純粋に表現を学習するオン・ターゲット適応による大幅な改善を示す。
  論文  参考訳（メタデータ） (2021-09-02T17:04:18Z)
• Using a Cross-Task Grid of Linear Probes to Interpret CNN Model Predictions On Retinal Images [3.5789352263336847]
  我々は、線形プローブを用いて網膜画像のデータセットを分析し、ある「ターゲット」タスクで訓練された線形回帰モデル、ある「ソース」タスクで訓練された深部畳み込み(CNN)モデルからの埋め込みを入力として分析する。 我々はこの手法を、UK Biobankの網膜画像データセットにおける93のタスクの可能な全てのペアリングに使用し、164kの異なるモデルに導いた。
  論文  参考訳（メタデータ） (2021-07-23T21:30:27Z)
• Learning Stable Classifiers by Transferring Unstable Features [59.06169363181417]
  本研究では,素早い相関関係の存在下での伝達学習について検討する。 提案手法は, ソースタスクで学習した安定な特徴抽出器を直接転送しても, 対象タスクのバイアスを排除できないことを実験的に実証する。 我々は、ソースタスクの不安定な特徴とターゲットタスクの不安定な特徴が直接関連していると仮定する。
  論文  参考訳（メタデータ） (2021-06-15T02:41:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。