論文の概要: Mass Producing Training Data with Surprising Side Effects

• arxiv url: http://arxiv.org/abs/2611.06324v1
• Date: Wed, 04 Nov 2026 10:57:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:58.085772
• Title: Mass Producing Training Data with Surprising Side Effects
• Title（参考訳）: 副次効果を考慮した大量学習データ作成
• Abstract要約: トレーニングデータは、トレーニング領域外の言語モデルの振る舞いに予期しない副作用を持つ可能性がある。 本稿では,サプライズサイドエフェクト(DSSE)を用いたデータセットの自動検出を提案する。 LLMの審査員でそれぞれを運用し、進化、強化学習、サブリミナル学習アプローチを通じてハイスコアデータセットを探索する。
• 参考スコア（独自算出の注目度）: 44.43656459019696
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training data can have unexpected side effects on language model behavior outside the training domain: insecure code data can induce broad misalignment, and outdated bird names can induce a 19th-century persona. Understanding such generalization is hard because only dozens of isolated examples exist, each constructed by hand or discovered by accident. We propose automatically discovering such datasets with surprising side effects (DSSEs). We define three objectives for DSSEs: they should (1) elicit a target behavior, (2) read like ordinary post-training data, and (3) be surprising to human auditors reading the data. We operationalize each with LLM judges, and search for high-scoring datasets via evolution, reinforcement learning, and subliminal learning approaches. After re-scoring and filtering with held-out metrics, our pipeline produces a collection of 6,575 DSSEs across 8 behaviors, many of which generalize across model families and sizes. We find our automated metrics track ML researchers' judgments, and frontier models outperform humans at predicting side effects. These datasets form a testbed for studying generalization and lay the groundwork for predicting training side effects before model deployment. Explore them at https://dsse.transluce.org.
• Abstract（参考訳）: トレーニングデータは、トレーニング領域外の言語モデル行動に予期せぬ副作用を与える可能性がある。 このような一般化を理解することは、数十の孤立した例しか存在せず、それぞれが手で構築されるか、偶然に発見されるため、難しい。 本稿では,サプライズサイドエフェクト(DSSE)を用いたデータセットの自動検出を提案する。 DSSEの目的は,(1)対象行動を引き出すこと,(2)通常のポストトレーニングデータのように読み取ること,(3)データを読む人間監査者にとって驚きとなること,の3つである。 LLMの審査員でそれぞれを運用し、進化、強化学習、サブリミナル学習アプローチを通じてハイスコアデータセットを探索する。 我々のパイプラインは、ホールドアウトメトリクスで再描画とフィルタリングを行った後、8つの動作にまたがる6,575のDSSEのコレクションを生成します。 自動メトリクスは機械学習研究者の判断を追跡し、フロンティアモデルは副作用を予測するために人間より優れています。 これらのデータセットは、一般化を研究するためのテストベッドを形成し、モデル展開前のトレーニングサイドエフェクトを予測するための基盤となる。 詳しくはhttps://dsse.transluce.orgを参照。

関連論文リスト

• Erasing Without Remembering: Implicit Knowledge Forgetting in Large Language Models [81.62767292169225]
  我々は,その一般化に着目して,大規模言語モデルにおける知識の忘れについて検討する。 確率摂動に基づく新しいアンラーニングパラダイムであるPerMUを提案する。 TOFU、Harry Potter、ZsRE、WMDP、MUSEなど、さまざまなデータセットで実験が行われている。
  論文  参考訳（メタデータ） (2025-02-27T11:03:33Z)
• What Do Learning Dynamics Reveal About Generalization in LLM Reasoning? [83.83230167222852]
  モデルの一般化動作は,事前記憶列車の精度と呼ばれるトレーニング指標によって効果的に特徴づけられることがわかった。 モデルの学習行動と一般化を結びつけることで、トレーニング戦略に目標とする改善を導くことができる。
  論文  参考訳（メタデータ） (2024-11-12T09:52:40Z)
• Evaluating Pre-Training Bias on Severe Acute Respiratory Syndrome Dataset [0.0]
  この研究は、OpenDataSUSの重症急性呼吸症候群データセットを使用して、3つのトレーニング済みバイアスメトリクスを可視化する。 目的は、異なる領域のバイアスを比較し、保護された属性に注目し、モデルのパフォーマンスとメトリック値を比較することである。
  論文  参考訳（メタデータ） (2024-08-27T20:49:11Z)
• Robust Machine Learning by Transforming and Augmenting Imperfect Training Data [6.928276018602774]
  この論文は、現代の機械学習のいくつかのデータ感度を探求する。 まず、トレーニングデータで測定された事前の人間の識別をMLが符号化するのを防ぐ方法について論じる。 次に、トレーニング中に予測忠実度を提供するが、デプロイ時に信頼性が低い突発的特徴を含むデータから学習する問題について論じる。
  論文  参考訳（メタデータ） (2023-12-19T20:49:28Z)
• Learning Defect Prediction from Unrealistic Data [57.53586547895278]
  事前訓練されたコードのモデルは、コード理解と生成タスクに人気がある。 このようなモデルは大きい傾向があり、訓練データの総量を必要とする。 人工的に注入されたバグのある関数など、はるかに大きくてもより現実的なデータセットを持つモデルをトレーニングすることが一般的になった。 このようなデータで訓練されたモデルは、実際のプログラムでは性能が劣りながら、同様のデータでのみうまく機能する傾向にある。
  論文  参考訳（メタデータ） (2023-11-02T01:51:43Z)
• Zero-shot meta-learning for small-scale data from human subjects [10.320654885121346]
  我々は,サンプル外テストデータに対する限られたトレーニングデータを用いて,新しい予測タスクに迅速に適応するフレームワークを開発した。 本モデルでは, 介入による遅延処理効果を学習し, 設計上はマルチタスク予測を自然に処理できる。 我々のモデルは、より広い人口への小型人間研究の一般化を向上するために重要である。
  論文  参考訳（メタデータ） (2022-03-29T17:42:04Z)
• On the Transferability of Pre-trained Language Models: A Study from Artificial Datasets [74.11825654535895]
  大規模未ラベルテキストデータ上での事前学習言語モデル(LM)により、ダウンストリームのパフォーマンスが極めて容易になる。 我々は,事前学習データに含まれる特定の特徴について,セマンティクス以外では,下流タスクのスクラッチからトレーニングしたデータよりも,事前学習したLMを優れているか検討した。
  論文  参考訳（メタデータ） (2021-09-08T10:39:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。