論文の概要: Self-Study Reconsidered: The Hidden Fragility of Learning from Self-Generated QA

• arxiv url: http://arxiv.org/abs/2606.32002v1
• Date: Tue, 30 Jun 2026 17:35:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.329356
• Title: Self-Study Reconsidered: The Hidden Fragility of Learning from Self-Generated QA
• Title（参考訳）: 自己学習を再考する - 自己生成型QAから学ぶための隠れた脆弱性
• Abstract要約: 言語モデルは、QA(Synthetic Question Aswer)の監督によって、ますます教えられている。 この生成ステップが中立的な前処理ではないことを示す。 このような障害モードは,QA生成時の選択から発生し,トレーニングループを変更することなく低減できることを示す。
• 参考スコア（独自算出の注目度）: 40.94400211806987
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models are increasingly taught from synthetic question--answer (QA) supervision: a model generates questions about a document, answers them from the same text, and the resulting pairs are used to fine-tune, distill, or compress knowledge into another model. We show that this generation step is not neutral preprocessing. It is an implicit policy that both selects which evidence becomes training signal and decides how that evidence is answered, and it is fragile at both stages. When choosing what to ask, generators do not scan a document uniformly. Coverage saturates early and concentrates on salient spans, diverse prompts converge on the same regions, and what looks question-worthy is driven by local presentation. As a result, salient artifacts such as poorly cleaned markup can hijack question generation across model families and scales. When answering, the model that produces the supervision tends to obey instruction-like passages embedded in the text. This compliance depends on the intent and surface form of the passage rather than its strictness, and is worst under task conflict, where larger models comply more often. These failure modes arise from choices made during QA generation, so they can be reduced without changing the training loop. Tying each question to a fixed target reduces biased selection, and filtering instruction-like spans before answering lowers mean injection compliance from $88\%$ to $13\%$ in our evaluation while retaining nearly all clean text.
• Abstract（参考訳）: モデルは文書に関する質問を生成し、同じテキストから回答し、結果として得られるペアは、微調整、蒸留、あるいは別のモデルへの知識の圧縮に使用される。 この生成ステップが中立的な前処理ではないことを示す。 どちらの証拠が訓練信号となるかを選択し、その証拠がどのように答えられるかを決定するという暗黙の政策であり、どちらの段階でも脆弱である。 何を求めるかを選択するとき、ジェネレータは文書を一様にスキャンしない。 カバーは早期に飽和し、健全なスパンに集中し、多様なプロンプトが同じ地域に収束する。 その結果、クリーニングの悪いマークアップのような健全なアーティファクトは、モデルファミリやスケール間で質問生成をハイジャックすることができる。 答えると、監督を作成するモデルは、テキストに埋め込まれた命令のようなパスに従う傾向にある。 このコンプライアンスは、その厳密さよりもパスの意図と表面形態に依存しており、より大きなモデルがより頻繁に従うタスク競合の中で最悪のものである。 これらの障害モードは、QA生成時に選択されるため、トレーニングループを変更することなく削減することができる。 各質問を固定されたターゲットにタイピングすることで、バイアス選択を減らし、回答を下げる前に命令のようなスパンをフィルタリングすることで、ほぼすべてのクリーンテキストを保持しながら、評価において、インジェクションのコンプライアンスを8,8 %から13 %に減らします。

関連論文リスト

• Answer-Conditioned Chains of Thought Degrade Verifiable-Reasoning Distillation in Large Language Models [21.049419375153914]
  一般的な修正は、生成元に金の答えを示し、その答えに達する連鎖を書くように要求する。 この2番目のステップでは、トレーニングデータを正確性フィルタリングがキャッチできない方法で分解する。
  論文  参考訳（メタデータ） (2026-07-16T04:28:19Z)
• Implicit Reasoning Steering via Concept Chaining [29.121206944212556]
  自然言語のテキストを使って、明示的な指示やトリガー、直接回答の手がかりを使わずに、指定された回答に向けてモデルをバイアスする。 間接的な自然なテキストは、直接のパラフレーズよりも推論がかなり少ないまま、体系的にモデル予測を操ることができることを示す。
  論文  参考訳（メタデータ） (2026-07-15T18:03:08Z)
• What Am I Missing? Question-Answering as Hidden State Probing [13.065059683491958]
  本稿では,推測時間の介入として質問を投げかける手法を提案する。 質問の前後で、学生の隠れた状態を調査する。 介入としての質問応答の成功は,モデルの自己整合性に大きく依存していることが判明した。
  論文  参考訳（メタデータ） (2026-05-29T17:27:07Z)
• Bridging the Know-Act Gap via Task-Level Autoregressive Reasoning [22.264933226031435]
  我々は,新たに構築された大規模・学際横断的な問題ベンチマークであるFactyScienceを用いて,包括的解析を行った。 このギャップは,タスク選択とコンテンツ生成を結びつけるトークンレベルの自己回帰に起因していることを示す。 この決定を明示的にモデル化したタスクレベルの自動回帰フレームワークであるDeIllusionLLMを提案する。
  論文  参考訳（メタデータ） (2026-03-23T22:43:34Z)
• Answer, Assemble, Ace: Understanding How LMs Answer Multiple Choice Questions [103.20281438405111]
  MCQA(Multiple-choice Question answering)は、高性能トランスフォーマー言語モデルのキーコンピテンスである。 我々は,正解を予測するための関連情報をエンコードするキー隠れ状態のローカライズに語彙予測とアクティベーションパッチ手法を用いる。 後続の層は語彙空間における予測応答記号の確率を増大させ、この確率の増加は、特異な役割を持つ注目ヘッドのスパースセットと関連していることを示す。
  論文  参考訳（メタデータ） (2024-07-21T00:10:23Z)
• On Few-Shot Prompting for Controllable Question-Answer Generation in Narrative Comprehension [0.0]
  本稿では,子どもの物語テキストから質問応答ペアの生成を制御するための数発のプロンプト戦略を提案する。 参照モデルと並べて、数発のプロンプトを併用することで、生成プロセスの制御の有効性を示す。
  論文  参考訳（メタデータ） (2024-04-03T15:17:21Z)
• Momentum Contrastive Pre-training for Question Answering [54.57078061878619]
  MCROSSはモーメントコントラスト学習フレームワークを導入し、クローゼのような解答確率と自然な問合せのサンプルペアを一致させる。 本手法は,教師付きシナリオとゼロショットシナリオの両方において,すべてのベースラインと比較して顕著な改善を実現している。
  論文  参考訳（メタデータ） (2022-12-12T08:28:22Z)
• TASA: Deceiving Question Answering Models by Twin Answer Sentences Attack [93.50174324435321]
  本稿では,質問応答(QA)モデルに対する敵対的攻撃手法であるTASA(Twin Answer Sentences Attack)を提案する。 TASAは、金の回答を維持しながら、流動的で文法的な逆境を生み出す。
  論文  参考訳（メタデータ） (2022-10-27T07:16:30Z)
• Measuring and Narrowing the Compositionality Gap in Language Models [116.5228850227024]
  モデルがすべてのサブプロブレムに正しく答えられる頻度を計測するが、全体の解は生成しない。 我々は,思考の連鎖をさらに改善する新たな手法である自己認識法を提案する。
  論文  参考訳（メタデータ） (2022-10-07T06:50:23Z)
• A Semantic-based Method for Unsupervised Commonsense Question Answering [40.18557352036813]
  ラベル付きタスクデータに依存しないため、教師なしのコモンセンス質問応答は魅力的である。 教師なしコモンセンス質問応答のためのSemantic-based Question Answering法(SEQA)を提案する。
  論文  参考訳（メタデータ） (2021-05-31T08:21:52Z)
• Counterfactual Variable Control for Robust and Interpretable Question Answering [57.25261576239862]
  ディープニューラルネットワークに基づく質問応答(QA)モデルは、多くの場合、堅牢でも説明もできない。 本稿では、因果推論を用いてQAモデルのこのような突発的な「能力」を検証する。 本稿では,任意のショートカット相関を明示的に緩和する,CVC(Counterfactual Variable Control)という新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-12T10:09:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。