論文の概要: Recursive LLM Degradation in Biomedical Question Answering: A Cross-Generation Study

• arxiv url: http://arxiv.org/abs/2609.34257v1
• Date: Mon, 28 Sep 2026 04:01:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 22:28:58.655812
• Title: Recursive LLM Degradation in Biomedical Question Answering: A Cross-Generation Study
• Title（参考訳）: バイオメディカル質問応答における再帰的LCM劣化 : クロスジェネレーションによる検討
• Abstract要約: 言語モデルを自分自身が生成したデータで繰り返しトレーニングすることで、合成データフィードバックループが生成される可能性がある。 本稿では,PubMedQA と Qwen2.5 モデルサイズ 0.5B および 3B パラメータを用いたバイオメディカル質問応答 (QA) のプロセスについて検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Repeatedly training language models on their own generated data may create a synthetic-data feedback loop in which errors and distributional biases are reintroduced into subsequent training datasets. This paper studies that process in biomedical question answering (QA) using PubMedQA and two Qwen2.5 model sizes, 0.5B and 3B parameters. The study compares a recursive synthetic-data condition, in which generation G(k+1) is trained on answers produced by G(k), against a Human-Control condition that repeatedly uses the original human training data. The study evaluates across four generations from G0-G3 with two random seeds (42 and 123) and a fixed evaluation set of 1,000 expert-labeled samples. The evaluation includes disease and chemical entity F1, context-supported rate, lexical and semantic similarity, answer length, repetition rate, and other evaluation metrics. The Recursive condition for both model sizes and both seeds showed larger declines than the Human-Control condition in disease entity F1, chemical entity F1, context-supported rate, ROUGE-L, and cosine similarity. Under the fixed no-repeat 3-gram decoding constraint, the main observed behavioral change was increased answer length, while the measured 3-gram repetition rate did not increase. The magnitude of the difference-in-change was larger for the 3B model than for the 0.5B model. This difference was particularly apparent in disease F1, context-supported rate, cosine similarity, and answer length. These results show domain-specific changes associated with using recursive synthetic-data training in biomedical QA, but do not establish clinical hallucination rates or universal model collapse.
• Abstract（参考訳）: 言語モデルを自身の生成されたデータで繰り返しトレーニングすることで、エラーと分布バイアスがその後のトレーニングデータセットに再導入される合成データフィードバックループが生成される可能性がある。 本稿では,PubMedQA と Qwen2.5 モデルサイズ 0.5B および 3B パラメータを用いたバイオメディカル質問応答 (QA) のプロセスについて検討する。 本研究は、G(k+1)の生成した回答に基づいてG(k+1)生成を訓練する再帰的合成データ条件と、元の人間のトレーニングデータを繰り返し使用するヒューマン・コントロル条件とを比較した。 この研究は、G0-G3から4世代にわたって、2つのランダムシード(42と123)と1000のエキスパートラベル付きサンプルの固定された評価セットで評価する。 評価には、疾患および化学物質F1、文脈支持率、語彙的および意味的類似性、回答の長さ、繰り返し率、その他の評価指標が含まれる。 The Recursive condition for both model size and both seed showed greater declines than the human-Control condition in disease entity F1, Chemical entity F1, context- supporteded rate, ROUGE-L, and cosine similarity。 固定されたno-repeat 3gram復号制約の下では, 主観察行動変化は回答長が増加し, 測定された3gram復号速度は増加しなかった。 差分変化の大きさは0.5Bモデルよりも3Bモデルの方が大きかった。 この差異は, F1, 文脈支持率, コサイン類似度, 応答長で顕著であった。 これらの結果は, 生物医学的QAにおける再帰的合成データトレーニングに関連する領域特異的な変化を示すが, 臨床幻覚率や普遍的モデル崩壊は確立していない。

関連論文リスト

• Evolutional Math: Cross-Validated Island-Model Genetic Programming for Interpretable Symbolic Regression on Small, Wide Datasets [0.0]
  遺伝的プログラミングによるシンボリック回帰は、小さくて広いデータセットで日常的に失敗する。 提案するEvolutional Mathは,4つの設計選択を組み合わせて,コンパクトで解釈可能な式を生成する,オープンソースの遺伝的プログラミングシステムである。
  論文  参考訳（メタデータ） (2026-06-20T10:31:14Z)
• Training-inference input alignment outweighs framework choice in longitudinal retinal image prediction [3.0602131532925436]
  近年の手法は, 生成複雑性の増大に向かっているが, この複雑さが要求される条件はいまだ不明である。 生成複雑性は予測可能なタスクの条件付き後続成分のエントロピーと一致し,全てのレシスタンスでトレーニング・推論入力アライメントが要求される。 我々は,この枠組みを5つの構成を対比して,立方体自己蛍光データセット上で検証した。
  論文  参考訳（メタデータ） (2026-04-18T10:28:00Z)
• Bioalignment: Measuring and Improving LLM Disposition Toward Biological Systems for AI Safety [0.0]
  インターネット規模のコーパスで訓練された大規模言語モデル(LLM)は、望ましくない行動の確率を増加させる体系的なバイアスを示す。 4つの領域(材料、エネルギー、製造、アルゴリズム)にわたる合成と生物の技術的ソリューションに対する潜在的なバイアスについて検討した。 その結果,QLoRAファインチューニングは,一般性能を低下させることなく,両モデルの生体溶液のスコアリングを著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2026-03-10T03:44:58Z)
• Unlasting: Unpaired Single-Cell Multi-Perturbation Estimation by Dual Conditional Diffusion Implicit Bridges [68.98973318553983]
  本稿では,Dual Diffusion Implicit Bridges (DDIB) に基づくフレームワークを提案する。 我々は、生物学的に意味のある方法で摂動シグナルを伝達するために遺伝子制御ネットワーク(GRN)情報を統合する。 また、サイレント遺伝子を予測し、生成したプロファイルの品質を向上させるためのマスキング機構も組み込んだ。
  論文  参考訳（メタデータ） (2025-06-26T09:05:38Z)
• MACAW: A Causal Generative Model for Medical Imaging [1.0653740810975534]
  この研究は、ニューロイメージング応用のためのMasked Causal Flow (MACAW)と呼ばれる新しい因果生成アーキテクチャを導入する。 提案手法の有効性は,まず合成データを用いて評価し,その後,英国バイオバンク研究の23,000人以上の参加者のMRI脳データを用いて検討した。
  論文  参考訳（メタデータ） (2024-12-03T23:05:41Z)
• Uncertainty Estimation of Large Language Models in Medical Question Answering [60.72223137560633]
  大規模言語モデル(LLM)は、医療における自然言語生成の約束を示すが、事実的に誤った情報を幻覚させるリスクがある。 医学的問合せデータセットのモデルサイズが異なる人気不確実性推定(UE)手法をベンチマークする。 以上の結果から,本領域における現在のアプローチは,医療応用におけるUEの課題を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-07-11T16:51:33Z)
• The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
  この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。 我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。 このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
  論文  参考訳（メタデータ） (2023-09-13T10:40:41Z)
• Fast and Functional Structured Data Generators Rooted in Out-of-Equilibrium Physics [44.97217246897902]
  エネルギーモデルを用いて、構造化データセットで高品質なラベル特化データを生成するという課題に対処する。 伝統的な訓練方法は、マルコフ連鎖モンテカルロ混合による困難に遭遇する。 非平衡効果を利用した新しいトレーニングアルゴリズムを用いる。
  論文  参考訳（メタデータ） (2023-07-13T15:08:44Z)
• Harmonization with Flow-based Causal Inference [12.739380441313022]
  本稿では, 医療データを調和させる構造因果モデル (SCM) に対して, 反実的推論を行う正規化フローに基づく手法を提案する。 我々は,この手法が最先端のアルゴリズムよりもドメイン間一般化に寄与することを示すために,複数の,大規模な実世界の医療データセットを評価した。
  論文  参考訳（メタデータ） (2021-06-12T19:57:35Z)
• MSED: a multi-modal sleep event detection model for clinical sleep analysis [62.997667081978825]
  ポリソムノグラムで睡眠イベントを共同検出する,単一のディープニューラルネットワークアーキテクチャを設計した。 モデルの性能は,F1,精度,リコールスコア,および指標値と臨床値との相関で定量化した。
  論文  参考訳（メタデータ） (2021-01-07T13:08:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。