論文の概要: Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks

• arxiv url: http://arxiv.org/abs/2609.23435v1
• Date: Sun, 20 Sep 2026 08:08:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.817682
• Title: Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks
• Title（参考訳）: LLMドメイン適応のためのツール強化オンポリシィ蒸留
• Abstract要約: マルチオミクスシーケンスの最初の推論ベンチマークであるOmicsBenchを紹介する。 予測と科学的推論の両方を評価することが重要です ツール強化型オン・ポリケーション (TA-OPD) を導入し, シークエンス予測とエビデンス基底の生物学的推論を一致させる。
• 参考スコア（独自算出の注目度）: 72.97315136048122
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-omics sequences contain complex biological patterns, yet deciphering their mechanisms for automated scientific discovery remains challenging. As large language models (LLMs) interpret these sequences, evaluating both predictions and scientific reasoning is critical. However, existing benchmarks for multi-omics sequence tasks rely on classification and regression metrics, neglecting whether models grasp the underlying biological evidence. We introduce OmicsBench, the first reasoning benchmark for multi-omics sequences, comprising 1,160 expert-validated questions across six tasks spanning DNA regulation, RNA processing, and protein function. OmicsBench requires traceable evidence chains, evaluated using instance-specific rubrics developed with domain experts. Evaluating 17 LLMs reveals an inverse relationship: while scientific LLMs outperform general-purpose LLMs in sequence classification accuracy, they fail to provide valid evidence to support their predictions. One plausible interpretation is shortcut learning: specialized models may rely on statistical patterns rather than the biological mechanisms needed for scientific discovery. Motivated by this finding, we introduce tool-augmented on-policy distillation (TA-OPD), a post-training method to align sequence prediction with evidence-grounded biological reasoning. Across five Qwen3.5 models spanning 0.8B to 27B parameters, TA-OPD consistently strengthens biological evidence grounding while improving predictive performance on most tasks. These gains persist across model scales, indicating that stronger sequence reasoning does not arise solely from increased model capacity, but can be improved through evidence-aware training. Together, OmicsBench and TA-OPD provide a framework for diagnosing reasoning failures in multi-omics LLMs and a path toward models whose predictions are better grounded in biologically meaningful evidence.
• Abstract（参考訳）: マルチオミクス配列は複雑な生物学的パターンを含むが、自動科学的発見のためのメカニズムを解読することは依然として困難である。 大規模言語モデル(LLM)はこれらのシーケンスを解釈するので、予測と科学的推論の両方を評価することが重要である。 しかし、既存のマルチオミクスシーケンスタスクのベンチマークは分類と回帰の指標に依存しており、モデルが基礎となる生物学的証拠を把握しているかを無視している。 我々はOmicsBenchを紹介した。OmicsBenchは、DNA制御、RNA処理、タンパク質機能にまたがる6つのタスクに対して、1,160人の専門家が検証した質問を含む、マルチオミクス配列の最初の推論ベンチマークである。 OmicsBenchはトレース可能なエビデンスチェーンを必要とし、ドメインの専門家によって開発されたインスタンス固有のルーリックを用いて評価する。 科学的 LLM はシーケンス分類精度において汎用 LLM よりも優れているが、それらの予測を支持する有効な証拠は得られない。 専門的なモデルは、科学的発見に必要な生物学的メカニズムよりも、統計的パターンに依存している可能性がある。 本研究は, 実証的生物学的推論とシーケンス予測を整合させるポストトレーニング法であるTA-OPD (Tool-augmented on-policy distillation) を導入する。 0.8Bから27Bのパラメータにまたがる5つのQwen3.5モデルにおいて、TA-OPDは、ほとんどのタスクにおける予測性能を改善しながら、生物学的証拠を一貫して強化する。 これらの利得はモデルスケールにわたって持続し、より強いシーケンス推論はモデルキャパシティの増加によってのみ生じるのではなく、エビデンス対応トレーニングによって改善されることを示している。 OmicsBench と TA-OPD は、マルチオミクス LLM における推論失敗の診断の枠組みと、生物学的に有意義な証拠により良い予測が導かれるモデルへの道筋を提供する。

関連論文リスト

• SeqMaestro: From nucleotide sequences to biological hypotheses through interpretable machine learning [35.97164357682394]
  SeqMaestroは、解釈可能なモデルを使用してヌクレオチド配列からの仮説を提案する機械学習フレームワークである。 われわれのソリューションは、ヌクレオチド配列と解釈可能な機械学習のより広いエコシステムをつなぐ2層インタフェースを中心にしている。
  論文  参考訳（メタデータ） (2026-09-14T01:04:09Z)
• Position: Genomic Model Research Must Move Beyond Anecdotal Evaluation of Interpretability Methods [8.920725431658777]
  臨床試験に類似した妥当性検証の枠組みについて論じる。 試行が厳密な設計と不適切な報告を必要とするのと同じように、ゲノム解釈は桜の図面上の可視性を超える必要がある。
  論文  参考訳（メタデータ） (2026-05-29T12:20:12Z)
• GenomeQA: Benchmarking General Large Language Models for Genome Sequence Understanding [6.678941174236651]
  GenomeQAは、シーケンスベースのゲノム推論タスクにおける汎用LSMの制御された評価設定を提供するために設計されたベンチマークである。 モデルは常にランダムなベースラインより優れており、GC内容やショートモチーフなどの局所的なシーケンス信号を利用することができる。 GenomeQAは、汎用LSMを生ゲノム配列で研究・改善するための診断基準を確立する。
  論文  参考訳（メタデータ） (2026-04-07T12:14:20Z)
• Investigating the Impact of Histopathological Foundation Models on Regressive Prediction of Homologous Recombination Deficiency [52.50039435394964]
  回帰に基づくタスクの基礎モデルを体系的に評価する。 我々は5つの最先端基礎モデルを用いて、スライド画像全体(WSI)からパッチレベルの特徴を抽出する。 乳房、子宮内膜、肺がんコホートにまたがるこれらの抽出された特徴に基づいて、連続したRDDスコアを予測するモデルが訓練されている。
  論文  参考訳（メタデータ） (2026-01-29T14:06:50Z)
• OncoReason: Structuring Clinical Reasoning in LLMs for Robust and Interpretable Survival Prediction [2.904892426557913]
  大規模言語モデル (LLM) は, バイオメディカルNLPにおいて高い性能を示した。 本稿では,自己回帰型LPMと結果予測のための臨床推論を整合させる,統合型マルチタスク学習フレームワークを提案する。 マルチタスク・クリニカル・モデリングにおける推論・アライメントの重要性について検討した。
  論文  参考訳（メタデータ） (2025-10-20T13:35:12Z)
• GENERator: A Long-Context Generative Genomic Foundation Model [66.46537421135996]
  本稿では,98k塩基対 (bp) と1.2Bパラメータからなるゲノム基盤モデル GENERator を提案する。 DNAの386Bbpからなる拡張データセットに基づいて、GENERatorは、確立されたベンチマークと新しく提案されたベンチマークの両方で最先端のパフォーマンスを実証する。 また、特に特定のアクティビティプロファイルを持つエンハンサーシーケンスを即応的に生成することで、シーケンス最適化において大きな可能性を秘めている。
  論文  参考訳（メタデータ） (2025-02-11T05:39:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。