論文の概要: Knowledge Graphs and Reasoning LLMs for Finding Simple Yet Effective Transcriptomic Perturbation Predictors
- arxiv url: http://arxiv.org/abs/2606.08816v1
- Date: Sun, 07 Jun 2026 20:09:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.468175
- Title: Knowledge Graphs and Reasoning LLMs for Finding Simple Yet Effective Transcriptomic Perturbation Predictors
- Title(参考訳): 簡易かつ効果的なトランスクリプトーム摂動予測器を見つけるための知識グラフとLLMの推論
- Authors: Jake Fawkes, Liam Hodgson, Jason Hartford,
- Abstract要約: 転写異常遺伝子の発現に対する異常遺伝子ノックアウト摂動の影響を予測することは、仮想細胞モデルにとって難しい問題である。
近年の進歩は、生物学的知識グラフを利用して、同様の摂動の概念を提供するものである。
これらの仮定(知識グラフからのK-アネレスト近傍)を利用する最も単純なモデルは、この課題において高い競争性能を達成することを実証する。
- 参考スコア(独自算出の注目度): 4.842918836091874
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Predicting the effect of an unseen gene knockout perturbation on transcriptomic gene expression remains a highly challenging problem for virtual cell models. Recent progress has been made by leveraging biological knowledge graphs to provide a notion of similar perturbation, allowing for improved extrapolation beyond the set of training perturbations. In this work, we demonstrate that the simplest model to leverage these assumptions - a K-nearest neighbour from the knowledge graph - achieves highly competitive performance on this task, and that this can be improved further using LLMs optimised via reinforcement learning (RL) for predictive performance. Specifically, we find that the K-nearest neighbour approach beats almost all methods on out-of-distribution perturbation prediction, and when a reasoning LLM is trained via RL to make changes to the neighbourhood, it obtains equivalent performance to current state of the art methods on the cell lines from Replogle et al. (2022). We also demonstrate that the RL training improves the LLM's performance on the downstream task of differential expression prediction, despite not being trained on this directly. Overall, these findings demonstrate the efficacy of knowledge graphs as model priors, and show early signs that RL can refine LLMs into generalizable tools for predicting complex biological responses.
- Abstract(参考訳): 転写異常遺伝子の発現に対する異常遺伝子ノックアウト摂動の影響を予測することは、仮想細胞モデルにとって非常に難しい問題である。
近年の進歩は、生物知識グラフを活用して、同様の摂動の概念を提供し、トレーニング摂動のセットを超えた外挿の改善を可能にしている。
本研究では,これらの仮定(知識グラフからのK-アレスト近傍)を利用する最も単純なモデルは,この課題において高い競争性能を達成し,予測性能のために強化学習(RL)によって最適化されたLLMを用いてさらに改善できることを実証する。
具体的には, K-nearest 近傍アプローチは, 分布外摂動予測においてほとんどすべての手法を破ることが判明し, RL を用いて LLM を訓練すると, Replogle et al (2022) のセルライン上の現在の最先端手法と同等の性能が得られることがわかった。
また,RLトレーニングにより,直接訓練を受けなくても,差分表現予測の下流タスクにおけるLLMの性能が向上することが実証された。
これらの知見は, モデル先行として知識グラフの有効性を示すとともに, 複雑な生物学的応答を予測するための一般化可能なツールとして, RLがLLMを洗練できることを示す早期の兆候を示す。
関連論文リスト
- Plausibility Is Not Prediction: Contrastive Evidence for LLM-Based Cellular Perturbation Reasoning [27.902219493068824]
摂動実験は細胞機構の理解の中心である。
それらは高価で疎いままであり、保存されていない状態に対する遺伝子発現応答の予測を動機付けている。
証拠を関連摂動から肯定的・否定的な結果に整理することで,予測を比較課題として再編成するCOREを導入する。
論文 参考訳(メタデータ) (2026-05-31T06:13:26Z) - Data Distribution as a Lever for Guiding Optimizers Toward Superior Generalization in LLMs [60.68927774057402]
はじめに、単純さのバイアスが小さくなれば、より良い一般化がもたらされることを示す。
この知見に触発されて、訓練後のサンプルのアップサンプリングや強化によるトレーニングデータ分布がSBを減少させ、一般化の改善につながることを示す。
我々はPhi2-2.7B, Llama3.2-1B, Gemma3-1B-PT, Qwen3-0.6B-Base など複数の言語モデルの性能向上を図る。
論文 参考訳(メタデータ) (2026-01-31T07:40:36Z) - A Semi-supervised Molecular Learning Framework for Activity Cliff Estimation [10.640733919289643]
そこで本研究では,SemiMolと呼ばれる新しい半教師付き学習手法を提案する。
SemiMolは、後続のトレーニングに擬似信号として、多くの無注釈データに対する予測を使用する。
また,SemiMolはグラフベースのMLアーキテクチャを大幅に強化し,最先端の事前トレーニングやSSLベースラインを克服することを示す。
論文 参考訳(メタデータ) (2026-01-08T02:20:25Z) - How and Why LLMs Generalize: A Fine-Grained Analysis of LLM Reasoning from Cognitive Behaviors to Low-Level Patterns [51.02752099869218]
大きな言語モデル(LLM)は、非常に異なる一般化の振る舞いを示す。
推論を原子核スキルに分解する新しいベンチマークを導入する。
SFTモデルはよりシャープなドリフトと表面パターンへの過度な適合を示すのに対し、RL型モデルはより安定した行動プロファイルを維持し、推論スキルの崩壊に抵抗することを示す。
論文 参考訳(メタデータ) (2025-12-30T08:16:20Z) - Revisiting Entropy in Reinforcement Learning for Large Reasoning Models [54.96908589622163]
検証可能な報酬(RLVR)を用いた強化学習で訓練した大規模言語モデルのエントロピーダイナミクスについて検討する。
以上の結果から,RLVRでトレーニングしたLDMのエントロピーに影響を及ぼす重要な要因として,非政治的更新数,トレーニングデータの多様性,最適化目標におけるクリッピング閾値が示唆された。
論文 参考訳(メタデータ) (2025-11-08T12:50:41Z) - The Art of Scaling Reinforcement Learning Compute for LLMs [52.71086085139566]
強化学習(RL)は、大規模言語モデルの訓練の中心となっている。
計算予算の急激な増加にもかかわらず、RL計算のスケーリングにおけるアルゴリズム改善の評価方法に関する原則的な理解は存在しない。
我々は,約40万時間以上のGPU時間を有する,最初の大規模体系的な研究を提示する。
論文 参考訳(メタデータ) (2025-10-15T17:43:03Z) - Toward Better EHR Reasoning in LLMs: Reinforcement Learning with Expert Attention Guidance [9.106439376182513]
電子健康記録(EHR)推論のための大規模言語モデル(LLM)は、正確で一般化可能な臨床予測を可能にするために不可欠である。
EAG-RL は LLM の EHR 推論能力を高めるために設計された新しい2段階学習フレームワークである。
EAG-RLは、まず、専門家誘導モンテカルロ木探索を用いて、高品質で段階的な推論軌道を構築する。
論文 参考訳(メタデータ) (2025-08-19T07:24:48Z) - Revisiting LLM Reasoning via Information Bottleneck [57.519119962528166]
大規模言語モデル(LLM)は、最近、検証可能な報酬付き強化学習(RLVR)を通じて推論能力の顕著な進歩を示した。
本稿では,情報ボトルネック(IB)の原理に基づくLLM推論の理論的特徴について述べる。
IB対応推論最適化(IBRO)を提案する。
論文 参考訳(メタデータ) (2025-07-24T13:14:25Z) - Leveraging Genetic Algorithms for Efficient Demonstration Generation in Real-World Reinforcement Learning Environments [0.8602553195689513]
強化学習(Reinforcement Learning, RL)は、特定の実世界の産業応用において大きな可能性を証明している。
本研究では,遺伝的アルゴリズム(GA)をRL性能向上のメカニズムとして活用することを検討した。
本稿では,GAによる専門家による実証実験を政策学習の強化に活用する手法を提案する。
論文 参考訳(メタデータ) (2025-07-01T14:04:17Z) - Mitigating Large Language Model Hallucinations via Autonomous Knowledge
Graph-based Retrofitting [51.7049140329611]
本稿では,知識グラフに基づくリトロフィッティング(KGR)を提案する。
実験により,実QAベンチマークにおいて,KGRはLLMの性能を大幅に向上できることが示された。
論文 参考訳(メタデータ) (2023-11-22T11:08:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。