論文の概要: Beyond Attention: Signed Integrated Gradients Attribution in a BiomeGPT-Style Microbiome Transformer
- arxiv url: http://arxiv.org/abs/2608.06486v1
- Date: Thu, 06 Aug 2026 18:26:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.261161
- Title: Beyond Attention: Signed Integrated Gradients Attribution in a BiomeGPT-Style Microbiome Transformer
- Title(参考訳): バイオムGPT型マイクロバイオームトランスにおける組込みグラディエント属性の関与
- Abstract要約: BiomeGPTのような機能トークン変換器(arXiv:2106.1 1959)では、各入力トークンは、固定IDとサンプル固有の測定値とを融合して構築される。
事前の作業では、特別なトークンの注意重みを重要視してサンプルをランク付けする。
この勾配法は,無署名の注意重みによって完全に隠蔽された種に基づく感度診断を明らかにする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In a feature-tokenized transformer (arXiv:2106.11959) such as BiomeGPT (doi:10.64898/2026.01.05.697599), each input token is built by fusing a fixed identity with a sample-specific measurement: a fixed species and a variable abundance, T = S + A. To interpret downstream classification in such models, prior work inspects the attention weights of the special [CLS] token (arXiv:2106.11959, arXiv:1810.04805, BiomeGPT) to rank sample tokens by importance. These weights have two critical limitations: they are nonnegative, so they cannot separate disease-supporting from health-supporting evidence (arXiv:2201.12114), and they act after token fusion, obscuring how the input sources S and A each affect the output. To address this we use Integrated Gradients (arXiv:1703.01365), a signed, fusion-aware attribution method, and propose a source-derived baseline T' = S + A_0 for feature-tokenized models such as BiomeGPT, which preserves species identity as a fixed biological coordinate while isolating the effect of abundance variation. Applied to a disease-versus-health decision margin, it yields polarity that explicitly separates pathogenic from protective microbial signals. We show that this gradient-based approach uncovers species-abundance directional relationships and sensitivity diagnostics entirely obscured by unsigned [CLS] attention weights. We further recommend second-order Integrated Hessians (arXiv:2002.04138) to expose microbiome community interaction rules: how a perturbation in one member alters the model's sensitivity to another, and which other species drive ambiguous cases toward disease or health at a given abundance level. This provides a principled approach to explainability in BiomeGPT that generalizes to other smooth and differentiable feature-tokenized transformers. Code is available at https://github.com/nohren/token-source-attribution
- Abstract(参考訳): BiomeGPT (doi:10.64898/2026.01.697599) のような特徴トークン変換器 (arXiv:2106.1 1959) では、各入力トークンは、固定種と変数の多元性、T = S + A といったサンプル固有の測定値とを融合することによって構築される。
これらの重みには2つの重要な制限がある: それらは非陰性であるため、健康を支えている証拠(arXiv:2201.12114)とは分離できない。
これを解決するために, 固定生物座標として種同定を保存し, 存在量変化の影響を分離しつつ, 固定生物座標として保存するBiomeGPTのような特徴量モデルに対して, 原点由来のベースラインT' = S + A_0を提案する(arXiv:1703.01365)。
疾患対健康判定マージンに適用すると、病原体と保護微生物のシグナルを明確に分離する極性が得られる。
この勾配に基づくアプローチは,無符号(CLS)の注意重みによって完全に隠蔽された,種多様性の方向性関係と感度診断を明らかにする。
さらに,微生物群集相互作用のルールを明らかにするために,微生物群集の2次統合ヘッセン(arXiv:2002.04138)を推奨する。
これはBiomeGPTにおける説明可能性に対する原則的なアプローチであり、他のスムーズで微分可能な特徴トークン変換に一般化する。
コードはhttps://github.com/nohren/token-source-attributionで入手できる。
関連論文リスト
- BioM-JEPA: joint-embedding prediction of graph-connected gene blocks in single cells [64.21963170814706]
BioM-JEPAはグラフ接続された遺伝子ブロックの集合表現を予測する。
学生ネットワークは、細胞内の残りの遺伝子から各ターゲットブロック表現を推論する。
CellBenchタスク全体で、BioM-JEPA埋め込みは発現、経路、および周辺情報を保持している。
論文 参考訳(メタデータ) (2026-08-06T11:58:29Z) - Data-Driven Soft Labeling Scales DNA Read Classification to Whole-Body Cell-Type Deconvolution [0.0]
我々はSytoについて紹介する。Sytoは読み取りレベルの分類に基づくデコンボリューションのための新しいモジュラーフレームワークである。
39のヒト細胞型の全身アトラスでは、SytoはSOTAよりもMSEを2.56$times$で還元する。
Sytoは、ますます大きな細胞型パネルのモデリングの基礎を築き、生物学や医療にも応用している。
論文 参考訳(メタデータ) (2026-07-06T12:25:16Z) - Disease Is a Spectral Perturbation [0.6629765271909503]
そこで本研究では,バイオマーカーレベルの説明可能性を持つ健康なベースラインから病原体への形質転換を理解する新しい方法を提案する。
我々はこの枠組みを定式化し、疾患の摂動によるスペクトル変化を導出し、新たに診断された患者の累積バイオマーカー共分散構造の病原性固有モデムへの投影が、疾患予後の精度を高めるための最適な予後統計であることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:01:04Z) - Graph Transformer-Based Pathway Embedding for Cancer Prognosis [12.185038682072213]
本稿では,遺伝子組換え戦略であるPATHを紹介する。
PATHは、各遺伝子に対する共有塩基の埋め込みから始めることでパラダイムシフトを表す。
PATHのF1スコアは0.8766で、現在のSOTAマルチオミクスベンチマークよりも8.8%改善している。
論文 参考訳(メタデータ) (2026-04-17T20:41:58Z) - Detecting Batch Heterogeneity via Likelihood Clustering [0.9668407688201359]
バッチエフェクトはゲノム診断の主要な共同創設者である。
ベイジアンモデル証拠に従ってサンプルをクラスタリングすることで,両方の制約に対処する手法を提案する。
本手法は,標準相関法や次元縮小法と比較して,クラスタリング精度が優れている。
論文 参考訳(メタデータ) (2026-01-14T01:49:21Z) - Unlasting: Unpaired Single-Cell Multi-Perturbation Estimation by Dual Conditional Diffusion Implicit Bridges [68.98973318553983]
本稿では,Dual Diffusion Implicit Bridges (DDIB) に基づくフレームワークを提案する。
我々は、生物学的に意味のある方法で摂動シグナルを伝達するために遺伝子制御ネットワーク(GRN)情報を統合する。
また、サイレント遺伝子を予測し、生成したプロファイルの品質を向上させるためのマスキング機構も組み込んだ。
論文 参考訳(メタデータ) (2025-06-26T09:05:38Z) - Prompting Whole Slide Image Based Genetic Biomarker Prediction [13.764676578911526]
本稿では,全スライド画像(WSI)に基づく遺伝的バイオマーカー予測手法を提案する。
我々は、大きな言語モデルを利用して、遺伝バイオマーカーに関連する事例を抽出する際、先行知識となる医学的プロンプトを生成する。
腫瘍微小環境におけるバイオマーカー情報のマイニングには粗大なアプローチを採用する。
論文 参考訳(メタデータ) (2024-06-26T11:05:46Z) - Predicting Genetic Mutation from Whole Slide Images via Biomedical-Linguistic Knowledge Enhanced Multi-label Classification [119.13058298388101]
遺伝子変異予測性能を向上させるため,生物知識を付加したPathGenomic Multi-label Transformerを開発した。
BPGTはまず、2つの慎重に設計されたモジュールによって遺伝子前駆体を構成する新しい遺伝子エンコーダを確立する。
BPGTはその後ラベルデコーダを設計し、最終的に2つの調整されたモジュールによる遺伝的突然変異予測を行う。
論文 参考訳(メタデータ) (2024-06-05T06:42:27Z) - Domain Invariant Model with Graph Convolutional Network for Mammogram
Classification [49.691629817104925]
グラフ畳み込みネットワークを用いたドメイン不変モデル(DIM-GCN)を提案する。
まず,潜伏変数を病原性その他の疾患関連部位に明示的に分解するベイズネットワークを提案する。
マクロな特徴をよりよく捉えるために、我々は、GCN(Graph Convolutional Network)を介して、観察された臨床特性を再構築の目的として活用する。
論文 参考訳(メタデータ) (2022-04-21T08:23:44Z) - Discriminative Singular Spectrum Classifier with Applications on
Bioacoustic Signal Recognition [67.4171845020675]
分析や分類に有用な特徴を効率的に抽出する識別機構を備えた生体音響信号分類器を提案する。
タスク指向の現在のバイオ音響認識法とは異なり、提案モデルは入力信号をベクトル部分空間に変換することに依存する。
提案法の有効性は,アヌラン,ミツバチ,蚊の3種の生物音響データを用いて検証した。
論文 参考訳(メタデータ) (2021-03-18T11:01:21Z) - G-MIND: An End-to-End Multimodal Imaging-Genetics Framework for
Biomarker Identification and Disease Classification [49.53651166356737]
診断によって誘導される画像データと遺伝データを統合し、解釈可能なバイオマーカーを提供する新しいディープニューラルネットワークアーキテクチャを提案する。
2つの機能的MRI(fMRI)パラダイムとSingle Nucleotide Polymorphism (SNP)データを含む統合失調症の集団研究で本モデルを評価した。
論文 参考訳(メタデータ) (2021-01-27T19:28:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。