論文の概要: Synergistic Information Disentanglement for Omni-modal Slide Representation Learning in Computational Pathology
- arxiv url: http://arxiv.org/abs/2609.02118v2
- Date: Fri, 04 Sep 2026 07:51:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 13:53:00.588476
- Title: Synergistic Information Disentanglement for Omni-modal Slide Representation Learning in Computational Pathology
- Title（参考訳）: 計算病理学におけるOmni-modal Slide Representation Learningのための相乗的情報分散
- Abstract要約: スライド表現学習のための相乗的情報分散フレームワークであるtextsc$mathrm$-Omniを紹介する。
標準的なコントラストアプローチとは異なり、textsc$mathrm$-Omniでは、提案された$mathrmtextID$ objectiveによって規制されたSynergistic Information Bottleneck (SIB)を採用している。
textsc$mathrm$-Omniは、5つの独立した外部データセット間で優れた数ショットパフォーマンスを示している。
- 参考スコア（独自算出の注目度）: 9.109200908381622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In computational pathology (CPath), developing omni-modal self-supervised learning (SSL) models that integrate histology, genomics, and clinical reports enables transferable representation learning for whole slide images (WSIs). Existing approaches implicitly force heterogeneous modalities into a uniform latent space by contrastive alignment, causing modality collapse where unique, synergistic diagnostic signals (termed as $\mathrmΦ$) are discarded in favor of trivial redundancy. We hypothesize that the strongest task-agnostic SSL training signal stems from distilling the synergistic interactions over merely aligning shared redundancy. To this end, we introduce \textsc{$\mathrmΦ$-Omni}, a synergistic information disentanglement framework grounded in Partial Information Decomposition (PID) theory for slide representation learning. Unlike standard contrastive approaches, \textsc{$\mathrmΦ$-Omni} employs a Synergistic Information Bottleneck (SIB) regulated by the proposed $\mathrmΦ\text{ID}$ objective, which explicitly suppresses marginal redundancy while maximizing irreducible synergy, thereby distilling high-order cross-modal interactions. Following pretraining on breast ($n$=1031) and lung ($n$=919) cohorts, \textsc{$\mathrmΦ$-Omni} demonstrates superior few-shot performance across five independent external datasets spanning eight tasks compared to supervised and SSL baselines. Source code is available here.
- Abstract（参考訳）: 計算病理学(CPath)では、組織学、ゲノミクス、臨床報告を統合したオムニモーダル自己教師学習(SSL)モデルを開発することにより、スライド画像全体(WSI)の転送可能な表現学習が可能になる。
既存のアプローチは、異質なモダリティを対照的なアライメントによって一様潜在空間に暗黙的に強制し、特異で相乗的な診断信号($\mathrm</$)が、自明な冗長性のために破棄されるモダリティ崩壊を引き起こす。
最強のタスク非依存型SSLトレーニング信号は、単に共有冗長性の整合性よりも相乗的相互作用を蒸留することに起因すると仮定する。
この目的のために、スライド表現学習のための部分情報分解(PID)理論に基づく相乗的情報分散フレームワークである「textsc{$\mathrm</$-Omni}」を紹介した。
標準的な対照的なアプローチとは異なり、 \textsc{$\mathrm'$-Omni} は、提案された $\mathrm'\text{ID}$ objective によって規制されるSynergistic Information Bottleneck (SIB) を用いる。
乳房(n$=1031)と肺(n$=919)のコホートを事前トレーニングした後、 \textsc{$\mathrm</$-Omni} は8つのタスクにまたがる独立した外部データセットに対して、教師付きおよびSSLベースラインと比較して、優れた数ショットパフォーマンスを示す。
ソースコードはここにある。
関連論文リスト
- Spectral Dynamics of Semantic Drift in Clinical Multi-Agent Language Model Networks [0.0]
局所的な高密度傾斜角は、ハロゲン化データを閉じ込め、大域的なコンセンサスを防ぎ、恒久的なエントロピー飽和しきい値に向かってシステムを強制することを示す。
動的スペクトルモニタリングを$mathcalO(N3)$時間複雑さで導入することにより,グローバルな状態拡散を保証する数学的に厳密な手法を提案する。
論文 参考訳（メタデータ） (2026-07-23T20:20:45Z) - Beyond Activation Alignment: The Geometry of Neural Sensitivity [0.0]
そこで我々は,小摂動を識別する表現能力に着目した,局所的測位可能な情報に基づくフレームワークを提案する。
対称正定値行列の多様体上の対数スペクトル距離を用いてこれらの正規化シグネチャを比較する。
経験的に、このフレームワークは、独立に訓練された人工ニューラルネットワークで対応するレイヤのリカバリを可能にする。
論文 参考訳（メタデータ） (2026-05-04T23:21:24Z) - Multi-View Synergistic Learning with Vision-Language Adaption for Low-Resource Biomedical Image Classification [59.24009931000134]
MVSL(Multi-View Synergistic Learning)は、適応パラダイム、表現の粒度、疾患の意味的関係に対処する統合フレームワークである。
MVSLは、視覚的およびテキスト的エンコーダの適応を分離し、それぞれの表現特性を尊重する。
さらに、グローバルなイメージセマンティクスと局所的な病変レベルの証拠の両方を明示的にモデル化するために、多粒性コントラスト学習を導入する。
MVSLは、いくつかのショットとゼロショットの分類設定において、最先端のメソッドを一貫して上回る。
論文 参考訳（メタデータ） (2026-04-27T02:41:27Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳（メタデータ） (2026-04-18T10:50:46Z) - SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。
行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。
我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
論文 参考訳（メタデータ） (2026-01-06T19:47:11Z) - DiSSECT: Structuring Transfer-Ready Medical Image Representations through Discrete Self-Supervision [9.254163621425727]
DiSSECTはSSLパイプラインにマルチスケールベクトル量子化を統合するフレームワークで、離散的な表現ボトルネックを課す。
分類タスクとセグメンテーションタスクの両方で強力なパフォーマンスを実現し、微調整は最小か不要である。
複数の公開医用画像データセットにまたがってDiSSECTを検証し、その堅牢性と一般化性を示す。
論文 参考訳（メタデータ） (2025-09-23T07:58:21Z) - UniMRSeg: Unified Modality-Relax Segmentation via Hierarchical Self-Supervised Compensation [104.59740403500132]
マルチモーダルイメージセグメンテーションは、不完全/破損したモダリティの劣化による実際のデプロイメント課題に直面している。
階層型自己教師型補償(HSSC)による統一Modality-relaxセグメンテーションネットワーク(UniMRSeg)を提案する。
我々のアプローチは、入力レベル、特徴レベル、出力レベルをまたいだ完全なモダリティと不完全なモダリティの間の表現ギャップを階層的に橋渡しします。
論文 参考訳（メタデータ） (2025-09-19T17:29:25Z) - OTCXR: Rethinking Self-supervised Alignment using Optimal Transport for Chest X-ray Analysis [6.4136876268620115]
自己教師付き学習(SSL)は,X線などの医学的モダリティを解析するための有望な手法として登場した。
我々は,OTCXRを提案する。OTCXRは最適なトランスポート(OT)を利用して,密接なセマンティック不変性を学習する新しいSSLフレームワークである。
我々はOTCXRの有効性を3つの公開胸部X線データセットの総合的な実験により検証した。
論文 参考訳（メタデータ） (2024-04-18T02:59:48Z) - The Common Stability Mechanism behind most Self-Supervised Learning
Approaches [64.40701218561921]
自己指導型学習手法の安定性のメカニズムを説明するための枠組みを提供する。
我々は,BYOL,SWAV,SimSiam,Barlow Twins,DINOなどの非コントラスト技術であるSimCLRの動作メカニズムについて議論する。
私たちは異なる仮説を定式化し、Imagenet100データセットを使ってそれらをテストします。
論文 参考訳（メタデータ） (2024-02-22T20:36:24Z) - Understanding Self-Supervised Learning of Speech Representation via
Invariance and Redundancy Reduction [0.45060992929802207]
自己教師付き学習(SSL)は、ラベルのないデータから柔軟な音声表現を学習するための有望なパラダイムとして登場した。
本研究は,人間の知覚における冗長性低下の理論に触発されたSSL技術であるBarlow Twins(BT)を実証分析した。
論文 参考訳（メタデータ） (2023-09-07T10:23:59Z) - Sample-Efficient Linear Representation Learning from Non-IID Non-Isotropic Data [4.971690889257356]
コリンズとナイアーとヴァスワニによって提案された交互最小化・退化スキームの適応について紹介する。
iidにおいてもバニラ変動最小化降下は破滅的に失敗するが, 軽度に非等方性データは得られない。
我々の分析は、事前の作業を統一し、一般化し、幅広いアプリケーションに柔軟なフレームワークを提供する。
論文 参考訳（メタデータ） (2023-08-08T17:56:20Z) - STERLING: Synergistic Representation Learning on Bipartite Graphs [78.86064828220613]
二部グラフ表現学習の基本的な課題は、ノードの埋め込みを抽出する方法である。
最近の二部グラフSSL法は、正ノード対と負ノード対を識別することによって埋め込みを学習する対照的な学習に基づいている。
負のノードペアを持たないノード埋め込みを学習するための新しい相乗的表現学習モデル(STERling)を提案する。
論文 参考訳（メタデータ） (2023-01-25T03:21:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。