Fugu-MT 論文翻訳(概要): TAP-Path: Task-Adaptive Structural and Token Pruning for Efficient and Trustworthy Pathology Foundation Models

論文の概要: TAP-Path: Task-Adaptive Structural and Token Pruning for Efficient and Trustworthy Pathology Foundation Models

arxiv url: http://arxiv.org/abs/2609.04071v1
Date: Thu, 03 Sep 2026 16:43:36 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 18:28:39.157676
Title: TAP-Path: Task-Adaptive Structural and Token Pruning for Efficient and Trustworthy Pathology Foundation Models
Title（参考訳）: TAP-Path: 効率的かつ信頼性の高い病理基盤モデルのためのタスク適応型構造とトーケンプルーニング
Abstract要約: 本稿では,タスク適応型圧縮フレームワークであるTAP-Pathを提案する。 3つのタスクヘッド最適化シードの中で、TAP-Pathはテスト精度が87.98 pm 0.067%、バランスの取れた精度が81.26 pm 0.49%、32クラスの病理組織検査で8.38 pm 0.48%$ macro-F1を達成した。その結果、タスク適応型構造とトークンスペーシングは、大きな病理基盤モデルの精度と効率のトレードオフを改善することができることがわかった。
参考スコア（独自算出の注目度）: 3.7851234061033856
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Pathology foundation models improve transferable representation learning for histopathology, but recent gains often rely on encoders with hundreds of millions of parameters and high inference cost. We propose TAP-Path, a task-adaptive compression framework that directly restructures a pretrained Virchow2 encoder rather than distilling it into a separate student. TAP-Path combines validation-driven transformer-block selection, physical removal of redundant blocks, input-adaptive patch-token pruning, multi-depth feature recovery, and a lightweight gated task head. The final model retains 24 of 32 transformer blocks and 70% of patch tokens after pruning, reducing encoder parameters by 24.96% (631.24M to 473.70M) and analytical encoder compute by 35.20% (340.13G to 220.40G FLOPs). Across three task-head optimization seeds, TAP-Path achieved $87.98 \pm 0.067%$ test accuracy, $81.26 \pm 0.49%$ balanced accuracy, and $82.38 \pm 0.48%$ macro-F1 on a 32-class histopathology benchmark, compared with 86.89% for full Virchow2 and 87.67% for UNI2-h. TAP-Path achieved a Brier score of $0.1800 \pm 0.0005$ and failure-detection AUROC of $0.9047 \pm 0.0060$. A validation-only rare-aware objective improved rare-class balanced accuracy in a secondary operating analysis. Frozen external evaluation on 433 CPTAC samples yielded $91.22 \pm 0.83%$ accuracy and $91.10 \pm 0.81%$ balanced accuracy. These results show that task-adaptive structural and token sparsification can improve the accuracy-efficiency trade-off of large pathology foundation models while preserving reliability under internal and external evaluation.
Abstract（参考訳）: 病理基盤モデルは、病理組織学の伝達可能な表現学習を改善するが、近年の進歩は、数億のパラメータと高い推論コストを持つエンコーダに依存していることが多い。本研究では,タスク適応型圧縮フレームワークであるTAP-Pathを提案する。 TAP-Pathは、バリデーション駆動のトランスフォーマーブロックの選択、冗長ブロックの物理的削除、入力適応型パッチトケンプルーニング、マルチディープス機能回復、軽量ゲートタスクヘッドを組み合わせる。最終モデルは、32個のトランスフォーマーブロックのうち24個と、プルーニング後のパッチトークンの70%を保持し、エンコーダパラメータを24.96%(631.24Mから473.70M)、分析エンコーダ計算を35.20%(340.13Gから220.40G FLOP)削減した。 3つのタスクヘッド最適化シードで、TAP-Pathはテスト精度が87.98 \pm 0.067%、バランスの取れた精度が81.26 \pm 0.49%、32クラスの病理組織学的ベンチマークで8.38 \pm 0.48%、Virchhow2の86.89%、UNI2-hの87.67%を達成した。 TAP-Path は Brier スコア 0.1800 \pm 0.0005$ と failure-detection AUROC スコア 0.9047 \pm 0.0060$ を達成した。二次動作解析におけるレアクラスのバランス精度を向上させるバリデーションのみのレア・ア・オペレーティブ 433 CPTAC試料の凍結外部評価では、91.22 \pm 0.83%$精度と911.10 \pm 0.81%$バランスの取れた精度が得られた。これらの結果から,タスク適応型構造とトークンスペーシフィケーションは,内部および外部評価下で信頼性を保ちながら,大規模病理基盤モデルの精度・効率トレードオフを改善することができることが示された。

関連論文リスト

Imbuing Large Language Models with Bidirectional Logic for Robust Chain Repair [44.80087038178069]
本稿では,デコーダのみのトランスフォーマーをネイティブに組み込んだトレーニングフレームワークであるTeleological Reasoning Infilling (TRI)を紹介する。推測では、TRIは二重システムループ内の外科的修復モジュールとして動作する。 3つのベンチマークの実験では、TRIは全てのタスクで最先端のパフォーマンスを達成し、プロブレム当たりのトークン支出を31.2%削減した。
論文参考訳（メタデータ） (2026-06-03T15:58:48Z)
Physics-Informed Learning of Effective Error Processes from Limited Noisy Transmon Measurements for Robust QAOA Reliability [0.0]
有限ショット計測から有効な量子誤り過程を学習するための物理インフォームドパイプラインを提案する。学習された表現はコンパクトな有効モデルである: 各キュービットに対する局所アフィンブロッホチャネル、および3キュービット拡張において、相関エラーをキャプチャするペアワイズ残差である。結果は、より信頼性の高い変動量子アルゴリズムへのハードウェア対応ルートとして、効果的なエラー処理学習をサポートする。
論文参考訳（メタデータ） (2026-05-29T20:58:00Z)
From Correlation to Cause: A Five-Stage Methodology for Feature Analysis in Transformer Language Models [0.0]
変換言語モデルにおける因果的特徴分析のための5段階の手法を提案する。 Indirect Object Identification (IOI) タスクを実行するGPT-2のエンド・ツー・エンドを実証する。
論文参考訳（メタデータ） (2026-05-21T13:25:16Z)
From Patches to Trajectories: Privileged Process Supervision for Software-Engineering Agents [56.31499185764872]
教師の長い軌道上の監督された微調整(SFT)は、オープンソフトウェアエンジニアリング(SWE)エージェントに調査と推論を浸透させる主要な方法である。本稿では,P2T (Patches-to-Trajectories) を提案する。P2T (Patches-to-Trajectories) は,P2T (Patches-to-Trajectories) において,P2T (Patches-to-Trajectories) とP2T (Patches-to-Trajectories) の2つの最適化法である。
論文参考訳（メタデータ） (2026-05-21T04:54:55Z)
Quantization Impact on the Accuracy and Communication Efficiency Trade-off in Federated Learning for Aerospace Predictive Maintenance [0.0]
フェデレートラーニング(FL)は、分散航空宇宙艦隊間のプライバシ保護による予測メンテナンスを可能にする。本稿では,対称均一量子化がカスタム設計軽量畳み込みモデルの精度-効率トレードオフに与える影響について検討する。 Int4はFD001とFD002でFP32と区別できない精度を実現する。
論文参考訳（メタデータ） (2026-04-09T17:13:15Z)
A Deployment-Friendly Foundational Framework for Efficient Computational Pathology [48.3868019137117]
モデルオーバーパラメータ化とパッチレベルの冗長性を緩和するLitePathを提案する。 LitePathは、1億9000万のパッチを使用して3つの大きなPFMから蒸留されたコンパクトなモデルであるLiteFMを統合している。 LitePathはVirchhow2より104.5倍高速で、3000のスライドに対して0.36 kWhを消費する。
論文参考訳（メタデータ） (2026-02-15T06:31:50Z)
Leveraging Convolutional Sparse Autoencoders for Robust Movement Classification from Low-Density sEMG [0.46976113832881716]
本研究では,2つの表面筋電図(sEMG)チャネルのみを用いた正確なジェスチャー認識のためのディープラーニングフレームワークを提案する。最小限の校正データで35.1%$pm$3.1%から92.3%$pm$0.9%のベースラインから、未確認被験者のパフォーマンスを改善した数ショット転送学習プロトコルを提案する。
論文参考訳（メタデータ） (2026-01-30T14:21:46Z)
CarBoN: Calibrated Best-of-N Sampling Improves Test-time Reasoning [62.56541355300587]
本稿では,高逆推論経路に向けてモデルを適応的に修正する一般的なテスト時間校正フレームワークを提案する。本フレームワークでは,まず解空間を探索し,次にロジットの校正を学習する二相法であるCarBoNを提案する。 MATH-500とAIME-2024の実験では、CarBoNは効率を向上し、同じ精度に達するために最大4倍のロールアウトが可能である。
論文参考訳（メタデータ） (2025-10-17T14:04:37Z)
A$^2$FM: An Adaptive Agent Foundation Model for Tool-Aware Hybrid Reasoning [40.6234318894435]
大規模言語モデルは、推論中心のLLMとエージェントのLLMの2つのファミリーに分けられた。この分割は、基本的に異なるトレーニング目標から生じ、単純なクエリに対して不一致の強度と非効率をもたらす。本稿では,アダプティブ・エージェント・ファンデーション・モデル (A$2$FM) を提案する。
論文参考訳（メタデータ） (2025-10-13T17:08:25Z)
LPASS: Linear Probes as Stepping Stones for vulnerability detection using compressed LLMs [0.0]
本稿では,Linear Probesを用いて圧縮された大言語モデルの性能を推定する方法を示す。また, レイヤプルーニング圧縮を適用する際に, カットオフ点の設定に適合することを示す。我々のアプローチは、$LPASS$と呼ばれ、480kのC/C++サンプル上で、MITREのTop 25の最も危険な脆弱性を検出するためにBERTとGemmaに適用される。
論文参考訳（メタデータ） (2025-05-30T10:37:14Z)
Patch-Level Contrasting without Patch Correspondence for Accurate and Dense Contrastive Representation Learning [79.43940012723539]
ADCLRは、正確で高密度な視覚表現を学習するための自己教師型学習フレームワークである。提案手法は, コントラッシブな手法のための新しい最先端性能を実現する。
論文参考訳（メタデータ） (2023-06-23T07:38:09Z)
Industrial Anomaly Detection and Localization Using Weakly-Supervised Residual Transformers [44.344548601242444]
Weakly-supervised RESidual Transformer (WeakREST) という新しいフレームワークを導入し,高い異常検出精度を実現する。画素単位の異常局所化タスクをブロック単位の分類問題に再構成する。弱いラベルと残差に基づく表現との相互作用を処理できるResMixMatchアルゴリズムを開発した。
論文参考訳（メタデータ） (2023-06-06T08:19:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。