Fugu-MT 論文翻訳(概要): MMA-Former: Multi-Window Mixture-of-Head Attention Transformer for Adaptive PNI Prediction in 3D MRI

論文の概要: MMA-Former: Multi-Window Mixture-of-Head Attention Transformer for Adaptive PNI Prediction in 3D MRI

arxiv url: http://arxiv.org/abs/2607.10988v1
Date: Mon, 13 Jul 2026 01:22:16 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-14 17:47:21.293936
Title: MMA-Former: Multi-Window Mixture-of-Head Attention Transformer for Adaptive PNI Prediction in 3D MRI
Title（参考訳）: MMA-Former:3次元MRIにおける適応PNI予測のためのマルチウインドウ混合注意変換器
Abstract要約: 3次元MRIからの非侵襲的予測は困難であり、モデルを必要とする。マルチウィンドウ混合型ヘッドアテンショントランス(MMA-Former)を提案する。 MMA-FormerのAUCは0.752で、他の3Dアーキテクチャよりも優れていた。
参考スコア（独自算出の注目度）: 10.952583431192279
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Perineural invasion (PNI) is a critical prognostic factor in cholangiocarcinoma. Non-invasive prediction from 3D MRI is challenging, demanding models that efficiently capture both fine-grained details and global context. We propose the Multi-window Mixture-of-Head Attention Transformer (MMA-Former), a novel end-to-end 3D architecture featuring a Coarse-Fine Transformer (CFT) structure for parallel multi-scale feature extraction. We advance this structure by integrating a novel Window-Specific Mixture-of-Head attention (WS-MoH) mechanism. Unlike standard Multi-Head Self Attention (MSA), WS-MoH generates a representation for each 3D window and dynamically routes the entire window to specialized or common attention heads. This enables spatially adaptive feature extraction tailored to the local context of each window, enhancing specialization and reducing redundancy without increasing parameters. Evaluated on a retrospective dataset of 168 T1-weighted MRI scans, MMA-Former achieved an AUC of 0.752, outperforming other 3D architectures, including the best CNN (AUC of 0.708) and Transformer baselines (AUC of 0.681).
Abstract（参考訳）: 肝門部浸潤(PNI)は胆管癌における重要な予後因子である。 3D MRIからの非侵襲的予測は困難であり、微細な細部とグローバルな文脈の両方を効率的に捉えるモデルを必要とする。マルチウィンドウ・ミックス・オブ・ヘッドアテンション・トランス (MMA-Former) を提案する。我々はこの構造を、新しい「ウィンドウ・スペック・ミックス・オブ・ヘッド・アテンション(WS-MoH)」機構を統合することで前進させる。標準的なマルチヘッド・セルフ・アテンション(MSA)とは異なり、WS-MoHは3Dウィンドウごとに表現を生成し、ウィンドウ全体を特殊または一般的なアテンション・ヘッドに動的にルーティングする。これにより、各ウィンドウのローカルコンテキストに合わせて空間適応的な特徴抽出が可能となり、パラメータを増大させることなく、特殊化と冗長性を低減することができる。 MMA-Formerは168T1強調MRIスキャンの振り返りデータセットに基づいて、AUC 0.752を達成し、最高のCNN(AUC 0.708)やTransformer baselines(AUC 0.681)など、他の3Dアーキテクチャを上回った。

関連論文リスト

UniField: A Unified Field-Aware MRI Enhancement Framework [45.03230466428695]
methodnameは、複数のモダリティと拡張タスクを統合する統合フレームワークである。我々は、事前学習した3D基礎モデルを利用して、総合的な3Dボリューム情報を利用する。我々は,総合的なマルチフィールドMRIデータセットを編成し,公開する。
論文参考訳（メタデータ） (2026-03-10T05:45:12Z)
DuaDeep-SeqAffinity: Dual-Stream Deep Learning Framework for Sequence-Only Antigen-Antibody Affinity Prediction [0.0]
従来の計算手法は、しばしば実験的に決定された3D構造に依存している。本稿では,アミノ酸配列のみからアフィニティスコアを予測する新しいシーケンスのみのディープラーニングフレームワークであるDuaDeep-SeqAffinityを紹介する。提案手法は,1D Convolutional Neural Networks (CNN) とTransformer encoderを併用して,事前学習したESM-2タンパク質言語モデル埋め込みを利用する。
論文参考訳（メタデータ） (2025-12-26T12:06:59Z)
Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
論文参考訳（メタデータ） (2025-11-04T17:22:22Z)
SYNAPSE-Net: A Unified Framework with Lesion-Aware Hierarchical Gating for Robust Segmentation of Heterogeneous Brain Lesions [0.23332469289621785]
一般化とロバスト性の両方のために設計された適応型フレームワークであるUnified Multi-Stream SynAPSE-Netを提案する。このフレームワークは、マルチストリームCNNエンコーダ、グローバルコンテキストのためのSwin Transformerボトルネック、動的モーダルアテンション融合機構を統合した、新しいハイブリッドアーキテクチャの上に構築されている。モデルは3つの異なる公開データセットで評価された。
論文参考訳（メタデータ） (2025-10-30T19:40:42Z)
ShortcutBreaker: Low-Rank Noisy Bottleneck with Global Perturbation Attention for Multi-Class Unsupervised Anomaly Detection [59.89803740308262]
ShortcutBreakerはMUADタスクのための新しい統合された機能再構成フレームワークである。ショートカットの問題に対処する2つの重要なイノベーションが特徴だ。提案手法は,4つのデータセットに対して,99.8%,98.9%,90.6%,87.8%の顕著な画像レベルのAUROCを実現する。
論文参考訳（メタデータ） (2025-10-21T06:51:30Z)
Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
論文参考訳（メタデータ） (2025-09-03T18:05:02Z)
Parameter-Efficient Fine-Tuning of 3D DDPM for MRI Image Generation Using Tensor Networks [23.30947697113457]
3次元U-Netを用いた拡散確率モデル(DDPM)におけるパラメータ効率細調整(PEFT)の課題に対処する。本研究では,3次元畳み込みバックボーンを有するDDPMを微調整するための新しいPEFT手法であるTenVOOを提案する。この結果から, マルチスケール類似度指標(MS-SSIM)において, TenVOO が最先端の性能を達成することを示す。
論文参考訳（メタデータ） (2025-07-24T05:51:51Z)
An Efficient and Mixed Heterogeneous Model for Image Restoration [71.85124734060665]
現在の主流のアプローチは、CNN、Transformers、Mambasの3つのアーキテクチャパラダイムに基づいている。混合構造融合に基づく効率的で汎用的なIRモデルであるRestorMixerを提案する。
論文参考訳（メタデータ） (2025-04-15T08:19:12Z)
DeformUX-Net: Exploring a 3D Foundation Backbone for Medical Image Segmentation with Depthwise Deformable Convolution [26.746489317083352]
本稿では,CNNモデルのパイオニアである3D DeformUX-Netを紹介する。計算効率に長範囲依存を適応させるため,体積変形可能な畳み込みを奥行き設定で再検討する。我々の経験的評価は、3D DeformUX-Netが既存の最先端のViTや大規模なカーネル畳み込みモデルよりも一貫して優れていることを示している。
論文参考訳（メタデータ） (2023-09-30T00:33:41Z)
Global-to-Local Modeling for Video-based 3D Human Pose and Shape Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文参考訳（メタデータ） (2023-03-26T14:57:49Z)
CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
論文参考訳（メタデータ） (2021-12-31T04:37:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。