論文の概要: INTR++: INterpretable TRansformer with better Accuracy, Interpretability, and Adaptability
- arxiv url: http://arxiv.org/abs/2610.37178v1
- Date: Tue, 27 Oct 2026 13:03:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.631097
- Title: INTR++: INterpretable TRansformer with better Accuracy, Interpretability, and Adaptability
- Title(参考訳): INTR++: 精度、解釈可能性、適応性に優れた非解釈型TRansformer
- Abstract要約: INTR++ は Prompt-CAM を拡張し、軽量な Prompt Adapter Module (PAM) を組み込んだ。
PAMは、ドメイン固有の知識を豊かにすることで、プロンプトの適応を可能にする。
InTR++は、動物、植物、医療画像、顕微鏡画像、リモートセンシング画像、オブジェクト中心のデータなど、すべての領域で一貫した改善を提供する。
- 参考スコア(独自算出の注目度): 24.15524077107374
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Interpretable Transformers often perform well in domain specific settings but lose effectiveness beyond that. Achieving ViT-like broad applicability requires models with consistent performance across domains. Recent works on Interpretable Transformers, INTR and Prompt-CAM, were developed keeping domain adaptability in mind. Prompt-CAM leverages learnable prompts to promote adaptability. However, these prompts are fixed in nature and therefore struggle to adapt to domains with substantial variation in input image characteristics, resulting in reduced interpretability. To address this limitation, we propose INTR++, which extends Prompt-CAM by incorporating a lightweight Prompt Adapter Module (PAM). PAM enables prompts to be adaptive by enriching them with domain-specific knowledge, thereby ensuring consistent interpretability across diverse domains including those with varying image characteristics such as medical imaging, micro-scopic imaging, and remote sensing imagery. INTR++ retains the standard architecture and end-to-end learning of Interpretable Transformer based models, while adding only a small number of additional parameters compared to Prompt-CAM. We demonstrate that INTR++ delivers consistent improvements in all aspects across domains like animals, plants, medical imaging, microscopic imaging, remote sensing imagery and object-centric data.
- Abstract(参考訳): 解釈可能なトランスフォーマーはドメイン固有の設定でよく機能するが、それ以上の効果は失われる。
ViTのような広範な適用性を達成するには、ドメイン間で一貫したパフォーマンスを持つモデルが必要である。
ドメイン適応性を念頭に置いて, 解釈変換器, INTR, Prompt-CAMに関する最近の研究が進められている。
Prompt-CAMは学習可能なプロンプトを利用して適応性を促進する。
しかし、これらのプロンプトは本質的に固定されており、入力画像の特徴がかなり変化する領域への適応に苦慮しているため、解釈可能性が低下する。
この制限に対処するため,軽量なPrompt Adapter Module (PAM)を導入してPrompt-CAMを拡張したINTR++を提案する。
PAMは、ドメイン固有の知識を豊かにすることで、プロンプトを適応させることを可能にし、医用画像、顕微鏡画像、リモートセンシング画像などの様々な画像特性を持つ領域を含む様々な領域で一貫した解釈性を確保する。
INTR++は、Interpretable Transformerベースのモデルの標準アーキテクチャとエンドツーエンドの学習を維持し、Prompt-CAMと比較して、少数の追加パラメータしか追加していない。
InTR++は、動物、植物、医療画像、顕微鏡画像、リモートセンシング画像、オブジェクト中心のデータなど、すべての領域で一貫した改善を提供する。
関連論文リスト
- Spot-the-shift: Evaluating Grounded Image Difference Captioning of Long-term Changes [60.0903155031313]
同じ場所のイメージからの長期的変化の理解は、マップメンテナンスや都市インフラ監視の応用において難しい課題である。
本研究では,現実世界の運転シーンの長期的変化を示す画像差分キャプションの人間検証ベンチマークであるSPOT-the-SHIFTを紹介する。
本研究では,人間の研究によって検証されたモデルのキャプション能力を確実に評価する評価プロトコルを提案する。
論文 参考訳(メタデータ) (2026-09-09T15:52:04Z) - From Adaptation to Generalization: Adaptive Visual Prompting for Medical Image Segmentation [58.93075548229873]
本稿では,学習可能なプロンプトメモリから入力固有のプロンプトを抽出するAdaptive Prompt Extractionフレームワークを提案する。
メモリは多様なドメイン識別プロンプト表現を格納し、フーリエスペクトルから抽出されたドメイン特徴を介してクエリされる。
2つのメディカルセグメンテーションタスクの実験により、APEXは、目に見えない領域と見えない領域の両方にわたる一般化を著しく改善することを示した。
論文 参考訳(メタデータ) (2026-04-19T14:14:10Z) - AuxDet: Auxiliary Metadata Matters for Omni-Domain Infrared Small Target Detection [49.81255045696323]
補助メタデータ駆動型赤外小型ターゲット検出器(AuxDet)について述べる。
AuxDetはメタデータセマンティクスと視覚的特徴を統合し、各サンプルに対する適応表現学習を導く。
挑戦的なWideIRSTD-Fullベンチマークの実験は、AuxDetが一貫して最先端のメソッドより優れていることを示した。
論文 参考訳(メタデータ) (2025-05-21T07:02:05Z) - TransAdapter: Vision Transformer for Feature-Centric Unsupervised Domain Adaptation [0.3277163122167433]
Unsupervised Domain Adaptation (UDA)は、ソースドメインのラベル付きデータを使用して、ラベルなしのターゲットドメインのタスクを解決することを目的としている。
従来のCNNベースの手法は、複雑なドメイン関係を完全に捉えるのに苦労している。
3つの鍵モジュールを持つSwin Transformerを利用する新しいUDA手法を提案する。
論文 参考訳(メタデータ) (2024-12-05T11:11:39Z) - Counterfactual contrastive learning: robust representations via causal image synthesis [17.273155534515393]
CF-SimCLRは、正のペア生成に近似した反現実的推論を利用する対実的コントラスト学習手法である。
CF-SimCLRは, 配当データと配当データの両方において, 下流性能を向上し, 買収シフトを大幅に改善することを示す。
論文 参考訳(メタデータ) (2024-03-14T17:47:01Z) - Optimizing Vision Transformers for Medical Image Segmentation and
Few-Shot Domain Adaptation [11.690799827071606]
我々はCS-Unet(Convolutional Swin-Unet)トランスフォーマーブロックを提案し、パッチ埋め込み、プロジェクション、フィードフォワードネットワーク、サンプリングおよびスキップ接続に関連する設定を最適化する。
CS-Unetはゼロからトレーニングすることができ、各機能プロセスフェーズにおける畳み込みの優位性を継承する。
実験によると、CS-Unetは事前トレーニングなしで、パラメータが少ない2つの医療用CTおよびMRIデータセットに対して、最先端の他のデータセットを大きなマージンで上回っている。
論文 参考訳(メタデータ) (2022-10-14T19:18:52Z) - Adaptive Transformers for Robust Few-shot Cross-domain Face
Anti-spoofing [71.06718651013965]
我々は、堅牢なクロスドメイン顔アンチスプーフィングのための適応型視覚変換器(ViT)を提案する。
私たちはVTをバックボーンとして採用し、その強度を利用して画素間の長距離依存を考慮します。
いくつかのベンチマークデータセットの実験では、提案されたモデルが堅牢かつ競合的なパフォーマンスを達成することが示されている。
論文 参考訳(メタデータ) (2022-03-23T03:37:44Z) - TVT: Transferable Vision Transformer for Unsupervised Domain Adaptation [54.61786380919243]
Unsupervised domain adapt (UDA) は、ラベル付きソースドメインから学習した知識をラベル付きターゲットドメインに転送することを目的としている。
これまでの研究は主に、ドメイン不変表現を学ぶために畳み込みニューラルネットワーク(CNN)上に構築されていた。
近年、視覚タスクに視覚変換器(ViT)を適用する指数関数的増加に伴い、ドメイン間の知識を適応するViTの能力は文献上未解明のままである。
論文 参考訳(メタデータ) (2021-08-12T22:37:43Z) - Intriguing Properties of Vision Transformers [114.28522466830374]
視覚変換器(ViT)は、様々なマシンビジョン問題にまたがって印象的な性能を誇示している。
我々は、この問題を広範囲の実験を通して体系的に研究し、高性能畳み込みニューラルネットワーク(CNN)との比較を行った。
ViTsの効果的な特徴は、自己認識機構によって可能なフレキシブルな受容と動的場によるものであることを示す。
論文 参考訳(メタデータ) (2021-05-21T17:59:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。