論文の概要: hZACH-ViT: Curved Latent Geometry for Compact Vision Transformers in Low-Data Medical Imaging
- arxiv url: http://arxiv.org/abs/2606.00906v1
- Date: Sat, 30 May 2026 22:03:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.970787
- Title: hZACH-ViT: Curved Latent Geometry for Compact Vision Transformers in Low-Data Medical Imaging
- Title(参考訳): hZACH-ViT:低次元医用画像における小型視力変換器の曲面潜時幾何学
- Abstract要約: hZACH-ViTは、位置埋め込みとクラストークンを削除する、コンパクトなゼロトークンビジョン変換器である。
我々は、7つのMedMNISTデータセット上のhZACH-ViTヘッドを、同じ数ショットのプロトコルで評価する。
7つのデータセット全体にわたって、最高の非ユークリッドhZACH-ViT構成は、ユークリッドZACH-ViTよりも改善されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Compact Vision Transformers are attractive for medical imaging in low-data and resource-constrained settings, but most existing variants assume that Euclidean latent geometry is sufficient for organizing image representations. We introduce hZACH-ViT, a family of curved-geometry extensions of ZACH-ViT, a compact zero-token Vision Transformer that removes positional embeddings and the class token and relies on global average pooling over patch representations. To isolate the role of geometry, we preserve the verified ZACH-ViT backbone and modify only the final representation space and prototype-based classifier head, enabling a controlled comparison between Euclidean, hyperbolic, and spherical latent geometries. We evaluate Poincaré, Klein, and spherical hZACH-ViT heads on seven MedMNIST datasets under an identical few-shot protocol with 50 samples per class and five random seeds. The completed benchmark contains 770 training runs spanning seven datasets, three non-Euclidean geometries, seven curvature magnitudes, and a Euclidean baseline. Across all seven datasets, the best non-Euclidean hZACH-ViT configuration improves over Euclidean ZACH-ViT, with an average gain of +0.021 in the dataset-specific primary metric and the largest improvement on OCTMNIST (+0.055 MacroF1). Fixed low-curvature configurations retain positive gains on the majority of datasets, and low curvature values (c = 0.1 or 0.2) account for six of the seven dataset-level winners. Rather than identifying a universally optimal manifold, our results establish geometry and curvature as dataset-dependent model-selection variables, with fixed low-curvature analyses confirming that gains persist beyond exhaustive per-dataset tuning.
- Abstract(参考訳): コンパクト・ビジョン・トランスフォーマーは、低データおよびリソース制約の環境での医療画像撮影には魅力的であるが、既存のほとんどの変種では、ユークリッドの潜在幾何学は画像表現を整理するのに十分であると考えられている。
本稿では,ZACH-ViTの曲面幾何学拡張系であるhZACH-ViTを紹介する。
幾何の役割を分離するために、検証済みのZACH-ViTバックボーンを保存し、最終表現空間とプロトタイプベースの分類器ヘッドのみを修正し、ユークリッド、双曲、球状潜在測地との制御された比較を可能にする。
我々は,ポアンカレ,クライン,球状hZACH-ViTの7つのMedMNISTデータセットを,クラス毎に50のサンプルと5つのランダムシードで同一の少数ショットプロトコルで評価した。
完成したベンチマークには、7つのデータセットにまたがる770のトレーニング実行、3つの非ユークリッドジオメトリー、7つの曲率、ユークリッドベースラインが含まれている。
7つのデータセット全体にわたって、最高の非ユークリッドhZACH-ViT構成はユークリッドZACH-ViTよりも改善され、データセット固有のプライマリメトリックでは+0.021、OCTMNIST(+0.055 MacroF1)では最大である。
固定された低曲率構成はデータセットの大多数で正の利得を維持し、低曲率値(c = 0.1または0.2)は7つのデータセットレベルの勝者のうち6つを占める。
一般化された最適多様体を同定するのではなく,データセットに依存したモデル選択変数として幾何と曲率を定式化した。
関連論文リスト
- Self-Geometry: GT-Free and Plug-and-Play Test-Time Adaptation for Geometrically Consistent 3D Vision Foundation Models [12.061080782435013]
最近のビジョンファウンデーションモデル(VFM)は、シーンごとの最適化なしに、単一の前方パスで深さ、カメラポーズ、ポイントマップを予測する。
明示的な多視点幾何学的整合性(例えば束調整など)を強制することは、計算コストがかかるため、VFM事前訓練では課されない。
本研究では,2次元画素対応を擬似接地構造として用いた明示的な多視点幾何制約を直接課す,プラグアンドプレイテスト時適応パイプラインであるセルフジオメトリを提案する。
論文 参考訳(メタデータ) (2026-08-11T09:28:50Z) - FoundationGeo: Learning Spatial Pixel-Wise Fields for Monocular Metric Geometry [52.232826445242644]
FoundationGeoは空間キャリブレーションと原則データ設計による相対的および計量的予測を橋渡しする。
ステージ1は DINOv3 で初期化することで高忠実なアフィン不変幾何モデルを学ぶ。
ステージ2は、メートル法推定のためのピクセルワイドキャリブレーションフィールドを導入することで、グローバルなスケーリングを越えている。
論文 参考訳(メタデータ) (2026-07-13T14:10:01Z) - Active Learning with Low-Rank Structure for Data Selection [85.43185363043362]
低ランク近似と残差に基づくサンプリングに基づく新しいデータ選択フレームワークを提案する。
平均損失がデータセット全体の平均損失を近似した$tildeOleft(k + frac1varepsilon2right)$データポイントの重み付きサブセットを選択することができることを示す。
論文 参考訳(メタデータ) (2026-06-14T22:29:59Z) - BiDexGrasp: Coordinated Bimanual Dexterous Grasps across Object Geometries and Sizes [64.2030401965582]
BiDexGraspは、大規模な2次元デキスタラスグリップデータセットと、新しい生成モデルから構成される。
本研究では,30cmから80cm程度の大きさの6351個の多種多様な物体からなる大規模2次元デキスタス・グリップ・データセットを構築した。
本稿では,2次元適応型および幾何サイズ適応型デキスタラスグルーピング生成フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-08T02:17:11Z) - ZACH-ViT: Regime-Dependent Inductive Bias in Compact Vision Transformers for Medical Imaging [0.0]
ZACH-ViTはコンパクトなビジョン変換器で、位置埋め込みとトークンの両方を取り除きます。
特に「ゼロトークン」とは、専用の[NIST]アグリゲーショントークンと位置埋め込みを取り除くことを指す。
ZACH-ViTは、サブ秒の推論時間を維持しながら競合性能を達成する。
論文 参考訳(メタデータ) (2026-02-20T01:38:59Z) - Inverting Self-Organizing Maps: A Unified Activation-Based Framework [39.146761527401424]
我々は,SOMの活性化パターンを逆転させて,微妙な幾何学的条件下での正確な入力を復元できることを示す。
我々は,MUSIC (Manifold-Aware Unified SOM Inversion and Control) 更新ルールを導入する。
合成ガウス混合系, MNIST と Faces in the Wild を用いたアプローチを検証した。
論文 参考訳(メタデータ) (2026-01-20T11:02:54Z) - GeoDM: Geometry-aware Distribution Matching for Dataset Distillation [5.993128231927707]
我々はtextbfGeoDM と呼ばれる幾何学的分布マッチングフレームワークを提案する。
基礎となるデータ形状に適応するために,3種類の測地に対して学習可能な曲率と重みパラメータを導入する。
我々の理論的解析は、積空間における幾何対応分布マッチングがユークリッド空間よりも小さい一般化誤差をもたらすことを示している。
論文 参考訳(メタデータ) (2025-12-09T07:31:57Z) - Enforcing Latent Euclidean Geometry in Single-Cell VAEs for Manifold Interpolation [79.27003481818413]
離散的様相変分オートエンコーダの潜在多様体をユークリッド幾何学へ正規化する訓練フレームワークであるFlatVIを紹介する。
遅延空間の直線を復号化された単セル多様体上の測地線に近似させることで、FlatVIは下流アプローチとの整合性を高める。
論文 参考訳(メタデータ) (2025-07-15T23:08:14Z) - CAP-Net: A Unified Network for 6D Pose and Size Estimation of Categorical Articulated Parts from a Single RGB-D Image [86.75098349480014]
本稿では,ロボット操作作業における調音物体のカテゴリーレベルのポーズ推定に取り組む。
そこで本研究では,Categorical Articulated Partsの6次元ポーズとサイズを推定するためのシングルステージネットワークCAP-Netを提案する。
我々は,RGB画像と実センサからシミュレーションした深度雑音を特徴とするRGB-D調音データセットであるRGBD-Artデータセットを紹介した。
論文 参考訳(メタデータ) (2025-04-15T14:30:26Z) - ShapeSplat: A Large-scale Dataset of Gaussian Splats and Their Self-Supervised Pretraining [112.40071212468843]
3D Gaussian Splatting (3DGS)は多くの視覚タスクにおいて3D表現の事実上の方法となっている。
一般的なShapeNet, ModelNet, averseを用いて3DGSの大規模データセットを構築した。
本稿では,ガウスパラメータからの表現学習の独特な利点を浮き彫りにしたガウスMAEを紹介する。
論文 参考訳(メタデータ) (2024-08-20T14:49:14Z) - Frenet-Serret Frame-based Decomposition for Part Segmentation of 3D Curvilinear Structures [26.53820792357073]
医用画像における正確な3次元キュビリニア構造のセグメンテーションは、複雑な形状のため、依然として困難である。
本稿では,Frenet-Serret Frame-based Decompositionを導入し,3次元曲線構造を大域(C2)連続曲線に分解する。
DenSpineEMの実験は、例外的なクロスリージョンおよびクロス種一般化を実証した。
論文 参考訳(メタデータ) (2024-04-19T16:40:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。