論文の概要: IQ-JEPA: A Joint-Embedding Predictive Architecture with a Hermitian Vision Transformer for Sound Speed and Attenuation Estimation from Ultrasound IQ Data
- arxiv url: http://arxiv.org/abs/2607.22351v1
- Date: Fri, 24 Jul 2026 14:31:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.153071
- Title: IQ-JEPA: A Joint-Embedding Predictive Architecture with a Hermitian Vision Transformer for Sound Speed and Attenuation Estimation from Ultrasound IQ Data
- Title(参考訳): IQ-JEPA:超音波IQデータによる音速・減衰推定のためのエルミタンビジョン変換器を用いた統合埋め込み予測アーキテクチャ
- Abstract要約: 組織内の音速は、十分に焦点を絞った画像の診断に必要不可欠である。
実チャネルデータと音速シミュレーションの両方を利用するIQ-JEPAを提案する。
79,293基のフルウェーブ2.5を2.5MHzでシミュレーションし、63,435基の未ラベルの取得で1万個のラベルで15.60m/sに達する。
- 参考スコア(独自算出の注目度): 0.17188280334580197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The speed of sound in tissue is a prerequisite for well-focused imaging and has diagnostic value, but recovering it from raw pulse-echo channel data is fundamentally a nonlinear inverse problem. Learned solvers are fast yet label hungry. Simulated sound-speed labels are expensive, while abundant real channel data is unlabeled. We propose IQ-JEPA to exploit both data types. An encoder is pretrained without labels to predict the latent representation of masked in-phase and quadrature (IQ) regions from visible context, then fine-tuned on simulated maps. Sound speed appears in the IQ signal as a phase difference, invariant to the constant phase offset. The encoder is a Hermitian vision transformer that operates on the complex signal directly. Its attention is equivariant to that phase and its conjugate-product feed-forward is invariant to it, so the encoder reads a quantity analogous to the one classical coherence methods use. On 79,293 Fullwave 2.5 simulations at 2.5 MHz, pretraining on the 63,435 unlabeled acquisitions reaches 15.60 m/s at 10,000 labels. This is a roughly threefold gain in label efficiency over supervised training, growing to over fourfold at 1,000 labels. It is about 2.2x below an InversionNet baseline, and 8.71 m/s at full labels. The gain still grows with more unlabeled pretraining data. Our comparisons point to self-supervision as the dominant factor. The same encoder transfers. Its frozen features expose sound speed and attenuation, and cross-distribution pretraining between layered and abdominal phantoms costs little accuracy. We see this as a first step toward a foundation model for quantitative ultrasound.
- Abstract(参考訳): 組織内の音速は、十分に焦点を絞ったイメージングの前提条件であり、診断値を有するが、生のパルス・エコチャネルデータからそれを回収することは、基本的に非線形逆問題である。
学習された問題解決者は速く、ラベルは空腹です。
模擬音速ラベルは高価であり, 実チャネルデータも豊富である。
両データ型を利用したIQ-JEPAを提案する。
エンコーダはラベルなしで事前訓練され、可視的文脈からマスクされた内相領域と二次領域の潜伏表現を予測し、シミュレートされた地図上で微調整される。
IQ信号の音速は、定相オフセットに不変な位相差として現れる。
エンコーダ(encoder)は、複雑な信号を直接操作するエルミート視覚変換器である。
その注意はその相に同変であり、その共役積のフィードフォワードはその相に不変であるため、エンコーダは1つの古典的コヒーレンス法に類似した量を読み取る。
79,293基のフルウェーブ2.5を2.5MHzでシミュレーションし、63,435基の未ラベルの取得で1万個のラベルで15.60m/sに達する。
これは教師付きトレーニングよりもラベル効率が約3倍向上し、1000ラベルで4倍以上に成長した。
InversionNetベースラインの約2.2倍、フルラベルで8.71m/sである。
未ラベルの事前トレーニングデータによって、依然として利益は伸びている。
我々の比較は、自己超越が支配的な要因であることを示している。
同じエンコーダが転送される。
凍結した特徴は音速と減衰を露呈し、層状ファントムと腹部ファントムの相互分布は精度が低い。
我々はこれを定量的超音波の基礎モデルに向けた第一歩と見なしている。
関連論文リスト
- CrossFlow: One-Step Generation Across Latent and Pixel Spaces [61.08358796319721]
CrossFlowは、ノイズの多い遅延入力を直接ピクセル空間イメージにマッピングする、クロススペースフローの定式化である。
クラス条件のImageNet-1kの$256times256$では、CrossFlow-XLは1つの関数評価で1.62 FIDを達成する。
論文 参考訳(メタデータ) (2026-06-18T09:10:28Z) - Show the Signal, Hide the Noise: Spectral Forcing for Pixel-Space Diffusion [46.51681899437508]
本稿では,パラメータフリーで時間条件付き2D-DCTローパス演算子であるSpectral Forcingを導入する。
その遮断は拡散時間とともに単調に膨張し、データエンドポイントのアイデンティティとなる。
JiT-700M/32のImageNet-256では、Spectral Forcingは、異なるトレーニングエポック間で、FIDとInception Scoreの両方を一貫して改善している。
論文 参考訳(メタデータ) (2026-06-13T10:29:11Z) - CAST: Channel-Aware Spatial Transfer Learning with Pseudo-Image Radar for Sign Language Recognition [4.779774528361377]
本稿では,チャネル認識型空間移動学習を利用した2重ストリームアーキテクチャであるCASTを提案する。
提案フレームワークは3つの物理対応アーキテクチャと事前訓練された視覚バックボーンを組み合わせており、レーダーのみの制約の下で動作している。
実験の結果、アーキテクチャは5倍のクロスバリデーションで80.5%のTop-1精度を達成した。
論文 参考訳(メタデータ) (2026-05-09T04:02:40Z) - The Radio-Frequency Transformer for Signal Separation [29.348481060446314]
我々は、未知の非ガウス背景/干渉によって汚染された利害信号の推定という、信号分離の問題を研究する。
我々はSOIのための優れた離散トークン化器を学び、次にエントロピー損失でエンドツーエンドのトランスフォーマーを訓練する。
提案手法は,MIT RF Challengeデータセットから実・合成混合物を合成することにより,競争性能が向上する。
論文 参考訳(メタデータ) (2026-03-10T05:22:02Z) - BiRQ: Bi-Level Self-Labeling Random Quantization for Self-Supervised Speech Recognition [63.45645200463539]
BiRQは、BEST-RQの効率とHuBERTスタイルのラベル拡張の強化の利点を組み合わせた、双方向SSLフレームワークである。
提案手法は,960時間のLibriSpeech,150時間のAMIミーティング,5,000時間のYODASなど,さまざまなデータセットで検証する。
論文 参考訳(メタデータ) (2025-09-18T21:09:29Z) - DDT: Decoupled Diffusion Transformer [51.84206763079382]
拡散変換器はノイズの多い入力を符号化し、意味成分を抽出し、同じモジュールで高い周波数をデコードする。
textbfcolorddtDecoupled textbfcolorddtTransformer(textbfcolorddtDDT)
textbfcolorddtTransformer(textbfcolorddtDDT)
textbfcolorddtTransformer(textbfcolorddtDDT)
論文 参考訳(メタデータ) (2025-04-08T07:17:45Z) - Improving the Diffusability of Autoencoders [54.920783089085035]
高品質な画像やビデオを生成するための主要なアプローチとして、潜伏拡散モデルが登場している。
我々は、現代のオートエンコーダのスペクトル分析を行い、その潜在空間における不規則な高周波成分を同定する。
我々は、この高周波成分が拡散合成プロセスの粗大な微細な性質に干渉し、生成品質を阻害する仮説を立てた。
論文 参考訳(メタデータ) (2025-02-20T18:45:44Z) - A Transformer-based Autoregressive Decoder Architecture for Hierarchical Text Classification [6.704529554100875]
本稿では,市販のRoBERTa変換器をベースとした効果的な階層型テキスト分類アーキテクチャを提案する。
階層的なテキスト分類のための既存のアプローチとは異なり、RADArのエンコーダはラベル階層を明示的にエンコードしていない。
実験の結果,ラベルのセマンティクスや階層の明示的なグラフエンコーダは不要であることが確認された。
論文 参考訳(メタデータ) (2025-01-23T12:06:33Z) - Diffsound: Discrete Diffusion Model for Text-to-sound Generation [78.4128796899781]
本稿では,テキストエンコーダ,ベクトル量子化変分自動符号化(VQ-VAE),デコーダ,ボコーダからなる新しいテキスト音声生成フレームワークを提案する。
フレームワークは、まず、デコーダを使用して、テキストエンコーダから抽出したテキスト特徴をVQ-VAEの助けを借りてメルスペクトルに転送し、次いで、ボコーダを使用して生成されたメルスペクトルを波形に変換する。
論文 参考訳(メタデータ) (2022-07-20T15:41:47Z) - S3: Supervised Self-supervised Learning under Label Noise [53.02249460567745]
本稿では,ラベルノイズの存在下での分類の問題に対処する。
提案手法の核心は,サンプルのアノテートラベルと特徴空間内のその近傍のラベルの分布との整合性に依存するサンプル選択機構である。
提案手法は,CIFARCIFAR100とWebVisionやANIMAL-10Nなどの実環境ノイズデータセットの両方で,従来の手法をはるかに上回っている。
論文 参考訳(メタデータ) (2021-11-22T15:49:20Z) - Transformer Based Deliberation for Two-Pass Speech Recognition [46.86118010771703]
音声認識システムは、単語を素早く生成し、正確な結果を生成する必要がある。
2つのパスモデルは、単語を素早く出力する1次パスデコーダと、よりコンテキストを必要とするがより正確である2次パスデコーダを使用することで、これらの要求に優れる。
以前は、議論ネットワークが効果的な第2パスモデルになり得ることが証明されていた。
論文 参考訳(メタデータ) (2021-01-27T18:05:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。