論文の概要: Towards Foundation Models for Experimental Readout Systems Combining Discrete and Continuous Data
- arxiv url: http://arxiv.org/abs/2505.08736v1
- Date: Tue, 13 May 2025 16:49:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-14 20:57:54.679073
- Title: Towards Foundation Models for Experimental Readout Systems Combining Discrete and Continuous Data
- Title(参考訳): 離散データと連続データを組み合わせた実験読解システムの基礎モデルに向けて
- Authors: James Giroux, Cristiano Fanelli,
- Abstract要約: 我々は、将来の電子イオン衝突型加速器において、チェレンコフ検出器からの低レベル検出器入力を動作させることができる(プロトタイプ)核物理学基礎モデルを提案する。
本モデルにより,チェレンコフ光子に対する高速かつ高忠実な画素生成および時間列生成が可能となり,高速DIRCにおけるクロージャ試験により検証された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a (proto) Foundation Model for Nuclear Physics, capable of operating on low-level detector inputs from Imaging Cherenkov Detectors at the future Electron Ion Collider. To address limitations in existing next-token prediction approaches-namely resolution loss from VQ-VAE tokenization and lack of conditional generation-we propose three key innovations: (i) separate vocabularies for discrete spatial features and continuous variates, combined via Causal Multi-Head Cross-Attention (CMHCA), (ii) continuous kinematic conditioning through prepended context embeddings, and (iii) scalable and simple, high-resolution continuous variate tokenization without joint vocabulary inflation. Our model enables fast, high-fidelity generation of pixel and time sequences for Cherenkov photons, validated through closure tests in the High Performance DIRC. We also show our model generalizes to reconstruction tasks such as pion and kaon identification, in which we show its ability to leverage fine-tuning.
- Abstract(参考訳): 我々は、将来の電子イオン衝突型加速器において、チェレンコフ検出器からの低レベル検出器入力を動作させることができる(プロトタイプ)核物理学基礎モデルを提案する。
VQ-VAEトークン化による解決損失と条件生成の欠如という,既存の次世代予測手法の限界に対処するため,我々は3つの重要なイノベーションを提案する。
一 個別の空間的特徴及び連続的な変動のための個別の語彙で、因果多頭部交差注意(CMHCA)を併用すること。
(二)事前の文脈埋め込みによる連続的運動条件付け、及び
3) 共同語彙のインフレーションを伴わないスケーラブルで単純で高分解能な連続変量トークン化。
本モデルにより,チェレンコフ光子に対する高速かつ高忠実な画素生成および時間列生成が可能となり,高速DIRCにおけるクロージャ試験により検証された。
また,本モデルがピオンやカオン識別などの再構成タスクに一般化されることを示し,微調整の活用能力を示す。
関連論文リスト
- Nonparametric learning of covariate-based Markov jump processes using RKHS techniques [3.3005714301829148]
我々は、co変数を連続時間マルコフ連鎖(CTMC)にリンクするための新しい非パラメトリックアプローチを提案する。
CTMCは、臨床または行動状態の遷移をモデリングするための堅牢なフレームワークを提供する。
一般化されたRepresenter Theoremを用いて、関数空間におけるトラクタブル推論を可能にする。
論文 参考訳(メタデータ) (2025-05-06T02:26:02Z) - Interleaved Gibbs Diffusion for Constrained Generation [30.624303845550575]
混合連続離散データのための新しい生成モデリングフレームワークであるInterleaved Gibbs Diffusion (IGD)を紹介する。
IGDは、離散時間ギブスサンプリング型マルコフ連鎖を介して、連続的および離散的復号化アルゴリズムをインターリーブすることによって、これを克服する。
3つの課題である3-SATの解決、分子構造の生成、レイアウトの実証化に関する実証的評価。
論文 参考訳(メタデータ) (2025-02-19T05:51:24Z) - Efficient One-Step Diffusion Refinement for Snapshot Compressive Imaging [8.819370643243012]
Coded Aperture Snapshot Spectral Imaging (CASSI)は3次元マルチスペクトル画像(MSI)を撮影するための重要な技術である
現在の最先端の手法は、主にエンドツーエンドであり、高周波の詳細を再構築する際の制限に直面している。
本稿では,Snapshot Compressive Imagingのための自己教師型適応フレームワークにおいて,新しい1段階拡散確率モデルを提案する。
論文 参考訳(メタデータ) (2024-09-11T17:02:10Z) - LinFusion: 1 GPU, 1 Minute, 16K Image [71.44735417472043]
我々は,広く普及している線形トークンミキサーの低ランク近似を導入する。
蒸留したLinFusionは,元のSDと同等以上の性能を示す。
SD-v1.5、SD-v2.1、SD-XLの実験は、LinFusionが良好なゼロショットクロスレゾリューション生成を可能にすることを示した。
論文 参考訳(メタデータ) (2024-09-03T17:54:39Z) - A Contrastive Variational Graph Auto-Encoder for Node Clustering [10.52321770126932]
最先端のクラスタリング手法には多くの課題がある。
既存のVGAEは、推論と生成モデルの相違を考慮していない。
私たちのソリューションには、フィーチャーランダムネスとフィーチャードリフトのトレードオフを制御する2つのメカニズムがあります。
論文 参考訳(メタデータ) (2023-12-28T05:07:57Z) - A Generically Contrastive Spatiotemporal Representation Enhancement for 3D Skeleton Action Recognition [10.403751563214113]
本稿では, 比較時空間表現拡張(CSRE)フレームワークを提案する。
具体的には、その表現を空間的特徴と時間的特徴に分解し、微細な動きパターンを探索する。
潜伏したデータ分布を明示的に活用するために、コントラスト学習に注意的特徴を用いて、クロスシーケンスセマンティックリレーションをモデル化する。
論文 参考訳(メタデータ) (2023-12-23T02:54:41Z) - Retrieval-Enhanced Contrastive Vision-Text Models [61.783728119255365]
そこで本研究では,メモリから取得したクロスモーダルな情報を推論時に表現することで,その埋め込みを洗練できる視覚テキストモデルを提案する。
注目すべきことに、これは凍ったCLIPの上に軽量の単層核融合トランスを用いて行うことができる。
検索強化コントラスト訓練(RECO)がCLIPの性能を大幅に向上することを示す。
論文 参考訳(メタデータ) (2023-06-12T15:52:02Z) - ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。
我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
論文 参考訳(メタデータ) (2023-04-07T15:17:48Z) - Confident Adaptive Language Modeling [95.45272377648773]
CALMは、入力と生成時間ごとに異なる量の計算を動的に割り当てるフレームワークである。
ハイパフォーマンスを確実に維持しつつ、計算能力、潜在的スピードアップを最大3ドルまで削減する上で、我々のフレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2022-07-14T17:00:19Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。