論文の概要: A Lightweight Foundation Model for Collider Physics with Multi-Domain Adaptation

• arxiv url: http://arxiv.org/abs/2607.27501v1
• Date: Wed, 29 Jul 2026 22:35:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.339655
• Title: A Lightweight Foundation Model for Collider Physics with Multi-Domain Adaptation
• Title（参考訳）: 多元適応を用いた衝突物理学の軽量基礎モデル
• Abstract要約: 我々は,コライダー物理データから事前学習を生かした基礎モデリングへの軽量なアプローチを提案する。 このモデルは大型ハドロン衝突型加速器からの大規模な衝突データセットを監督せずに事前訓練される。 事前学習したモデル重みに基づいて,運動回帰や事象分類などのコライダー解析のための下流タスクを開発した。
• 参考スコア（独自算出の注目度）: 44.18742604961034
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present a lightweight approach to foundation modeling (\textbf{NEXUS}) that leverages pre-trained learning from collider physics data towards out-of-domain tasks in other scientific datasets, using a fully connected autoencoder model with approximately 3 million parameters. The model pre-trains with no supervision over a large-scale collision dataset from the Large Hadron Collider modeled by charged particle track features. Downstream tasks for collider analyses, such as kinematic regression and event classification, are developed on pre-trained model weights and achieve improved accuracy with only small labeled datasets when compared to equivalent architectures trained from scratch. The benefits of pre-training are additionally investigated through latent space interpretation and application to other domains, including gravitational waves, flood forecasting, and neural activity. Furthermore, the relative computational simplicity of NEXUS is demonstrated compared to transformer approaches at comparable scale, opening the door to power-efficient inference and real-time or edge applications of foundation models in scientific experiments.
• Abstract（参考訳）: 我々は,約300万個のパラメータを持つ完全連結オートエンコーダモデルを用いて,コライダー物理データからの事前学習を他の科学データセットの領域外タスクに活用する基礎モデリング(\textbf{NEXUS})の軽量なアプローチを提案する。 このモデルでは、荷電粒子軌道特性をモデルとした大型ハドロン衝突型加速器からの大規模衝突データセットを監督せずに事前訓練を行う。 機械的回帰や事象分類などのコライダー解析の下流タスクは、事前訓練されたモデル重みに基づいて開発され、スクラッチから訓練された等価アーキテクチャと比較して、小さなラベル付きデータセットでのみ精度が向上する。 プレトレーニングの利点は、潜在空間解釈を通じてさらに研究され、重力波、洪水予報、神経活動など他の領域にも適用されている。 さらに、NEXUSの相対計算の単純さは、同等のスケールでのトランスフォーマーアプローチと比較して実証され、パワー効率の推論と基礎モデルのリアルタイムまたはエッジへの応用への扉が開かれた。

関連論文リスト

• Position: Weight Space Should Be a First-Class Generative AI Modality [67.10702320971893]
  本稿では、モデルチェックポイントを第一級データモダリティとして扱うべきであると論じる。 重み空間における生成的モデリングは、コア機械学習プリミティブとして標準化されるべきである、と論じている。 私たちのゴールは、コミュニティの既定の考え方を、タスクごとのモデルの最適化から、学習した重量分布からモデルのサンプリングにシフトさせることです。
  論文  参考訳（メタデータ） (2026-05-18T16:38:26Z)
• Few-Shot Physics-Informed Neural Network for Shape Reconstruction of Concentric-Tube Robots [4.539331900295919]
  既設管を3本有する6-DoF CTRのキネマティックモデリングのための物理インフォームドニューラルネットワーク(PINN)を提案する。 PINNは、形状、ねじれ角、ねじれひずみ、曲げモーメント、方向の完全な状態推定を可能にする。 結果として得られるモデルは、計算的に効率的で堅牢であり、リアルタイム制御アプリケーションにも適している。
  論文  参考訳（メタデータ） (2026-05-12T22:07:53Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Fine-tuning machine-learned particle-flow reconstruction for new detector geometries in future colliders [1.988691274281547]
  本研究では,高エネルギー粒子衝突装置における粒子流再構成を訓練した機械学習アルゴリズムにおいて,伝達学習能力を実証する。 我々の知る限り、これは粒子-流れ再構成のための完全なクロス・ディテクター・トランスファー学習研究としては初めてのものである。
  論文  参考訳（メタデータ） (2025-02-28T19:16:01Z)
• Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
  本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。 我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。 カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
  論文  参考訳（メタデータ） (2024-02-19T02:08:09Z)
• Federated Learning with Projected Trajectory Regularization [65.6266768678291]
  フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。 連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。 本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-22T02:12:08Z)
• Foundation Models for Generalist Geospatial Artificial Intelligence [3.7002058945990415]
  本稿では,大規模データに基づく基礎モデルの事前学習と微調整を効果的に行うための第1種フレームワークを提案する。 我々はこの枠組みを利用して、マルチスペクトル衛星画像の1TB以上を事前トレーニングしたトランスフォーマーベースの基礎モデルであるPrithviを開発した。
  論文  参考訳（メタデータ） (2023-10-28T10:19:55Z)
• A Physics Enhanced Residual Learning (PERL) Framework for Vehicle Trajectory Prediction [5.7215490229343535]
  PERLは、トラフィック状態予測のための物理とデータ駆動方式の長所を統合する。 物理モデルに固有の解釈可能性を保持し、データ要求を減らした。 PERLは、物理モデル、データ駆動モデル、PINNモデルと比較して、小さなデータセットでより良い予測を実現する。
  論文  参考訳（メタデータ） (2023-09-26T21:41:45Z)
• Improved particle-flow event reconstruction with scalable neural networks for current and future particle detectors [1.4609888393206634]
  電子-陽電子衝突における事象再構成のためのスケーラブルな機械学習モデルについて, フル検出器シミュレーションに基づく検討を行った。 グラフニューラルネットワークとカーネルベースのトランスフォーマーを比較し、現実的な再構築を実現しつつ、操作を回避できることを実証する。 最良のグラフニューラルネットワークモデルでは、ルールベースのアルゴリズムと比較して、ジェット横運動量分解能が最大50%向上している。
  論文  参考訳（メタデータ） (2023-09-13T08:16:15Z)
• Towards Foundation Models for Scientific Machine Learning: Characterizing Scaling and Transfer Behavior [32.74388989649232]
  我々は、科学機械学習(SciML)の応用において、事前学習をどのように利用できるかを研究する。 これらのモデルを微調整すると、モデルのサイズが大きくなるにつれてパフォーマンスが向上することがわかった。
  論文  参考訳（メタデータ） (2023-06-01T00:32:59Z)
• Transforming Model Prediction for Tracking [109.08417327309937]
  トランスフォーマーは、誘導バイアスの少ないグローバルな関係を捉え、より強力なターゲットモデルの予測を学ぶことができる。 提案したトラッカーをエンドツーエンドにトレーニングし、複数のトラッカーデータセットに関する総合的な実験を行うことで、その性能を検証する。 我々のトラッカーは3つのベンチマークで新しい技術状態を設定し、挑戦的なLaSOTデータセットで68.5%のAUCを達成した。
  論文  参考訳（メタデータ） (2022-03-21T17:59:40Z)
• Physics-Integrated Variational Autoencoders for Robust and Interpretable Generative Modeling [86.9726984929758]
  我々は、不完全物理モデルの深部生成モデルへの統合に焦点を当てる。 本稿では,潜在空間の一部が物理によって基底づけられたVAEアーキテクチャを提案する。 合成および実世界のデータセットの集合に対して生成的性能改善を示す。
  論文  参考訳（メタデータ） (2021-02-25T20:28:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。