論文の概要: Mini-JEPA Foundation Model Fleet Enables Agentic Hydrologic Intelligence
- arxiv url: http://arxiv.org/abs/2605.14120v1
- Date: Wed, 13 May 2026 21:11:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.507461
- Title: Mini-JEPA Foundation Model Fleet Enables Agentic Hydrologic Intelligence
- Title(参考訳): ミニJEPAファンデーション・モデル・フリートがエージェント・ハイドロジック・インテリジェンスを提供
- Authors: Mashrekur Rahman,
- Abstract要約: 単一の惑星スケールモデル、例えばGoogle AlphaEarthは、幅広い特徴をうまく扱えるが、専門的な水理信号に妥協する可能性がある。
小型センサ専門のJEPA(Joint Embedding Predictive Architecture)ファウンデーションモデルであるMini-JEPAを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Geospatial foundation models compress multispectral observations into dense embeddings increasingly used in natural-language environmental reasoning systems. A single planetary-scale model, e.g. Google AlphaEarth, handles broad characterization well but may compromise on specialized hydrologic signals. Such generalist models are also often inaccessible, expensive, and require large-scale compute. We propose Mini-JEPAs: a fleet of small sensor-specialized Joint Embedding Predictive Architecture (JEPA) foundation models consulted by a routing agent for specialized questions. We pretrained five 22M-parameter Mini-JEPAs sharing an identical Vision Transformer backbone, JEPA recipe, and 64-d output space, using Sentinel-2 optical, Sentinel-1 SAR, MODIS thermal, multi-temporal Sentinel-2 phenology, and a topography-soil stack. Each Mini-JEPA reconstructs the variable matched to its sensor, with cross-validated $R^2$ reaching 0.97 for elevation, 0.97 for temperature, and 0.81 for precipitation. The five manifolds differ in geometric structure, with global participation ratios from 8.9 to 20.2 and local intrinsic dimensionalities from 2.3 to 9.0. Joint topography-soil and phenology models add predictive value beyond AlphaEarth alone for soil moisture, aridity, and precipitation ($ΔR^2$ up to 0.031). A router LLM reads per-modality references and selects appropriate sensors with a perfect hit rate over a curated question set. In paired LLM-as-Judge evaluation, dual retrieval over AlphaEarth and the routed fleet outperforms AlphaEarth alone on physics-matched questions (Cohen's $d = 1.10$, $p = 0.031$). Locally-trained Mini-JEPAs can be operationalized for hydrologic intelligence with modest compute.
- Abstract(参考訳): 地理空間基盤モデルでは、多スペクトル観測を自然言語の環境推論システムでますます使われる密着な埋め込みに圧縮する。
惑星スケールの1つのモデル、例えばGoogle AlphaEarthは、幅広い特徴をうまく扱えるが、特定の水理信号に妥協する可能性がある。
このようなジェネラリストモデルは、しばしばアクセス不能で高価であり、大規模な計算を必要とする。
小型センサ専門のJEPA(Joint Embedding Predictive Architecture)ファウンデーションモデルであるMini-JEPAを提案する。
我々は、Sentinel-2 Optical, Sentinel-1 SAR, MODIS thermal, multi-temporal Sentinel-2 phenology, and a topography-soil stackを用いて、同一のVision Transformerバックボーン、JEPAレシピ、64次元出力空間を共有する22MパラメータのミニJEPAを事前訓練した。
それぞれのミニJEPAはセンサーにマッチする変数を再構成し、標高が0.97ドル、温度が0.97ドル、降水量が0.81ドルである。
5つの多様体は幾何学的構造が異なり、大域的参加比は8.9から20.2、局所固有次元は2.3から9.0である。
共同地形・土壌・表現学モデルでは、土壌水分、乾燥度、降水量(ΔR^2$ 0.031)について、AlphaEarth以外にも予測値を付加する。
ルータLLMは、モダリティ毎の参照を読み出し、キュレートされた質問セットに対して完全なヒットレートで適切なセンサを選択する。
対の LLM-as-Judge 評価では、AlphaEarth 上の二重検索とルート付きフリートは、物理学に適合した質問(コーエンの$d = 1.10$, $p = 0.031$)において、AlphaEarth よりも優れている。
局所的に訓練されたミニJEPAは、控えめな計算で水文インテリジェンスのために運用することができる。
関連論文リスト
- LEPA: Learning Geometric Equivariance in Satellite Remote Sensing Data with a Predictive Architecture [2.618539394367099]
本稿では,大規模な衛星リモートセンシングデータに対する埋め込み予測のための新しいアーキテクチャを提案する。
平均化の代わりに、EPAはNASA/USGSランドサット・センチネル(HLS)画像とLNetイメージ0.8kを直接予測するために埋め込みに潜伏している。
論文 参考訳(メタデータ) (2026-03-07T14:56:15Z) - Physically Interpretable AlphaEarth Foundation Model Embeddings Enable LLM-Based Land Surface Intelligence [0.0]
環境変数26に対して,Google AlphaEarthの64次元埋め込みを包括的に解析する。
次に、FAISSによる1210万ベクトルの埋め込みデータベース上での検索拡張生成を実装するランドサーフェスインテリジェンスシステムを開発した。
論文 参考訳(メタデータ) (2026-02-10T22:58:50Z) - LiM-YOLO: Less is More with Pyramid Level Shift and Normalized Auxiliary Branch for Ship Detection in Optical Remote Sensing Imagery [3.2425852744760184]
LiM-YOLOは、ドメイン固有の競合を解決するために設計された特殊な検出器である。
船舶の規模を統計的に分析し,検出ヘッドをP2-P4に緩和するピラミッドレベルシフト戦略を導入する。
LiM-YOLOは最先端モデルに比べて検出精度と効率が優れている。
論文 参考訳(メタデータ) (2025-12-10T14:48:58Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z) - Mercury: Ultra-Fast Language Models Based on Diffusion [58.52391675075641]
拡散に基づく新しい商用大規模言語モデル(LLM)であるMercuryを提示する。
Mercury CoderにはMiniとSmallの2つのサイズがある。
独立した評価に基づいて、マーキュリー・コーダ・ミニとマーキュリー・コーダ・スモールは、それぞれ1109トークン/秒と737トークン/秒の最先端のスループットを達成した。
論文 参考訳(メタデータ) (2025-06-17T17:06:18Z) - Deep Learning for Real Time Satellite Pose Estimation on Low Power Edge
TPU [58.720142291102135]
本稿では,ニューラルネットワークアーキテクチャを利用したポーズ推定ソフトウェアを提案する。
我々は、低消費電力の機械学習アクセラレーターが宇宙での人工知能の活用を可能にしていることを示す。
論文 参考訳(メタデータ) (2022-04-07T08:53:18Z) - Searching Collaborative Agents for Multi-plane Localization in 3D
Ultrasound [59.97366727654676]
3D超音波(US)はその豊富な診断情報、可搬性、低コストのために広く用いられている。
米国における標準平面(SP)のローカライゼーションは,効率の向上とユーザ依存の低減だけでなく,米国における3D解釈の促進にも寄与する。
本稿では,複数の子宮SPを同時に3D USにローカライズするマルチエージェント強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-30T07:23:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。