論文の概要: ST-LoRA: Single Trajectory LoRA Ensemble for Uncertainty Aware Agricultural Segmentation
- arxiv url: http://arxiv.org/abs/2608.01530v1
- Date: Sun, 02 Aug 2026 22:49:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.266501
- Title: ST-LoRA: Single Trajectory LoRA Ensemble for Uncertainty Aware Agricultural Segmentation
- Title(参考訳): ST-LoRA:不確実性認識型農業セグメンテーションのための単一軌道ロラアンサンブル
- Abstract要約: デジタル農業における意思決定支援には、正確な予測とよく校正された不確実性推定が必要である。
本稿では,パラメータ効率のよいアンサンブルフレームワークST-LoRAを提案する。
ST-LoRAは、データセットとアーキテクチャの両方にわたるセグメンテーションの精度とキャリブレーションにおいて、フルランクのアンサンブルと一致または超えている。
- 参考スコア(独自算出の注目度): 4.391214332238358
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliable decision-support in digital agriculture requires accurate predictions and well-calibrated uncertainty estimates, particularly for dense prediction tasks such as semantic segmentation. Ensemble methods provide strong uncertainty quantification, but their computational and memory demands limit practical use, while single-model approximations often trade off uncertainty quality for efficiency. We propose ST-LoRA, a parameter-efficient ensemble framework that builds diverse ensemble members from a single training trajectory by combining Low-Rank Adaptation (LoRA) with snapshot ensembling. Each member shares a frozen pretrained backbone and differs only in lightweight low-rank adapters, reducing trainable parameters to under 10% of the full model while preserving ensemble diversity. We evaluate across two agricultural datasets - GrowliFlower-L (cauliflower, open field) and BUP20 (sweet pepper, glasshouse) - using SegFormer and Mask2Former, covering in-distribution performance, calibration under distribution shift, and out-of-distribution detection. Ablations show feed-forward layers, not attention layers, are the critical LoRA target for dense prediction, contrary to the attention-only convention from language models. ST-LoRA matches or exceeds full-rank ensembles in segmentation accuracy and calibration across both datasets and architectures, while substantially reducing training time, inference latency, memory footprint, and storage requirements. Against efficient baselines - Snapshot Ensemble, MC Dropout, and Deep Deterministic Uncertainty - ST-LoRA consistently matches or outperforms them in image/pixel-level OoD detection, calibration stability under shift, and cross-seed variance, with far fewer parameters and lower compute. These results show LoRA-efficient ensemble adaptation is a highly effective, practical approach for uncertainty-aware agricultural vision systems.
- Abstract(参考訳): デジタル農業における信頼性の高い意思決定支援には、特にセマンティックセグメンテーションのような密集した予測タスクにおいて、正確な予測とよく校正された不確実性推定が必要である。
アンサンブル法は強い不確実性定量化を提供するが、その計算とメモリ要求は実用的使用を制限する。
本稿では,ローランド適応(LoRA)とスナップショットアンサンブルを組み合わせることで,単一の学習軌道から多様なアンサンブル構成体を構築するためのパラメータ効率のよいアンサンブルフレームワークST-LoRAを提案する。
各メンバーは、凍結した事前訓練されたバックボーンを共有し、軽量の低ランクアダプタでのみ異なるため、アンサンブルの多様性を維持しながら、トレーニング可能なパラメータをフルモデルの10%以下に削減できる。
我々は,SegFormerとMask2Formerを用いて,GrowliFlower-L(カウリフラワー,オープンフィールド)とBUP20(スイートペッパー,ガラスハウス)の2つの農業データセットを評価する。
アブレーションは、注意層ではなくフィードフォワード層が、言語モデルからの注意のみの慣習とは対照的に、密集した予測のための重要なLoRAターゲットであることを示している。
ST-LoRAは、データセットとアーキテクチャの両方にわたるセグメンテーションの精度とキャリブレーションにおいて、フルランクのアンサンブルをマッチまたは超過すると同時に、トレーニング時間、推論レイテンシ、メモリフットプリント、ストレージ要件を大幅に削減する。
効率的なベースライン – Snapshot Ensemble、MC Dropout、Deep Deterministic Uncertainty – ST-LoRAは、イメージ/ピクセルレベルのOoD検出、シフト中のキャリブレーション安定性、クロスシード分散などにおいて、パラメータがはるかに少なく、演算能力が低いため、一貫して一致または性能が向上する。
これらの結果から,ロラ効率のアンサンブル適応は,不確実性を考慮した農業ビジョンシステムにおいて,極めて効果的で実践的なアプローチであることが示唆された。
関連論文リスト
- Bayesian Sparse Low-Rank Adaptation for Large Language Model Uncertainty Estimation [14.828620034157316]
大規模言語モデル(LLM)は顕著な推論能力を示すが、タスク固有の微調整は自信過剰に悩まされている。
本研究では、高密度パラメータ空間から低ランク適応(LoRA)の軽量ランクレベルへの不確実性のパラダイムをシフトさせる、単純かつ効果的なベイズスパースフレームワークであるData-Adaptive Lower-Rank Adaptation (DALorRA)を提案する。
LoRAは、過剰なモデルのキャパシティを提供する可能性のある複数のランク1コンポーネントを集約するという考えから、DALorRAはランク次元にマスキングを課し、トレーニング中のモデルのキャパシティの正規化と推論時のアンサンブルのようなキャリブレーションを可能にする。
論文 参考訳(メタデータ) (2026-07-02T13:52:12Z) - On the Construction and Implications of Low-Loss Valleys in LoRA-based Bayesian Inference [12.367241512406656]
2つの変量を持つロラ空間において、セグメンテーションされたベジエ曲線パラメータ化であるLoRA-Curveを導入する。
曲線に沿った損失の経路的連続性とリプシッツ正則性を証明し、Qwen2.5 7Bによる推論と分類のベンチマークにおいて、線形摂動は損失障壁に遭遇することを示した。
平坦なミニマ摂動とジェンセン・シャノン分散正規化器を組み合わせることで、LoRA-Curveは性能を犠牲にすることなく予測分布の相互情報を測定できる。
論文 参考訳(メタデータ) (2026-05-28T08:24:45Z) - Stabilized Fine-Tuning with LoRA in Federated Learning: Mitigating the Side Effect of Client Size and Rank via the Scaling Factor [8.51407618718798]
プライバシ制約がフェデレーション学習(FL)を必要とする分散シナリオでは、ローランド適応(LoRA)の統合は不安定であることが多い。
本稿では,アダプタランクとフェデレートアグリゲーションの相互作用を理論的に特徴付けるフレームワークである安定化フェデレートロラ(SFed-LoRA)を紹介する。
SFed-LoRAは高階崩壊を防止し,安定性を著しく向上し,より高速な収束を実現することを実証した。
論文 参考訳(メタデータ) (2026-03-09T07:49:56Z) - Decomposing and Composing: Towards Efficient Vision-Language Continual Learning via Rank-1 Expert Pool in a Single LoRA [50.97792275353563]
単一低ランク適応 (LoRA) モジュールを分解可能な Rank-1 エキスパートプールとして再構成する,新しいフレームワークを提案する。
本手法では,このエキスパートプールから[Guided]トークンのセマンティクスに導かれて,疎結合でタスク固有の更新を動的に作成することを学ぶ。
論文 参考訳(メタデータ) (2026-01-30T10:54:51Z) - Modest-Align: Data-Efficient Alignment for Vision-Language Models [67.48633659305592]
クロスモーダルアライメントモデルは、リソース制約のある環境での運用において、過信と劣化したパフォーマンスに悩まされることが多い。
我々は,ロバスト性と効率性に配慮した軽量アライメントフレームワークであるModest-Alignを提案する。
本手法は,実世界の低リソースシナリオにおけるクロスモーダルアライメントを実現するための,実用的でスケーラブルなソリューションを提供する。
論文 参考訳(メタデータ) (2025-10-24T16:11:10Z) - SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning [73.93639228235622]
基礎モデルによる継続的な学習は、シーケンシャルなタスクに取り組むための事前トレーニング中に得られた豊富な知識を活用するための有望なパラダイムとして現れてきた。
既存のプロンプトベースおよびローランク適応ベース(LoRAベース)メソッドでは、プロンプト/ローラプールの拡張や、以前のタスクのサンプルの保持がしばしば必要である。
クラスインクリメンタル学習のためのスケーラブルデカップリングLoRA(SD-LoRA)を提案する。
論文 参考訳(メタデータ) (2025-01-22T20:00:41Z) - Replay-Free Continual Low-Rank Adaptation with Dynamic Memory [62.85596937435928]
我々は、事前学習された視覚変換器(ViT)が、時間とともに新しい下流タスクを逐次微調整できる連続学習を再考する。
近年の研究では、CL技術とパラメータ効率の良い微調整の交差が強調されている。
DualLoRA (Dual Low-Rank Adaptation) と呼ばれる新しいPEFT-CL法を提案する。
論文 参考訳(メタデータ) (2024-11-01T14:28:39Z) - Randomized Asymmetric Chain of LoRA: The First Meaningful Theoretical Framework for Low-Rank Adaptation [58.288682735160585]
Low-Rank Adaptation (LoRA) は、ファインチューニングモデルの一般的なテクニックである。
LoRAは、フルパラメータの微調整と比較すると、しばしば実行されます。
本稿では,LoRA手法の適応率を厳密に分析するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-10T18:51:53Z) - LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks [52.46420522934253]
本稿では,自己注意ネットワークのためのパラメータ効率のよいアンサンブル手法であるLoRA-Ensembleを紹介する。
この方法は、BatchEnsembleのような最先端の暗黙のテクニックを上回るだけでなく、Explicit Ensembleの正確さにマッチするか超える。
論文 参考訳(メタデータ) (2024-05-23T11:10:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。