論文の概要: Sampling Strategy for Fine-Tuning Segmentation Models to Crisis Area
under Scarcity of Data
- arxiv url: http://arxiv.org/abs/2202.04766v1
- Date: Wed, 9 Feb 2022 23:16:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-11 15:58:07.229956
- Title: Sampling Strategy for Fine-Tuning Segmentation Models to Crisis Area
under Scarcity of Data
- Title(参考訳): データ不足下の危機領域における微調整分割モデルのサンプリング戦略
- Authors: Adrianna Janik and Kris Sankaran
- Abstract要約: 本研究では,推定モデルとサンプル特性に基づいて,微調整中のデータ収集をガイドする手法を提案する。
我々は,ビルディング検出のリモートセンシングアプリケーションにおいて,セマンティックセグメンテーション(U-Net)の深層学習モデルに適用した。
- 参考スコア(独自算出の注目度): 0.76146285961466
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The use of remote sensing in humanitarian crisis response missions is
well-established and has proven relevant repeatedly. One of the problems is
obtaining gold annotations as it is costly and time consuming which makes it
almost impossible to fine-tune models to new regions affected by the crisis.
Where time is critical, resources are limited and environment is constantly
changing, models has to evolve and provide flexible ways to adapt to a new
situation. The question that we want to answer is if prioritization of samples
provide better results in fine-tuning vs other classical sampling methods under
annotated data scarcity? We propose a method to guide data collection during
fine-tuning, based on estimated model and sample properties, like predicted IOU
score. We propose two formulas for calculating sample priority. Our approach
blends techniques from interpretability, representation learning and active
learning. We have applied our method to a deep learning model for semantic
segmentation, U-Net, in a remote sensing application of building detection -
one of the core use cases of remote sensing in humanitarian applications.
Preliminary results shows utility in prioritization of samples for tuning
semantic segmentation models under scarcity of data condition.
- Abstract(参考訳): 人道的危機対応任務におけるリモートセンシングの使用は確立されており、繰り返し関連することが証明されている。
問題の1つは、金のアノテーションの取得であり、コストと時間を要するため、危機によって影響を受ける新しい地域へのモデル調整はほぼ不可能である。
時間が重要であり、リソースは限られており、環境は常に変化しており、モデルは進化し、新しい状況に適応するための柔軟な方法を提供する必要があります。
私たちが答えたいのは、サンプルの優先順位付けが、注釈付きデータ不足下での他の古典的なサンプリング方法と比較して、微調整のより良い結果をもたらすかどうかである。
本稿では,予測iouスコアのような推定モデルとサンプル特性に基づいて,微調整時のデータ収集を誘導する手法を提案する。
サンプル優先度を計算するための式を2つ提案する。
我々のアプローチは、解釈可能性、表現学習、アクティブラーニングのテクニックをブレンドする。
我々は,人道的応用におけるリモートセンシングのコアユースケースの1つを構築するリモートセンシングアプリケーションにおいて,セマンティックセグメンテーション(U-Net)の深層学習モデルに適用した。
予備的な結果は、データ条件の不足下でセマンティックセグメンテーションモデルをチューニングするためのサンプルの優先順位付けに有用であることを示す。
関連論文リスト
- Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。
第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。
第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
論文 参考訳(メタデータ) (2025-02-11T19:24:09Z) - Feasible Learning [78.6167929413604]
本稿では,サンプル中心の学習パラダイムであるFeasible Learning(FL)を紹介する。
大規模言語モデルにおける画像分類, 年齢回帰, 好みの最適化といった経験的分析により, FLを用いて訓練したモデルでは, 平均的性能に限界があるものの, ERMと比較して改善された尾の挙動を示しながらデータから学習できることが実証された。
論文 参考訳(メタデータ) (2025-01-24T20:39:38Z) - OPUS: Occupancy Prediction Using a Sparse Set [64.60854562502523]
学習可能なクエリの集合を用いて、占有された場所とクラスを同時に予測するフレームワークを提案する。
OPUSには、モデルパフォーマンスを高めるための非自明な戦略が組み込まれている。
最も軽量なモデルではOcc3D-nuScenesデータセットの2倍 FPS に優れたRayIoUが得られる一方、最も重いモデルは6.1 RayIoUを上回ります。
論文 参考訳(メタデータ) (2024-09-14T07:44:22Z) - Revisiting SMoE Language Models by Evaluating Inefficiencies with Task Specific Expert Pruning [78.72226641279863]
SMOE(Sparse Mixture of Expert)モデルは、言語モデリングにおける高密度モデルに代わるスケーラブルな代替品として登場した。
本研究は,SMoEアーキテクチャの設計に関する意思決定を行うために,タスク固有のモデルプルーニングについて検討する。
適応型タスク対応プルーニング手法 UNCURL を導入し,MoE 層当たりの専門家数をオフラインで学習する手法を提案する。
論文 参考訳(メタデータ) (2024-09-02T22:35:03Z) - Downstream-Pretext Domain Knowledge Traceback for Active Learning [138.02530777915362]
本稿では、下流知識と事前学習指導のデータ相互作用をトレースするダウンストリーム・プレテキスト・ドメイン知識トレース(DOKT)手法を提案する。
DOKTは、トレースバックの多様性指標とドメインベースの不確実性推定器から構成される。
10のデータセットで行った実験は、我々のモデルが他の最先端の手法よりも優れていることを示している。
論文 参考訳(メタデータ) (2024-07-20T01:34:13Z) - Model-Free Active Exploration in Reinforcement Learning [53.786439742572995]
強化学習における探索問題について検討し,新しいモデルフリーソリューションを提案する。
我々の戦略は、最先端の探査アプローチよりも高速に効率的な政策を特定できる。
論文 参考訳(メタデータ) (2024-06-30T19:00:49Z) - Spatial-temporal Forecasting for Regions without Observations [13.805203053973772]
本研究では,歴史的観察を伴わない関心領域の時空間予測について検討した。
タスクに対してSTSMというモデルを提案する。
私たちの重要な洞察は、関心のある領域に類似している場所から学ぶことです。
論文 参考訳(メタデータ) (2024-01-19T06:26:05Z) - Gradient and Uncertainty Enhanced Sequential Sampling for Global Fit [0.0]
本稿では、GUESS(Gradient and Uncertainty Enhanced Sequential Smpling)と呼ばれる、グローバル適合のための新しいサンプリング戦略を提案する。
GUESSは, 実験例における他のサロゲート型戦略と比較して, 平均的な試料効率で達成された。
論文 参考訳(メタデータ) (2023-09-29T19:49:39Z) - Data-driven Preference Learning Methods for Sorting Problems with
Multiple Temporal Criteria [17.673512636899076]
本研究では,時間的基準が存在する場合の複数基準ソート問題に対する新しい選好学習手法を提案する。
スケーラビリティを向上し、学習可能な時間割引要素に対応するため、新しい単調リカレントニューラルネットワーク(mRNN)を導入する。
提案するmRNNは、時間とともに、限界値関数とパーソナライズされた時間割引係数を記述することにより、好みのダイナミクスを記述することができる。
論文 参考訳(メタデータ) (2023-09-22T05:08:52Z) - Optimal Sample Selection Through Uncertainty Estimation and Its
Application in Deep Learning [22.410220040736235]
コアセット選択とアクティブラーニングの両方に対処するための理論的に最適な解を提案する。
提案手法であるCOPSは,サブサンプルデータに基づいてトレーニングされたモデルの損失を最小限に抑えるために設計されている。
論文 参考訳(メタデータ) (2023-09-05T14:06:33Z) - Identifying Wrongly Predicted Samples: A Method for Active Learning [6.976600214375139]
本稿では,不確実性を超えた単純なサンプル選択基準を提案する。
予測されたサンプルを正しく識別するために、最先端の結果とより良いレートを示す。
論文 参考訳(メタデータ) (2020-10-14T09:00:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。