論文の概要: A Survey on Stability of Learning with Limited Labelled Data and its Sensitivity to the Effects of Randomness
- arxiv url: http://arxiv.org/abs/2312.01082v2
- Date: Tue, 3 Sep 2024 07:59:58 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-04 22:02:40.455107
- Title: A Survey on Stability of Learning with Limited Labelled Data and its Sensitivity to the Effects of Randomness
- Title（参考訳）: 限定ラベリングデータによる学習の安定性とそのランダム性への影響に関する調査
- Authors: Branislav Pecher, Ivan Srba, Maria Bielikova,
- Abstract要約: 本調査は,限定ラベル付きデータによる学習の安定性に対するランダム性の影響を論じる415の論文の概要を概説する。
我々は7つの課題を特定し議論し、さらなる研究を促進するための可能な方向性とともに課題を開放する。
この調査の最終的な目標は、この成長する研究領域の重要性を強調することである。
- 参考スコア（独自算出の注目度）: 5.009377915313077
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning with limited labelled data, such as prompting, in-context learning, fine-tuning, meta-learning or few-shot learning, aims to effectively train a model using only a small amount of labelled samples. However, these approaches have been observed to be excessively sensitive to the effects of uncontrolled randomness caused by non-determinism in the training process. The randomness negatively affects the stability of the models, leading to large variances in results across training runs. When such sensitivity is disregarded, it can unintentionally, but unfortunately also intentionally, create an imaginary perception of research progress. Recently, this area started to attract research attention and the number of relevant studies is continuously growing. In this survey, we provide a comprehensive overview of 415 papers addressing the effects of randomness on the stability of learning with limited labelled data. We distinguish between four main tasks addressed in the papers (investigate/evaluate; determine; mitigate; benchmark/compare/report randomness effects), providing findings for each one. Furthermore, we identify and discuss seven challenges and open problems together with possible directions to facilitate further research. The ultimate goal of this survey is to emphasise the importance of this growing research area, which so far has not received an appropriate level of attention, and reveal impactful directions for future research.
- Abstract（参考訳）: ラベル付きデータに制限された学習(インコンテキスト学習、微調整、メタラーニング、少数ショット学習など)は、少量のラベル付きサンプルを使用してモデルを効果的にトレーニングすることを目的としている。
しかし、これらのアプローチは、トレーニング過程における非決定性による無制御ランダム性の影響に過度に敏感であることが観察されている。
ランダム性はモデルの安定性に悪影響を及ぼし、トレーニング実行中の結果に大きなばらつきをもたらす。
このような感度が無視されている場合、それは意図せず、しかし残念なことに、研究の進歩に対する想像上の認識を生み出します。
近年、この領域は研究の関心を集め始め、関連研究の数は増え続けている。
本研究では,限定ラベル付きデータを用いた学習の安定性に及ぼすランダム性の影響について,415の論文の概要を概説する。
論文で対処される4つの主要なタスク(調査/評価、決定、緩和、ベンチマーク/コンペア/報告ランダムネス効果)を区別し、それぞれに結果を与えます。
さらに,7つの課題を特定し,議論し,さらなる研究を促進するための可能な方向性とともに課題を開放する。
この調査の最終的な目標は、この成長する研究領域の重要性を強調することである。
関連論文リスト
- Unsupervised Pairwise Causal Discovery on Heterogeneous Data using Mutual Information Measures [49.1574468325115]
因果発見(Causal Discovery)は、構成変数の統計的性質を分析することで、この問題に取り組む手法である。
教師付き学習によって得られたことに基づいて,現在の(おそらく誤解を招く)ベースライン結果に疑問を呈する。
その結果、堅牢な相互情報測定を用いて、教師なしの方法でこの問題にアプローチする。
論文 参考訳（メタデータ） (2024-08-01T09:11:08Z) - On Sensitivity of Learning with Limited Labelled Data to the Effects of Randomness: Impact of Interactions and Systematic Choices [5.009377915313077]
そこで本研究では,相互作用を考慮したランダム性要因の効果について検討する。
本手法は,個々のランダム性係数の真の効果を測定するために,他の要因の影響を緩和し,複数の実行において性能がどのように変化するかを観察する。
1) 既存の作業におけるランダム性要因間の相互作用を無視することは, ランダム性要因の効果の誤った帰属に起因する不整合な発見であり, たとえサンプル順序に対しても, コンテキスト内学習の一貫性を否定するなど, ランダム性要因の効果の誤った帰属によるものである。
論文 参考訳（メタデータ） (2024-02-20T08:38:19Z) - Assumption violations in causal discovery and the robustness of score matching [38.60630271550033]
本稿では、最近の因果発見手法の観測データに対する実証的性能を広範囲にベンチマークする。
スコアマッチングに基づく手法は、推定されたグラフの偽陽性と偽陰性率において驚くべき性能を示すことを示す。
本論文は,因果発見手法の評価のための新しい基準を策定することを願っている。
論文 参考訳（メタデータ） (2023-10-20T09:56:07Z) - Causal Discovery and Counterfactual Explanations for Personalized
Student Learning [0.0]
この研究の主な貢献は、因果発見を用いて、学生のパフォーマンスの因果予測を識別することである。
実験結果から, 先行試験成績や数学能力が最終成績に及ぼす影響など, 因果関係が明らかとなった。
カウンターファクトリコメンデーションのリアルタイム実装と検証が大きな課題である。
論文 参考訳（メタデータ） (2023-09-18T10:32:47Z) - Leveraging Unlabelled Data in Multiple-Instance Learning Problems for
Improved Detection of Parkinsonian Tremor in Free-Living Conditions [80.88681952022479]
本稿では,半教師付き学習とマルチスタンス学習を組み合わせた新しい手法を提案する。
本研究は,454被験者の非競合データを活用することにより,物体ごとの震動検出において大きな性能向上が達成できることを示す。
論文 参考訳（メタデータ） (2023-04-29T12:25:10Z) - Valid Inference After Causal Discovery [73.87055989355737]
我々は、因果関係発見後の推論に有効なツールを開発する。
因果発見とその後の推論アルゴリズムの組み合わせは,高度に膨らんだ誤発見率をもたらすことを示す。
論文 参考訳（メタデータ） (2022-08-11T17:40:45Z) - ALLSH: Active Learning Guided by Local Sensitivity and Hardness [98.61023158378407]
本稿では,局所感度と硬度認識獲得機能を備えたラベル付きサンプルの検索を提案する。
本手法は,様々な分類タスクにおいてよく用いられるアクティブラーニング戦略よりも一貫した利得が得られる。
論文 参考訳（メタデータ） (2022-05-10T15:39:11Z) - Partial Identification of Dose Responses with Hidden Confounders [25.468473751289036]
観測データから連続的に評価された治療の因果効果を推定することが重要な課題である。
本稿では, 平均および条件付き平均連続値処理効果推定値の両方を束縛する新しい手法を提案する。
本手法を実世界の観測ケーススタディに適用し,線量依存因果効果の同定の価値を実証する。
論文 参考訳（メタデータ） (2022-04-24T07:02:21Z) - SurvITE: Learning Heterogeneous Treatment Effects from Time-to-Event
Data [83.50281440043241]
時系列データから不均一な処理効果を推定する問題について検討する。
本稿では,バランス表現に基づく治療特異的ハザード推定のための新しいディープラーニング手法を提案する。
論文 参考訳（メタデータ） (2021-10-26T20:13:17Z) - Learning Neural Causal Models with Active Interventions [83.44636110899742]
本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。
本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。
シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
論文 参考訳（メタデータ） (2021-09-06T13:10:37Z) - Bayesian Active Learning for Wearable Stress and Affect Detection [0.7106986689736827]
デバイス上での深層学習アルゴリズムによるストレス検出は、広汎なコンピューティングの進歩により増加傾向にある。
本稿では,ベイズニューラルネットワークの近似によるモデル不確実性を表現可能なフレームワークを提案する。
提案手法は, 提案手法により, 推定時の効率を著しく向上し, 獲得したプール点数がかなり少なくなる。
論文 参考訳（メタデータ） (2020-12-04T16:19:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。