論文の概要: Revisiting WEASEL 2.0: Reproduction, Sensitivity, and an Adaptive Ensemble-Size Rule
- arxiv url: http://arxiv.org/abs/2608.18021v1
- Date: Tue, 18 Aug 2026 17:14:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.412894
- Title: Revisiting WEASEL 2.0: Reproduction, Sensitivity, and an Adaptive Ensemble-Size Rule
- Title(参考訳): WEASEL 2.0を再考する: 再現性、感度、および適応型アンサンブルサイズルール
- Abstract要約: 114UCRデータセット上でWEASEL 2.0を再現し,平均精度0.865,中央値0.928を得た。
次に、下流分類器、特徴重み付けの欠如、最大ウィンドウサイズルール、最大アンサンブルサイズルールの4つの設計選択の感度をテストする。
- 参考スコア(独自算出の注目度): 1.5224436211478214
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: WEASEL 2.0 is a dictionary-based time series classifier that combines dilated sliding windows with a randomised hyperparameter ensemble and a fixed-size dense feature representation. Two of its hyperparameter choices, the maximum ensemble size and the maximum window size, are specified by simple thresholding rules whose chosen thresholds are not empirically justified in the original paper. In this work we reproduce WEASEL 2.0 on 114 UCR datasets, achieving a mean accuracy of 0.865 and median of 0.928, closely matching the published values (Wilcoxon signed-rank, p = 0.655). We then test the sensitivity of four design choices: the downstream classifier, the absence of feature weighting, the maximum window-size rule, and the maximum ensemble-size rule. The first three are robust to perturbation. The fourth is over-provisioned for long-series datasets, motivating an adaptive rule that sets the maximum ensemble size from series length and number of classes. Evaluated on fixed-length datasets, the adaptive rule reduces peak fit memory by a median of 37 MB (mean 395 MB) and fit time by a median of 0.4 s (mean 4 s), with a median accuracy change of 0% (mean -0.11%). Memory and time savings concentrate on long-series datasets where the original rule allocates the largest ensemble size.
- Abstract(参考訳): WEASEL 2.0は、拡張されたスライドウィンドウとランダム化されたハイパーパラメータアンサンブルと固定サイズの高密度特徴表現を組み合わせた辞書ベースの時系列分類器である。
その2つのハイパーパラメータ選択、最大アンサンブルサイズと最大ウィンドウサイズは、選択されたしきい値が元の論文で実証的に正当化されない単純なしきい値規則によって指定される。
本研究では, WEASEL 2.0を114UCRデータセット上で再現し, 平均精度0.865, 中央値0.928とし, 得られた値(Wilcoxon sign-rank, p = 0.655)と密に一致させた。
次に、下流分類器、特徴重み付けの欠如、最大ウィンドウサイズルール、最大アンサンブルサイズルールの4つの設計選択の感度をテストする。
最初の3つは摂動に頑丈である。
4つ目は、時系列データセットに対して過剰にプロビジョンされ、列の長さとクラス数から最大アンサンブルサイズを設定する適応ルールを動機付けている。
固定長データセットに基づいて評価すると、適応規則はピーク適合メモリを37MB(平均395MB)、適合時間は0.4秒(平均4秒)、平均精度は0%(平均0.11%)で減少させる。
メモリと時間の節約は、最初のルールが最大のアンサンブルサイズを割り当てるロングシリーズデータセットに集中する。
関連論文リスト
- Adaptive $k$ Nearest Neighbors Classifier via Granular Ball Computing [60.23863579199315]
k$-Nearest Neighbor(KNN)アルゴリズムは様々なタスクで広く使われている。
本稿では,粒度計算による適応的かつ効率的なKNN手法を提案する。
論文 参考訳(メタデータ) (2026-08-13T07:39:46Z) - qZACH-ViT: Quantization-Aware Intrinsic Explanations with Recursive Attribution-Stabilized Optimization [0.0]
ゼロトケンフリーなZACH-ViTバックボーンの量子化対応拡張であるqZACH-ViTを導入する。
帰納的属性安定化最適化(RASO)も導入する。
我々は,クラス毎に50のトレーニング画像と10の固定種子を用いて,7つのMedMNISTデータセットに対して4つの制御条件を評価する。
論文 参考訳(メタデータ) (2026-07-16T19:51:48Z) - Robust Layerwise Scaling Rules by Proper Weight Decay Tuning [50.11170157029911]
現代のスケール不変アーキテクチャでは、トレーニングは急速に劣化したグラデーション状態に入る。
我々は,AdamWに対して,幅をまたいだサブ層ゲインを保ったウェイトデカイスケーリングルールを導入する。
この結果は,パラメータが設定した定常スケールを明示的に制御することにより,ほぼ入出力体制を超えて$mu$Pを拡大する。
論文 参考訳(メタデータ) (2025-10-17T02:58:35Z) - Optimal Scaling Needs Optimal Norm [1.8180584498244492]
モデルとデータセットサイズをまたいだ共同最適スケーリングは、単一の不変量によって管理される。
最大138Bトークンでトレーニングされた最大1.3Bパラメータを持つモデル全体で、最適な学習率/バッチサイズ対$(etaast, Bast)$は同じ演算子ノルム値を持つ。
論文 参考訳(メタデータ) (2025-10-04T16:48:36Z) - Predictable Scale: Part I, Step Law -- Optimal Hyperparameter Scaling Law in Large Language Model Pretraining [59.369484219304866]
我々は100兆のトークンをスクラッチから3,700以上の大規模言語モデル(LLM)に対する前例のない経験的調査訓練を実施している。
ステップ法則(ステップ法)と呼ばれる,LLM事前学習におけるハイパーパラメータ最適化のための普遍的スケーリング法則を確立する。
我々の推定オプティマは, 排他的探索によって得られた世界最高の性能から, テストセットの0.094%しか逸脱しない。
論文 参考訳(メタデータ) (2025-03-06T18:58:29Z) - No Free Lunch From Random Feature Ensembles: Scaling Laws and Near-Optimality Conditions [33.21599217370897]
総モデルサイズの固定予算が与えられた場合、1つの大きなモデルをトレーニングするか、または複数のより小さなモデルの予測を組み合わせるかを選択する必要がある。
固定数のパラメータが独立に訓練されたモデルに分散すると、リッジ最適化テストのリスクは$K$で増加する。
次に、アンサンブルがテクテニア最適のパフォーマンスをいつ達成できるかを尋ねる。
論文 参考訳(メタデータ) (2024-12-06T20:55:27Z) - A Novel Adaptive Fine-Tuning Algorithm for Multimodal Models: Self-Optimizing Classification and Selection of High-Quality Datasets in Remote Sensing [46.603157010223505]
マルチモーダル大モデルに対する適応的な微調整アルゴリズムを提案する。
我々は、GeoChatマルチモーダルリモートセンシングデータセットの3分の1を使用して、2台の3090 GPU上でモデルをトレーニングする。
このモデルはUCMercedおよびAID評価データセットで89.86と77.19のスコアを得た。
論文 参考訳(メタデータ) (2024-09-20T09:19:46Z) - Decoding-Time Language Model Alignment with Multiple Objectives [116.42095026960598]
既存の手法は主に、1つの報酬関数に対してLMを最適化することに集中し、それらの適応性は様々な目的に制限される。
本稿では,予測の線形結合から次のトークンを出力する復号時間アルゴリズムである$textbfmulti-objective decoding (MOD)$を提案する。
提案手法は, 自然条件下であっても, 既存のアプローチが準最適であることを示すとともに, 提案手法の最適性を保証する。
論文 参考訳(メタデータ) (2024-06-27T02:46:30Z) - BooleanOCT: Optimal Classification Trees based on multivariate Boolean
Rules [14.788278997556606]
最適な分類木を導出するために,MIP(Mixed-integer Programming)の定式化を導入する。
提案手法は,F1スコアなどの非線形指標と同様に,精度,バランスの取れた精度,コストに敏感なコストを含む線形メトリクスを統合する。
提案したモデルでは,実世界のデータセットに対して現実的な可解性を示し,数万のサイズの処理を効果的に行う。
論文 参考訳(メタデータ) (2024-01-29T12:58:44Z) - Max-Min Diversification with Fairness Constraints: Exact and
Approximation Algorithms [17.57585822765145]
本稿では,小データセットに適した正確なアルゴリズムと,大データセットにスケールする任意の$varepsilon in (0, 1)$に対して$frac1-varepsilon integer 5$-approximationアルゴリズムを提案する。
実世界のデータセットに対する実験は、提案アルゴリズムが既存のデータセットよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-01-05T13:02:35Z) - Fast Batch Nuclear-norm Maximization and Minimization for Robust Domain
Adaptation [154.2195491708548]
ランダムに選択されたデータバッチの分類出力行列の構造について検討し,予測可能性と多様性について検討した。
本稿では,目標出力行列上で核ノルムを行い,目標予測能力を向上するBatch Nuclear-norm Maximization and Minimizationを提案する。
実験により,本手法は3つの典型的なドメイン適応シナリオにおいて適応精度とロバスト性を高めることができることが示された。
論文 参考訳(メタデータ) (2021-07-13T15:08:32Z) - ADAHESSIAN: An Adaptive Second Order Optimizer for Machine Learning [91.13797346047984]
本稿では,2次最適化アルゴリズムであるADAHESSIANを紹介する。
ADAHESSIANは、他の適応最適化手法と比較して、新しい最先端の成果を大きなマージンで達成することを示す。
論文 参考訳(メタデータ) (2020-06-01T05:00:51Z) - Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。
我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
論文 参考訳(メタデータ) (2020-04-23T05:00:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。