論文の概要: Automatic Construction of Strong Simple Baselines

• arxiv url: http://arxiv.org/abs/2610.40700v1
• Date: Wed, 28 Oct 2026 19:46:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.447506
• Title: Automatic Construction of Strong Simple Baselines
• Title（参考訳）: 強靭な簡易ベースラインの自動構築
• Abstract要約: 我々はNature, Science, Cell- Family Journalsのピアレビュー研究から36の教師付き分類と回帰タスクを構築した。 次に、各タスクの単純なベースラインを構築するために、言語モデルを使用します。 12の研究では、中央値の単純なベースラインが深層学習モデルの性能に一致するか、上回っている。
• 参考スコア（独自算出の注目度）: 9.851071673451967
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To rigorously establish the value of a novel deep learning method, it must be compared against appropriate baselines. As deep learning has become increasingly common in the physical and life sciences, there have been numerous cases in which apparent progress has turned out to be an artifact of omitted or missing baselines. In this work, we investigate whether this problem can be mitigated by using large language models to automate the construction of baselines. We assemble 36 supervised classification and regression tasks from peer-reviewed studies in Nature, Science, and Cell-family journals that investigate novel deep learning methods for scientific applications. We then use a language model to construct simple baselines for each task. These automatically constructed baselines are strong, recovering a median of 95.5% (mean 85.7%) of the gap between a trivial predictor and the score of the deep learning model. The median simple baseline matches or exceeds the performance of the deep learning model in 12 studies. We further examine the variation across scientific domains and publication venues and we characterize the effects of test-time compute and access to different levels of study context. As human peer review has struggled to keep up with the rapidly increasing volume of research articles in recent years, our results suggest that automated baseline construction is a practical and scalable check on deep learning contributions in the physical and life sciences.
• Abstract（参考訳）: 新たなディープラーニング手法の価値を厳格に確立するには,適切なベースラインと比較する必要がある。 深層学習は、物理科学や生命科学においてますます一般的になっているため、明らかな進歩が省略された、あるいは欠落したベースラインの人工物であることが判明した多くのケースがある。 本研究では,大規模な言語モデルを用いてベースライン構築を自動化することにより,この問題を緩和できるかどうかを検討する。 我々は、科学応用のための新しい深層学習手法を調査するNature, Science, Cell- Family Journalsにおけるピアレビュー研究から、36の教師付き分類と回帰タスクを組み立てた。 次に、各タスクの単純なベースラインを構築するために、言語モデルを使用します。 これらの自動構築ベースラインは強く、自明な予測器とディープラーニングモデルのスコアとのギャップの95.5%(平均85.7%)を回復する。 12の研究では、中央値の単純なベースラインが深層学習モデルの性能に一致するか、上回っている。 さらに、学術分野や出版施設の変動について検討し、テストタイム計算の効果と異なるレベルの研究状況へのアクセスを特徴付ける。 近年,人間のピアレビューは研究論文の増加に追随しているため,自動ベースライン構築は,物理・生命科学における深層学習貢献の実践的かつスケーラブルなチェックである可能性が示唆された。

関連論文リスト

• Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences [89.71422932447423]
  LOGOSは、自然科学における異種タスクを統一する科学生成言語モデルである。 空間的接触パターンと制約パターンを離散トークンとして表現することにより、モデルは純粋にシーケンシャルな方法で複雑な構造的相互作用をキャプチャする。 多様なタスクにわたって、LOGOSは一貫してドメイン固有のベースラインにマッチまたは性能を向上する。
  論文  参考訳（メタデータ） (2026-06-15T16:14:53Z)
• Deep Learning For Time Series Analysis With Application On Human Motion [0.0]
  この論文はディープラーニングを活用し、特徴工学による分類を強化し、基礎モデルを導入し、コンパクトで最先端のアーキテクチャを開発する。 我々の貢献は、行動認識とリハビリテーションのための人間の動作分析を含む現実世界のタスクに当てはまる。 プロトタイピングのために,データ不足時の回帰モデルを支援する形状に基づく合成サンプル生成手法を提案する。
  論文  参考訳（メタデータ） (2025-02-26T18:01:51Z)
• A Closer Look at Deep Learning Methods on Tabular Datasets [78.61845513154502]
  広い範囲にまたがる300以上のデータセットの集合であるTALENTについて広範な研究を行った。 我々の評価では、アンサンブルは木に基づくアプローチとニューラルアプローチの両方に効果があることが示されている。
  論文  参考訳（メタデータ） (2024-07-01T04:24:07Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• A Survey on Few-Shot Class-Incremental Learning [11.68962265057818]
  FSCIL(Few-shot class-incremental Learning)は、ディープニューラルネットワークが新しいタスクを学習する上で重要な課題である。 本稿では, FSCILに関する包括的調査を行う。 FSCILはコンピュータビジョンの様々な分野で大きな成果を上げている。
  論文  参考訳（メタデータ） (2023-04-17T10:15:08Z)
• NEVIS'22: A Stream of 100 Tasks Sampled from 30 Years of Computer Vision Research [96.53307645791179]
  我々は,100以上の視覚的分類タスクのストリームからなるベンチマークであるNever-Ending VIsual-classification Stream (NEVIS'22)を紹介する。 分類に制限されているにもかかわらず、OCR、テクスチャ分析、シーン認識など、様々なタスクが生成される。 NEVIS'22は、タスクの規模と多様性のために、現在のシーケンシャルな学習アプローチに対して前例のない課題を提起している。
  論文  参考訳（メタデータ） (2022-11-15T18:57:46Z)
• Deep Learning in Single-Cell Analysis [34.08722045363822]
  単細胞技術は生物学全般に革命をもたらしている。 ディープラーニングは、従来の機械学習手法よりも優れたパフォーマンスを示すことが多い。 この調査は生物学者やコンピュータ科学者の参考となり、コラボレーションを奨励する。
  論文  参考訳（メタデータ） (2022-10-22T08:26:41Z)
• A Deep Learning Approach to Analyzing Continuous-Time Systems [20.89961728689037]
  深層学習が複雑なプロセスの解析に有効であることを示す。 提案手法は,多くの自然系に対して不可解な標準的な仮定を緩和する。 行動・神経画像データに顕著な改善が認められた。
  論文  参考訳（メタデータ） (2022-09-25T03:02:31Z)
• What Makes Good Contrastive Learning on Small-Scale Wearable-based Tasks? [59.51457877578138]
  本研究では,ウェアラブル型行動認識タスクにおけるコントラスト学習について検討する。 本稿では,PyTorchライブラリのtextttCL-HAR について述べる。
  論文  参考訳（メタデータ） (2022-02-12T06:10:15Z)
• Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
  機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。 ディープラーニングは、独自の機械学習のサブフィールドになっている。 生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
  論文  参考訳（メタデータ） (2021-05-29T21:02:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。