論文の概要: The Compute Divide in Machine Learning: A Threat to Academic Contribution and Scrutiny?

• arxiv url: http://arxiv.org/abs/2401.02452v2
• Date: Mon, 8 Jan 2024 12:37:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-09 11:29:47.145016
• Title: The Compute Divide in Machine Learning: A Threat to Academic Contribution and Scrutiny?
• Title（参考訳）: 機械学習の計算分割: 学術的貢献と精査に対する脅威?
• Authors: Tamay Besiroglu, Sage Andrus Bergerson, Amelia Michael, Lennart Heim, Xueyun Luo, Neil Thompson
• Abstract要約: 計算の偏差は、計算集約的な研究トピックにおける学術のみの研究チームの表現の減少と一致していることを示す。 この傾向から生じる課題に対処するため、留意的に学術的な洞察を広めるためのアプローチを推奨する。
• 参考スコア（独自算出の注目度）: 1.0985060632689174
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There are pronounced differences in the extent to which industrial and academic AI labs use computing resources. We provide a data-driven survey of the role of the compute divide in shaping machine learning research. We show that a compute divide has coincided with a reduced representation of academic-only research teams in compute intensive research topics, especially foundation models. We argue that, academia will likely play a smaller role in advancing the associated techniques, providing critical evaluation and scrutiny, and in the diffusion of such models. Concurrent with this change in research focus, there is a noticeable shift in academic research towards embracing open source, pre-trained models developed within the industry. To address the challenges arising from this trend, especially reduced scrutiny of influential models, we recommend approaches aimed at thoughtfully expanding academic insights. Nationally-sponsored computing infrastructure coupled with open science initiatives could judiciously boost academic compute access, prioritizing research on interpretability, safety and security. Structured access programs and third-party auditing may also allow measured external evaluation of industry systems.
• Abstract（参考訳）: 産業と学術のAIラボがコンピューティングリソースを使用する範囲には、明らかな違いがある。 本稿では,機械学習研究における計算分割の役割に関するデータ駆動調査を行う。 計算分断は、計算集約的な研究トピック、特に基礎モデルにおける学術のみの研究チームの表現の減少と一致していることを示す。 学術は関連する技術の進歩、批判的な評価と精査、そしてそのようなモデルの拡散において、より小さな役割を担っていると我々は主張する。 この研究の焦点の変更と並行して、業界内で開発されたオープンソースの事前学習モデルを受け入れることへの学術研究のシフトが目覚ましい。 この傾向から生じる課題、特に影響力のあるモデルの精査を減らすために、学術的洞察を思慮深く拡大することを目的としたアプローチを推奨する。 国家が支援するコンピューティングインフラストラクチャとオープンサイエンスのイニシアチブが組み合わさることで、アカデミックな計算アクセスを公平に促進し、解釈可能性、安全性、セキュリティの研究を優先することができる。 構造化されたアクセスプログラムとサードパーティの監査により、産業システムの外部評価も可能となる。

関連論文リスト

• Retrieval-Enhanced Machine Learning: Synthesis and Opportunities [60.34182805429511]
  検索エンハンスメントは機械学習(ML)の幅広い範囲に拡張できる この研究は、MLの様々な領域の文献を、現在の文献から欠落している一貫した表記で合成することで、このパラダイムの正式なフレームワークであるRetrieval-Enhanced Machine Learning (REML)を導入する。 本研究の目的は、様々な分野の研究者に対して、検索強化モデルの包括的、正式に構造化された枠組みを付与し、学際的な将来の研究を促進することである。
  論文  参考訳（メタデータ） (2024-07-17T20:01:21Z)
• Mapping Computer Science Research: Trends, Influences, and Predictions [0.0]
  我々は、トレンド研究領域を予測するために、決定木やロジスティック回帰モデルを含む高度な機械学習技術を採用している。 分析の結果,研究論文(参照数)に引用される参考資料の数は,トレンド研究領域を決定する上で重要な役割を担っていることが明らかとなった。 ロジスティック回帰モデルは、傾向を予測するために決定木モデルより優れ、高い精度、精度、リコール、F1スコアを示す。
  論文  参考訳（メタデータ） (2023-08-01T16:59:25Z)
• Investigating Fairness Disparities in Peer Review: A Language Model Enhanced Approach [77.61131357420201]
  我々は、大規模言語モデル(LM)の助けを借りて、ピアレビューにおける公平性格差の徹底した厳密な研究を行う。 我々は、2017年から現在までのICLR(International Conference on Learning Representations)カンファレンスで、包括的なリレーショナルデータベースを収集、組み立て、維持しています。 我々は、著作者性別、地理、著作者、機関的名声など、興味のある複数の保護属性に対する公平性の違いを仮定し、研究する。
  論文  参考訳（メタデータ） (2022-11-07T16:19:42Z)
• Statistical Foundation Behind Machine Learning and Its Impact on Computer Vision [8.974457198386414]
  本稿では、統計的学習における一様収束の原理を再考し、機械学習の基礎としてどのように機能するかを論じ、現在のディープラーニングアルゴリズムが解決している本質的な問題をよりよく理解しようと試みる。 コンピュータビジョンを機械学習の例として用いた議論は、近年の大規模データを活用して、表現学習に事前学習を行うことによる研究の傾向が、現実的に抽出可能な経験的損失と最終的に望まれるが、予測される損失との差を減らしていることを示している。
  論文  参考訳（メタデータ） (2022-09-06T17:59:04Z)
• Research Trends and Applications of Data Augmentation Algorithms [77.34726150561087]
  我々は,データ拡張アルゴリズムの適用分野,使用するアルゴリズムの種類,重要な研究動向,時間経過に伴う研究の進展,およびデータ拡張文学における研究ギャップを同定する。 我々は、読者がデータ拡張の可能性を理解し、将来の研究方向を特定し、データ拡張研究の中で質問を開くことを期待する。
  論文  参考訳（メタデータ） (2022-07-18T11:38:32Z)
• Evaluation Methods and Measures for Causal Learning Algorithms [33.07234268724662]
  我々は2つの基本的な因果推論タスクと因果認識機械学習タスクに焦点を当てる。 この調査は、公開可能なベンチマークの開発と、観察データによる因果学習評価のためのコンセンサス標準の策定の緊急性に先んじることを目指している。
  論文  参考訳（メタデータ） (2022-02-07T00:24:34Z)
• Flashlight: Enabling Innovation in Tools for Machine Learning [50.63188263773778]
  私たちは、機械学習ツールやシステムの革新を促進するために構築されたオープンソースのライブラリであるFlashlightを紹介します。 Flashlightは、広く使われているライブラリを下流で活用し、機械学習とシステム研究者をより緊密に連携させる研究を可能にするツールだと考えています。
  論文  参考訳（メタデータ） (2022-01-29T01:03:29Z)
• Artificial Intelligence for IT Operations (AIOPS) Workshop White Paper [50.25428141435537]
  AIOps(Artificial Intelligence for IT Operations)は、マシンラーニング、ビッグデータ、ストリーミング分析、IT運用管理の交差点で発生する、新たな学際分野である。 AIOPSワークショップの主な目的は、アカデミアと産業界の両方の研究者が集まり、この分野での経験、成果、作業について発表することです。
  論文  参考訳（メタデータ） (2021-01-15T10:43:10Z)
• Knowledge as Invariance -- History and Perspectives of Knowledge-augmented Machine Learning [69.99522650448213]
  機械学習の研究は転換点にある。 研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。 このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
  論文  参考訳（メタデータ） (2020-12-21T15:07:19Z)
• A narrowing of AI research? [0.0]
  学術と民間におけるAI研究のテーマ的多様性の進化について研究する。 我々は、AI研究における民間企業の影響力を、彼らが受け取った引用と他の機関とのコラボレーションを通じて測定する。
  論文  参考訳（メタデータ） (2020-09-22T08:23:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。