論文の概要: Shortcut Learning in Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2004.07780v5
• Date: Tue, 21 Nov 2023 15:22:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-23 06:26:34.465033
• Title: Shortcut Learning in Deep Neural Networks
• Title（参考訳）: ディープニューラルネットワークにおけるショートカット学習
• Authors: Robert Geirhos, J\"orn-Henrik Jacobsen, Claudio Michaelis, Richard Zemel, Wieland Brendel, Matthias Bethge, Felix A. Wichmann
• Abstract要約: 深層学習の問題のどれ程が、同じ根底にある問題であるショートカット学習の異なる症状と見なすことができるのかを精査することを模索する。 ショートカットは標準的なベンチマークでうまく機能するが、現実のシナリオのようなより困難なテスト条件に移行できない決定ルールである。 我々は、モデル解釈とベンチマークのためのレコメンデーションを開発し、実験室から現実のアプリケーションへの堅牢性と伝達性を改善するために、機械学習の最近の進歩を強調した。
• 参考スコア（独自算出の注目度）: 29.088631285225237
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning has triggered the current rise of artificial intelligence and is the workhorse of today's machine intelligence. Numerous success stories have rapidly spread all over science, industry and society, but its limitations have only recently come into focus. In this perspective we seek to distill how many of deep learning's problems can be seen as different symptoms of the same underlying problem: shortcut learning. Shortcuts are decision rules that perform well on standard benchmarks but fail to transfer to more challenging testing conditions, such as real-world scenarios. Related issues are known in Comparative Psychology, Education and Linguistics, suggesting that shortcut learning may be a common characteristic of learning systems, biological and artificial alike. Based on these observations, we develop a set of recommendations for model interpretation and benchmarking, highlighting recent advances in machine learning to improve robustness and transferability from the lab to real-world applications.
• Abstract（参考訳）: ディープラーニングは、現在の人工知能の台頭を引き起こし、今日の人工知能の成果である。 多くの成功談は、科学、産業、社会に急速に広まったが、その限界は最近になってようやく焦点が当てられた。 この観点から,深層学習の問題のいくつが,同じ根本的な問題である近道学習の異なる症状と見なせるか,について考察する。 ショートカットは標準的なベンチマークでうまく機能するが、現実のシナリオのようなより困難なテスト条件に移行できない決定ルールである。 関連する問題は、比較心理学、教育、言語学で知られており、近道学習は、生物学的および人工的な学習システムにおいて共通の特徴である可能性が示唆されている。 これらの観測に基づいて、モデル解釈とベンチマークのための一連の勧告を開発し、実験室から実世界のアプリケーションへのロバスト性や転送性を改善する機械学習の最近の進歩を強調した。

関連論文リスト

• A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
  バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。 本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。 我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
  論文  参考訳（メタデータ） (2024-02-16T18:05:09Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Machine Unlearning: A Survey [56.79152190680552]
  プライバシ、ユーザビリティ、および/または忘れられる権利のために、特定のサンプルに関する情報をマシンアンラーニングと呼ばれるモデルから削除する必要がある特別なニーズが生まれている。 この新興技術は、その革新と実用性により、学者と産業の両方から大きな関心を集めている。 この複雑なトピックを分析したり、さまざまなシナリオで既存の未学習ソリューションの実現可能性を比較したりした研究はない。 この調査は、未学習のテクニックに関する卓越した問題と、新しい研究機会のための実現可能な方向性を強調して締めくくった。
  論文  参考訳（メタデータ） (2023-06-06T10:18:36Z)
• Towards Understanding How Machines Can Learn Causal Overhypotheses [4.540122114051773]
  子供たちは様々な因果推論と学習に精通している。 現在の機械学習アルゴリズムにおける重要な課題の1つは、因果仮説のモデリングと理解である。 既存の技術の評価を可能にするフレキシブルな環境である新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2022-06-16T17:54:16Z)
• Towards continual task learning in artificial neural networks: current approaches and insights from neuroscience [0.0]
  人間や他の動物が、多様で、しばしば干渉し、知識の範囲を学習する能力は、自然知性の目印である。 人工知能がさまざまなタスクやドメインをまたいで学習できることは、人工知能の明確な目標である。
  論文  参考訳（メタデータ） (2021-12-28T13:50:51Z)
• From Machine Learning to Robotics: Challenges and Opportunities for Embodied Intelligence [113.06484656032978]
  記事は、インテリジェンスが機械学習技術の進歩の鍵を握っていると主張している。 私たちは、インテリジェンスを具体化するための課題と機会を強調します。 本稿では,ロボット学習の最先端性を著しく向上させる研究の方向性を提案する。
  論文  参考訳（メタデータ） (2021-10-28T16:04:01Z)
• Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
  機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。 ディープラーニングは、独自の機械学習のサブフィールドになっている。 生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
  論文  参考訳（メタデータ） (2021-05-29T21:02:44Z)
• Knowledge as Invariance -- History and Perspectives of Knowledge-augmented Machine Learning [69.99522650448213]
  機械学習の研究は転換点にある。 研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。 このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
  論文  参考訳（メタデータ） (2020-12-21T15:07:19Z)
• Off-the-shelf deep learning is not enough: parsimony, Bayes and causality [0.8602553195689513]
  材料科学における深層学習の実現に向けた機会と障害について論じる。 私たちは、ディープラーニングとAIは、因果関係が知られている分野に革命をもたらすのに十分な位置にあると論じています。
  論文  参考訳（メタデータ） (2020-05-04T15:16:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。