論文の概要: Adversarial Examples and the Deeper Riddle of Induction: The Need for a
Theory of Artifacts in Deep Learning
- arxiv url: http://arxiv.org/abs/2003.11917v1
- Date: Fri, 20 Mar 2020 16:24:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-21 21:58:28.012506
- Title: Adversarial Examples and the Deeper Riddle of Induction: The Need for a
Theory of Artifacts in Deep Learning
- Title(参考訳): 逆例とより深い誘導リドル--深層学習における人工物理論の必要性
- Authors: Cameron Buckner
- Abstract要約: 私は、敵対的な例が哲学や多様な科学における議論の火花となると論じます。
私は、敵対的な例が哲学や多様な科学における議論の火花となると論じます。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning is currently the most widespread and successful technology in
artificial intelligence. It promises to push the frontier of scientific
discovery beyond current limits. However, skeptics have worried that deep
neural networks are black boxes, and have called into question whether these
advances can really be deemed scientific progress if humans cannot understand
them. Relatedly, these systems also possess bewildering new vulnerabilities:
most notably a susceptibility to "adversarial examples". In this paper, I argue
that adversarial examples will become a flashpoint of debate in philosophy and
diverse sciences. Specifically, new findings concerning adversarial examples
have challenged the consensus view that the networks' verdicts on these cases
are caused by overfitting idiosyncratic noise in the training set, and may
instead be the result of detecting predictively useful "intrinsic features of
the data geometry" that humans cannot perceive (Ilyas et al., 2019). These
results should cause us to re-examine responses to one of the deepest puzzles
at the intersection of philosophy and science: Nelson Goodman's "new riddle" of
induction. Specifically, they raise the possibility that progress in a number
of sciences will depend upon the detection and manipulation of useful features
that humans find inscrutable. Before we can evaluate this possibility, however,
we must decide which (if any) of these inscrutable features are real but
available only to "alien" perception and cognition, and which are distinctive
artifacts of deep learning-for artifacts like lens flares or Gibbs phenomena
can be similarly useful for prediction, but are usually seen as obstacles to
scientific theorizing. Thus, machine learning researchers urgently need to
develop a theory of artifacts for deep neural networks, and I conclude by
sketching some initial directions for this area of research.
- Abstract(参考訳): ディープラーニングは現在、人工知能において最も広く成功している技術である。
科学的発見のフロンティアを現在の限界を超えて押し上げることを約束している。
しかし、深層ニューラルネットワークがブラックボックスであることに懐疑的な人々は懸念しており、人間が理解できなければ、これらの進歩が科学的進歩と見なせるかどうかを疑問視している。
関連して、これらのシステムは新たな脆弱性も抱えている。
本稿では、敵対的な事例が哲学や多様な科学における議論のフラッシュポイントとなると論じる。
特に、敵対的な事例に関する新たな知見は、これらの事例に対するネットワークの判断がトレーニングセットの慣用的ノイズの過度な適合に起因するというコンセンサス見解に異議を唱え、その代わりに、人間が知覚できない予測可能な「データ幾何学の本質的な特徴」を検出する結果である可能性がある(Ilyas et al., 2019)。
これらの結果は、哲学と科学の交点における最も深いパズルの1つ、ネルソン・グッドマンの「新しい謎」に対する反応を再検討させることになる。
具体的には、多くの科学の進歩が、人間が見当たらないような有用な特徴の検出と操作に依存する可能性を高める。
レンズフレアやギブス現象のような深層学習のためのアーティファクトは、同様に予測に有用であるが、科学的な理論化の障害と見なされる。
このように,機械学習研究者は,深層ニューラルネットワークのためのアーティファクトの理論を緊急に開発する必要がある。
関連論文リスト
- A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。
本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。
我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
論文 参考訳(メタデータ) (2024-02-16T18:05:09Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
逆の例では、機械学習モデルを操作して誤った予測を行うことができます。
敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。
本研究は, 対角移動可能性の展望を考察した。
論文 参考訳(メタデータ) (2023-10-26T17:45:26Z) - Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。
PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - Deep Learning Opacity in Scientific Discovery [0.15229257192293197]
哲学的悲観主義と科学的楽観主義の切り離しは、AIが科学で実際にどのように使われているかを調べるのに失敗している、と私は主張する。
AIによるブレークスルーの正当化を理解するために、哲学者はより広範な発見プロセスの一環として、ディープラーニングが果たす役割を検証しなければなりません。
論文 参考訳(メタデータ) (2022-06-01T14:30:49Z) - Searching for the Essence of Adversarial Perturbations [73.96215665913797]
本稿では,ニューラルネットワークの誤予測の原因となる,人間の認識可能な情報を含む対人摂動について述べる。
この人間の認識可能な情報の概念は、敵の摂動に関連する重要な特徴を説明できる。
論文 参考訳(メタデータ) (2022-05-30T18:04:57Z) - Limitations of Deep Neural Networks: a discussion of G. Marcus' critical
appraisal of deep learning [0.0]
ディープニューラルネットワークは、医療画像、半自律車、電子商取引、遺伝学研究、音声認識、粒子物理学、実験芸術、経済予測、環境科学、工業製造、そしてほぼあらゆる分野の様々な応用において、非常に大きな成果を上げてきた。
本研究は、深層ニューラルネットワークの限界のいくつかを調査し、将来の研究のための潜在的な経路を指し示し、多くの研究者が保持するメタフィジカルな誤解を解消することを目的としている。
論文 参考訳(メタデータ) (2020-12-22T12:11:19Z) - Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。
この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。
これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
論文 参考訳(メタデータ) (2020-11-30T18:29:25Z) - Scientific intuition inspired by machine learning generated hypotheses [2.294014185517203]
私たちは、機械学習モデル自体が得る洞察と知識に焦点を移します。
決定木では, 化学や物理から, ビッグデータから人間の解釈可能な洞察を抽出するために, 勾配増進法を適用した。
数値を超える能力は、機械学習を使って概念理解の発見を加速する扉を開く。
論文 参考訳(メタデータ) (2020-10-27T12:12:12Z) - Adversarial Examples on Object Recognition: A Comprehensive Survey [1.976652238476722]
深層ニューラルネットワークは、機械学習研究の最前線にある。
敵の例は、ネットワークの分散ドリフトに対する感度をテストするために意図的に設計されています。
ニューラルネットワークの安全性,安全性,堅牢性に対する敵の例の影響について論じる。
論文 参考訳(メタデータ) (2020-08-07T08:51:21Z) - Off-the-shelf deep learning is not enough: parsimony, Bayes and
causality [0.8602553195689513]
材料科学における深層学習の実現に向けた機会と障害について論じる。
私たちは、ディープラーニングとAIは、因果関係が知られている分野に革命をもたらすのに十分な位置にあると論じています。
論文 参考訳(メタデータ) (2020-05-04T15:16:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。