論文の概要: Applying Deutsch's concept of good explanations to artificial
intelligence and neuroscience -- an initial exploration
- arxiv url: http://arxiv.org/abs/2012.09318v2
- Date: Thu, 24 Dec 2020 23:06:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-03 03:04:38.308654
- Title: Applying Deutsch's concept of good explanations to artificial
intelligence and neuroscience -- an initial exploration
- Title（参考訳）: 人工知能と神経科学へのDeutschの優れた説明を応用する -- 最初の調査
- Authors: Daniel C. Elton
- Abstract要約: 深層学習におけるドイツの難しい原則と、より形式化された原則とどのように関連しているかを調査します。
私たちは、人間の脳を見ることで、知能でどのように難しい説明が果たす役割を見ます。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial intelligence has made great strides since the deep learning
revolution, but AI systems still struggle to extrapolate outside of their
training data and adapt to new situations. For inspiration we look to the
domain of science, where scientists have been able to develop theories which
show remarkable ability to extrapolate and sometimes predict the existence of
phenomena which have never been observed before. According to David Deutsch,
this type of extrapolation, which he calls "reach", is due to scientific
theories being hard to vary. In this work we investigate Deutsch's hard-to-vary
principle and how it relates to more formalized principles in deep learning
such as the bias-variance trade-off and Occam's razor. We distinguish internal
variability, how much a model/theory can be varied internally while still
yielding the same predictions, with external variability, which is how much a
model must be varied to accurately predict new, out-of-distribution data. We
discuss how to measure internal variability using the size of the Rashomon set
and how to measure external variability using Kolmogorov complexity. We explore
what role hard-to-vary explanations play in intelligence by looking at the
human brain and distinguish two learning systems in the brain. The first system
operates similar to deep learning and likely underlies most of perception and
motor control while the second is a more creative system capable of generating
hard-to-vary explanations of the world. We argue that figuring out how
replicate this second system, which is capable of generating hard-to-vary
explanations, is a key challenge which needs to be solved in order to realize
artificial general intelligence. We make contact with the framework of
Popperian epistemology which rejects induction and asserts that knowledge
generation is an evolutionary process which proceeds through conjecture and
refutation.
- Abstract（参考訳）: 人工知能はディープラーニング革命以来、大きな進歩を遂げてきたが、AIシステムはトレーニングデータの外部への露出と新しい状況への適応に苦戦している。
科学者は、これまで観測されたことのない現象の存在を外挿し、時には予測する驚くべき能力を示す理論を開発できた。
デビッド・ドイッチュ(David Deutsch)によれば、この種の外挿は「リーチ」と呼ばれ、科学的理論が変化しにくいためである。
本研究では,Deutschの難易度原理と,バイアス分散トレードオフやOccam's razorといった深層学習におけるより形式化された原則との関連について検討する。
我々は、モデル/理論が内部的にどの程度変化しても、同じ予測を得られるか、外部変数と区別し、新しい非分布データを正確に予測するために、モデルがどの程度変化する必要があるかを示す。
本稿では,ラショモン集合の大きさを用いた内部変動量の測定方法とコルモゴロフ複雑性を用いた外部変動量の測定方法について述べる。
人間の脳を見て、脳内の2つの学習システムを区別することで、知性において困難な説明が果たす役割を探求する。
第1のシステムはディープラーニングと似ていて、知覚と運動制御のほとんどを基盤としており、第2のシステムはより創造的なシステムであり、世界の難しい説明を生成できる。
我々は、この第2のシステムがいかに多変量説明を生成することができるかを理解することは、人工知能を実現するために解決すべき重要な課題であると主張している。
帰納を拒絶するポペル認識論の枠組みに接触し、知識の生成は予想と反論を通じて進行する進化過程であると主張する。
関連論文リスト
- Stop ordering machine learning algorithms by their explainability! A
user-centered investigation of performance and explainability [0.0]
機械学習アルゴリズムのモデル性能と説明可能性のトレードオフについて検討する。
エンドユーザの認識では、トレードオフは徐々に減少しています。
第2の実験の結果、説明可能な人工知能の強化は説明可能性を高めるのに有効であるが、このタイプの説明はエンドユーザの知覚に不可欠な役割を担っていることがわかった。
論文 参考訳（メタデータ） (2022-06-20T08:32:38Z) - Neurocompositional computing: From the Central Paradox of Cognition to a
new generation of AI systems [120.297940190903]
AIの最近の進歩は、限られた形態のニューロコンフォメーションコンピューティングの使用によってもたらされている。
ニューロコンポジションコンピューティングの新しい形式は、より堅牢で正確で理解しやすいAIシステムを生み出します。
論文 参考訳（メタデータ） (2022-05-02T18:00:10Z) - Observing Interventions: A logic for thinking about experiments [62.997667081978825]
本稿では,実験から学ぶ論理への第一歩について述べる。
我々のアプローチにとって重要なことは、介入の概念が(現実的または仮説的な)実験の形式的表現として使用できるという考えである。
提案された全ての論理系に対して、健全で完全な公理化を提供する。
論文 参考訳（メタデータ） (2021-11-25T09:26:45Z) - The Effects of Learning in Morphologically Evolving Robot Systems [8.627180519837657]
学習はタスクのパフォーマンスを大幅に向上させ、特定のフィットネスレベルに達するために必要な世代数を削減できることを示す。
学習はコントローラにのみ直接影響を与えるが、進化した形態も異なることを実証する。
進化過程を通じて、遺伝と学習した脳のパフォーマンス差である学習デルタが成長しているのを観察する。
論文 参考訳（メタデータ） (2021-11-18T18:20:33Z) - A Mathematical Approach to Constraining Neural Abstraction and the
Mechanisms Needed to Scale to Higher-Order Cognition [0.0]
人工知能はこの10年で大きな進歩を遂げてきたが、人工知能の最もよく知られている例である人間の脳にはまだ及ばない。
神経の過程があまり知られていないため、脳はほんの少しで跳躍を達成できる。
本稿では, グラフ理論とスペクトルグラフ理論を用いた数学的アプローチを提案する。
論文 参考訳（メタデータ） (2021-08-12T02:13:22Z) - The Causal Neural Connection: Expressiveness, Learnability, and
Inference [125.57815987218756]
構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。
本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。
我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
論文 参考訳（メタデータ） (2021-07-02T01:55:18Z) - Applications of the Free Energy Principle to Machine Learning and
Neuroscience [0.0]
我々は、自由エネルギー原理にインスパイアされた手法を機械学習と神経科学の2つの重要な分野に適用する。
我々は、自由エネルギー原理から派生した神経生物学的に妥当なプロセス理論である予測符号化に焦点を当てる。
第2に、変動メッセージパッシングによる行動の神経生物学的根拠である能動推論について検討する。
最後に, 生物学的に有効な脳内クレジット代入法について検討した。
論文 参考訳（メタデータ） (2021-06-30T22:53:03Z) - Embodied Intelligence via Learning and Evolution [92.26791530545479]
環境の複雑さが形態学的知能の進化を促進することを示す。
また、進化は速く学習する形態を素早く選択することを示した。
我々の実験は、ボールドウィン効果とモルフォロジーインテリジェンスの発生の両方の力学的基礎を示唆している。
論文 参考訳（メタデータ） (2021-02-03T18:58:31Z) - Knowledge as Invariance -- History and Perspectives of
Knowledge-augmented Machine Learning [69.99522650448213]
機械学習の研究は転換点にある。
研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。
このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
論文 参考訳（メタデータ） (2020-12-21T15:07:19Z) - Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。
この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。
これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
論文 参考訳（メタデータ） (2020-11-30T18:29:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。