論文の概要: Neural networks for abstraction and reasoning: Towards broad generalization in machines

• arxiv url: http://arxiv.org/abs/2402.03507v1
• Date: Mon, 5 Feb 2024 20:48:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-07 17:46:26.863491
• Title: Neural networks for abstraction and reasoning: Towards broad generalization in machines
• Title（参考訳）: 抽象化と推論のためのニューラルネットワーク:マシンの広範な一般化に向けて
• Authors: Mikel Bober-Irizar, Soumya Banerjee
• Abstract要約: 我々は Abstraction & Reasoning Corpus (ARC) を解くための新しいアプローチについて検討する。 本研究では,DreamCoderのニューロシンボリック推論解法をARCに適用する。 我々は、DreamCoderがARCタスクを解くことを可能にするPeARL(Perceptual Abstraction and Reasoning Language)言語を提示する。 ARCに関する今後の研究を容易にするために、arckit Pythonライブラリを公開しています。
• 参考スコア（独自算出の注目度）: 3.165509887826658
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: For half a century, artificial intelligence research has attempted to reproduce the human qualities of abstraction and reasoning - creating computer systems that can learn new concepts from a minimal set of examples, in settings where humans find this easy. While specific neural networks are able to solve an impressive range of problems, broad generalisation to situations outside their training data has proved elusive.In this work, we look at several novel approaches for solving the Abstraction & Reasoning Corpus (ARC), a dataset of abstract visual reasoning tasks introduced to test algorithms on broad generalization. Despite three international competitions with $100,000 in prizes, the best algorithms still fail to solve a majority of ARC tasks and rely on complex hand-crafted rules, without using machine learning at all. We revisit whether recent advances in neural networks allow progress on this task. First, we adapt the DreamCoder neurosymbolic reasoning solver to ARC. DreamCoder automatically writes programs in a bespoke domain-specific language to perform reasoning, using a neural network to mimic human intuition. We present the Perceptual Abstraction and Reasoning Language (PeARL) language, which allows DreamCoder to solve ARC tasks, and propose a new recognition model that allows us to significantly improve on the previous best implementation.We also propose a new encoding and augmentation scheme that allows large language models (LLMs) to solve ARC tasks, and find that the largest models can solve some ARC tasks. LLMs are able to solve a different group of problems to state-of-the-art solvers, and provide an interesting way to complement other approaches. We perform an ensemble analysis, combining models to achieve better results than any system alone. Finally, we publish the arckit Python library to make future research on ARC easier.
• Abstract（参考訳）: 人工知能の研究は半世紀にわたって、人間の抽象性と推論の質を再現しようと試みてきた。 特定のニューラルネットワークは、目覚ましい範囲の問題を解決することができるが、トレーニングデータ以外の状況への広範な一般化は明らかにされている。本研究では、アルゴリズムを広範囲に一般化してテストするために導入された抽象的な視覚的推論タスクのデータセットであるARC(Abstraction & Reasoning Corpus)を解決するための、いくつかの新しいアプローチを検討する。 10万ドル(約10万円)の賞金を持つ3つの国際競争にもかかわらず、最高のアルゴリズムはARCタスクの大部分を解決できず、機械学習を全く使わずに複雑な手作りのルールに依存している。 ニューラルネットワークの最近の進歩がこの課題の進展を許すかどうかを再考する。 まず、DreamCoderのニューロシンボリック推論解法をARCに適用する。 dreamcoderは、人間の直観を模倣するニューラルネットワークを使って、ドメイン固有の言語でプログラムを自動記述して推論を行う。 我々は,DreamCoder が ARC タスクを解くことを可能にする Perceptual Abstraction and Reasoning Language (PeARL) 言語を提案し,従来の最高の実装を大幅に改善できる新しい認識モデルを提案する。また,大規模言語モデル (LLM) が ARC タスクを解くことを可能にする新しいエンコーディングおよび拡張スキームを提案し,最大モデルが ARC タスクを解くことができることを発見した。 LLMは、最先端の問題解決者に対して異なるグループの問題を解決することができ、他のアプローチを補完する興味深い方法を提供する。 どのシステムよりも優れた結果を得るために、モデルを組み合わせてアンサンブル分析を行う。 最後に、ARCに関する今後の研究を容易にするために、arckit Pythonライブラリを公開します。

関連論文リスト

• VisualPredicator: Learning Abstract World Models with Neuro-Symbolic Predicates for Robot Planning [86.59849798539312]
  本稿では,記号的・神経的知識表現の強みを組み合わせた一階抽象言語Neuro-Symbolic Predicatesを提案する。 提案手法は, サンプルの複雑さの向上, 分布外一般化の強化, 解釈可能性の向上を実現する。
  論文  参考訳（メタデータ） (2024-10-30T16:11:05Z)
• Bridging Logic and Learning: A Neural-Symbolic Approach for Enhanced Reasoning in Neural Models (ASPER) [0.13053649021965597]
  本稿では,学習推論タスクにおけるニューラルモデルの性能向上を目的としたアプローチを提案する。 これを実現するために、Answer Set Programmingソルバとドメイン固有の専門知識を統合する。 モデルは、トレーニングとテストのためにたった12のパズルを使用して、スドゥークパズルの解法を大幅に改善したことを示している。
  論文  参考訳（メタデータ） (2023-12-18T19:06:00Z)
• The Clock and the Pizza: Two Stories in Mechanistic Explanation of Neural Networks [59.26515696183751]
  ニューラルネットワークにおけるアルゴリズム発見は、時としてより複雑であることを示す。 単純な学習問題でさえ、驚くほど多様なソリューションを許容できることが示されています。
  論文  参考訳（メタデータ） (2023-06-30T17:59:13Z)
• OpenAGI: When LLM Meets Domain Experts [51.86179657467822]
  ヒューマン・インテリジェンス(HI)は、複雑なタスクを解くための基本的なスキルの組み合わせに長けている。 この機能は人工知能(AI)にとって不可欠であり、包括的なAIエージェントに組み込まれるべきである。 マルチステップで現実的なタスクを解決するために設計されたオープンソースのプラットフォームであるOpenAGIを紹介します。
  論文  参考訳（メタデータ） (2023-04-10T03:55:35Z)
• OFA$^2$: A Multi-Objective Perspective for the Once-for-All Neural Architecture Search [79.36688444492405]
  once-for-All(OFA)は、異なるリソース制約を持つデバイスのための効率的なアーキテクチャを探索する問題に対処するために設計された、ニューラルネットワーク検索(NAS)フレームワークである。 我々は,探索段階を多目的最適化問題として明示的に考えることにより,効率の追求を一歩進めることを目指している。
  論文  参考訳（メタデータ） (2023-03-23T21:30:29Z)
• Abstract Visual Reasoning Enabled by Language [8.627180519837657]
  ARCを解くための一般学習型フレームワークを提案する。 タスクをビジョンから言語領域に変換することに集中しています。 言語と視覚のこの構成により、各段階で事前訓練されたモデルを利用することができる。
  論文  参考訳（メタデータ） (2023-03-07T17:52:46Z)
• Are Deep Neural Networks SMARTer than Second Graders? [85.60342335636341]
  6～8歳児を対象としたビジュオ言語パズルの解法において,ニューラルネットワークの抽象化,推論,一般化能力の評価を行った。 我々のデータセットは101のユニークなパズルで構成されており、各パズルは絵の質問で構成されており、それらの解には算術、代数学、空間推論を含むいくつかの基本的なスキルが混在している必要がある。 実験により、強力なディープモデルは教師付き設定でパズルに合理的な性能を与えるが、一般化のために解析するとランダムな精度よりは良くないことが明らかになった。
  論文  参考訳（メタデータ） (2022-12-20T04:33:32Z)
• Graphs, Constraints, and Search for the Abstraction and Reasoning Corpus [19.27379168184259]
  ARC(Abstraction and Reasoning Corpus)は、汎用人工知能アルゴリズムのパフォーマンスをベンチマークすることを目的としている。 ARCは広範な一般化と少数ショットの学習に重点を置いているため、純粋な機械学習を使って解決することは不可能である。 本稿では,グラフを用いた画像の表現と,正しいプログラムの検索を行う新しいオブジェクト中心のフレームワークである,グラフ抽象化を用いた抽象推論を提案する。
  論文  参考訳（メタデータ） (2022-10-18T14:13:43Z)
• WenLan 2.0: Make AI Imagine via a Multimodal Foundation Model [74.4875156387271]
  我々は,膨大なマルチモーダル(視覚的・テキスト的)データを事前学習した新しい基礎モデルを開発する。 そこで本研究では,様々な下流タスクにおいて,最先端の成果が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-27T12:25:21Z)
• Neural-guided, Bidirectional Program Search for Abstraction and Reasoning [3.2348834229786885]
  本稿では, ブルートフォース探索をベースとしない抽象化と推論の2つのアプローチの基礎を定めている。 まずDreamCoderと呼ばれる既存のプログラム合成システムを用いて、これまで解決されてきたタスクからシンボリックな抽象化を作成する。 第二に、人間がARCに近づく方法によって動機付けられた推論アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2021-10-22T00:41:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。