論文の概要: Quantifying artificial intelligence through algebraic generalization

• arxiv url: http://arxiv.org/abs/2411.05943v1
• Date: Fri, 08 Nov 2024 20:08:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-12 14:12:58.534842
• Title: Quantifying artificial intelligence through algebraic generalization
• Title（参考訳）: 代数的一般化による人工知能の定量化
• Authors: Takuya Ito, Murray Campbell, Lior Horesh, Tim Klinger, Parikshit Ram,
• Abstract要約: 現代のAIシステムは、シンボリック処理と抽象化を必要とするテストに不足している。 AIシステムにおける推論を定量化するための包括的で理論的に動機付けられたフレームワークは存在しない。 ここでは、シンボリック一般化を明示的に定量化するために、計算複雑性理論の枠組みを採用する。
• 参考スコア（独自算出の注目度）: 19.999962047304596
• License:
• Abstract: The rapid development of modern artificial intelligence (AI) systems has created an urgent need for their scientific quantification. While their fluency across a variety of domains is impressive, modern AI systems fall short on tests requiring symbolic processing and abstraction - a glaring limitation given the necessity for interpretable and reliable technology. Despite a surge of reasoning benchmarks emerging from the academic community, no comprehensive and theoretically-motivated framework exists to quantify reasoning (and more generally, symbolic ability) in AI systems. Here, we adopt a framework from computational complexity theory to explicitly quantify symbolic generalization: algebraic circuit complexity. Many symbolic reasoning problems can be recast as algebraic expressions. Thus, algebraic circuit complexity theory - the study of algebraic expressions as circuit models (i.e., directed acyclic graphs) - is a natural framework to study the complexity of symbolic computation. The tools of algebraic circuit complexity enable the study of generalization by defining benchmarks in terms of their complexity-theoretic properties (i.e., the difficulty of a problem). Moreover, algebraic circuits are generic mathematical objects; for a given algebraic circuit, an arbitrarily large number of samples can be generated for a specific circuit, making it an optimal testbed for the data-hungry machine learning algorithms that are used today. Here, we adopt tools from algebraic circuit complexity theory, apply it to formalize a science of symbolic generalization, and address key theoretical and empirical challenges for its successful application to AI science and its impact on the broader community.
• Abstract（参考訳）: 現代の人工知能(AI)システムの急速な発展は、その科学的定量化に緊急の必要性を生み出している。 さまざまな領域にまたがる彼らの流布は印象的だが、現代のAIシステムは、象徴的な処理と抽象化を必要とするテストに不足している。 学術コミュニティから推論ベンチマークが急増しているにもかかわらず、AIシステムにおける推論(そしてより一般的には象徴的な能力)を定量化するための包括的で理論的に動機づけられたフレームワークは存在しない。 ここでは、記号的一般化を明示的に定量化するために、計算複雑性理論の枠組みを用いる:代数的回路複雑性。 多くの記号的推論問題は代数的表現として再キャストできる。 したがって、代数的回路複雑性理論 - 回路モデルとしての代数的表現の研究(すなわち、有向非巡回グラフ)は、記号計算の複雑さを研究する自然な枠組みである。 代数的回路複雑性のツールは、その複雑性理論的性質(すなわち問題の難しさ)の観点からベンチマークを定義することによって一般化の研究を可能にする。 さらに、代数回路は汎用的な数学的対象であり、与えられた代数回路に対して、特定の回路に対して任意の数のサンプルを任意に生成することができ、今日のデータハングリー機械学習アルゴリズムの最適なテストベッドとなる。 本稿では, 代数回路複雑性理論のツールを応用して, 記号的一般化の科学を形式化し, そのAI科学への応用の成功と, より広いコミュニティへの影響に対する理論的および実証的課題に対処する。

関連論文リスト

• The Computational Complexity of Circuit Discovery for Inner Interpretability [0.30723404270319693]
  我々は古典的およびパラメータ化された計算複雑性理論を用いて回路発見を研究する。 私たちの発見は、難しい複雑さの風景を明らかにします。 このフレームワークは、解釈可能性クエリの範囲と限界を理解するのに役立ちます。
  論文  参考訳（メタデータ） (2024-10-10T15:22:48Z)
• Artifical intelligence and inherent mathematical difficulty [0.0]
  まず、計算可能性と複雑性理論による制限的な結果が証明発見が本質的に難しい問題であることを示す従来の議論の更新版を提示する。 次に、人工知能にインスパイアされた最近のいくつかの応用が、数学的な証明の性質に関する新しい疑問を実際に提起する方法について説明する。
  論文  参考訳（メタデータ） (2024-08-01T20:08:31Z)
• Improving Complex Reasoning over Knowledge Graph with Logic-Aware Curriculum Tuning [89.89857766491475]
  大規模言語モデル(LLM)に基づくKG上の複雑な推論スキーマを提案する。 任意の一階論理クエリを二分木分解により拡張し、LLMの推論能力を刺激する。 広く使われているデータセットに対する実験では、LACTは高度な手法よりも大幅に改善されている(平均+5.5% MRRスコア)。
  論文  参考訳（メタデータ） (2024-05-02T18:12:08Z)
• CoLA: Exploiting Compositional Structure for Automatic and Efficient Numerical Linear Algebra [62.37017125812101]
  機械学習における大規模線形代数問題に対して, CoLA という, 単純だが汎用的なフレームワークを提案する。 線形演算子抽象と合成ディスパッチルールを組み合わせることで、CoLAはメモリと実行時の効率的な数値アルゴリズムを自動的に構築する。 偏微分方程式,ガウス過程,同変モデル構築,教師なし学習など,幅広い応用で有効性を示す。
  論文  参考訳（メタデータ） (2023-09-06T14:59:38Z)
• When Do Program-of-Thoughts Work for Reasoning? [51.2699797837818]
  本稿では,コードと推論能力の相関性を測定するために,複雑性に富んだ推論スコア(CIRS)を提案する。 具体的には、抽象構文木を用いて構造情報をエンコードし、論理的複雑性を計算する。 コードはhttps://github.com/zjunlp/EasyInstructのEasyInstructフレームワークに統合される。
  論文  参考訳（メタデータ） (2023-08-29T17:22:39Z)
• A Hybrid System for Systematic Generalization in Simple Arithmetic Problems [70.91780996370326]
  本稿では,記号列に対する合成的および体系的推論を必要とする算術的問題を解くことができるハイブリッドシステムを提案する。 提案システムは,最も単純なケースを含むサブセットでのみ訓練された場合においても,ネストした数式を正確に解くことができることを示す。
  論文  参考訳（メタデータ） (2023-06-29T18:35:41Z)
• End-to-end Algorithm Synthesis with Recurrent Networks: Logical Extrapolation Without Overthinking [52.05847268235338]
  機械学習システムが問題を過度に考えずに論理的外挿を行う方法を示す。 本稿では,問題インスタンスの明示的なコピーをメモリに保持して,それを忘れないようにするリコールアーキテクチャを提案する。 また、モデルが数に固有の行動を学ぶのを防ぎ、無期限に繰り返される行動を学ぶためにモデルをプッシュするプログレッシブトレーニングルーチンも採用しています。
  論文  参考訳（メタデータ） (2022-02-11T18:43:28Z)
• Design of quantum optical experiments with logic artificial intelligence [1.6114012813668934]
  本稿では,光学量子実験の設計における論理AIの利用を提案する。 任意の量子状態の実験的な準備をSAT問題にマップする方法を示す。 論理AIの使用により,この問題の解決度が大幅に向上することが判明した。
  論文  参考訳（メタデータ） (2021-09-27T18:01:08Z)
• Statistically Meaningful Approximation: a Case Study on Approximating Turing Machines with Transformers [50.85524803885483]
  本研究は,統計的学習性を示すために近似ネットワークを必要とする統計有意(SM)近似の形式的定義を提案する。 回路とチューリングマシンの2つの機能クラスに対するSM近似について検討する。
  論文  参考訳（メタデータ） (2021-07-28T04:28:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。