論文の概要: Quantifying artificial intelligence through algebraic generalization
- arxiv url: http://arxiv.org/abs/2411.05943v1
- Date: Fri, 08 Nov 2024 20:08:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-28 17:07:45.978015
- Title: Quantifying artificial intelligence through algebraic generalization
- Title(参考訳): 代数的一般化による人工知能の定量化
- Authors: Takuya Ito, Murray Campbell, Lior Horesh, Tim Klinger, Parikshit Ram,
- Abstract要約: 現代のAIシステムは、シンボリック処理と抽象化を必要とするテストに不足している。
AIシステムにおける推論を定量化するための包括的で理論的に動機付けられたフレームワークは存在しない。
ここでは、シンボリック一般化を明示的に定量化するために、計算複雑性理論の枠組みを採用する。
- 参考スコア(独自算出の注目度): 19.999962047304596
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rapid development of modern artificial intelligence (AI) systems has created an urgent need for their scientific quantification. While their fluency across a variety of domains is impressive, modern AI systems fall short on tests requiring symbolic processing and abstraction - a glaring limitation given the necessity for interpretable and reliable technology. Despite a surge of reasoning benchmarks emerging from the academic community, no comprehensive and theoretically-motivated framework exists to quantify reasoning (and more generally, symbolic ability) in AI systems. Here, we adopt a framework from computational complexity theory to explicitly quantify symbolic generalization: algebraic circuit complexity. Many symbolic reasoning problems can be recast as algebraic expressions. Thus, algebraic circuit complexity theory - the study of algebraic expressions as circuit models (i.e., directed acyclic graphs) - is a natural framework to study the complexity of symbolic computation. The tools of algebraic circuit complexity enable the study of generalization by defining benchmarks in terms of their complexity-theoretic properties (i.e., the difficulty of a problem). Moreover, algebraic circuits are generic mathematical objects; for a given algebraic circuit, an arbitrarily large number of samples can be generated for a specific circuit, making it an optimal testbed for the data-hungry machine learning algorithms that are used today. Here, we adopt tools from algebraic circuit complexity theory, apply it to formalize a science of symbolic generalization, and address key theoretical and empirical challenges for its successful application to AI science and its impact on the broader community.
- Abstract(参考訳): 現代の人工知能(AI)システムの急速な発展は、その科学的定量化に緊急の必要性を生み出している。
さまざまな領域にまたがる彼らの流布は印象的だが、現代のAIシステムは、象徴的な処理と抽象化を必要とするテストに不足している。
学術コミュニティから推論ベンチマークが急増しているにもかかわらず、AIシステムにおける推論(そしてより一般的には象徴的な能力)を定量化するための包括的で理論的に動機づけられたフレームワークは存在しない。
ここでは、記号的一般化を明示的に定量化するために、計算複雑性理論の枠組みを用いる:代数的回路複雑性。
多くの記号的推論問題は代数的表現として再キャストできる。
したがって、代数的回路複雑性理論 - 回路モデルとしての代数的表現の研究(すなわち、有向非巡回グラフ)は、記号計算の複雑さを研究する自然な枠組みである。
代数的回路複雑性のツールは、その複雑性理論的性質(すなわち問題の難しさ)の観点からベンチマークを定義することによって一般化の研究を可能にする。
さらに、代数回路は汎用的な数学的対象であり、与えられた代数回路に対して、特定の回路に対して任意の数のサンプルを任意に生成することができ、今日のデータハングリー機械学習アルゴリズムの最適なテストベッドとなる。
本稿では, 代数回路複雑性理論のツールを応用して, 記号的一般化の科学を形式化し, そのAI科学への応用の成功と, より広いコミュニティへの影響に対する理論的および実証的課題に対処する。
関連論文リスト
- Computational Thinking Reasoning in Large Language Models [69.28428524878885]
計算思考モデル(CTM)は、計算思考パラダイムを大規模言語モデル(LLM)に組み込んだ新しいフレームワークである。
ライブコード実行は推論プロセスにシームレスに統合され、CTMが計算によって考えることができる。
CTMは、精度、解釈可能性、一般化可能性の観点から、従来の推論モデルとツール拡張ベースラインを上回っている。
論文 参考訳(メタデータ) (2025-06-03T09:11:15Z) - Efficient and Scalable Neural Symbolic Search for Knowledge Graph Complex Query Answering [50.1887329564127]
複雑なクエリに対する効率的でスケーラブルなシンボル検索フレームワークを提案する。
我々のフレームワークは、ほぼ同じ性能を維持しながら、シンボリックメソッドの計算負荷を90%削減する。
論文 参考訳(メタデータ) (2025-05-13T01:24:09Z) - RV-Syn: Rational and Verifiable Mathematical Reasoning Data Synthesis based on Structured Function Library [58.404895570822184]
RV-Synは、新しい数学的合成手法である。
このライブラリからPython形式の関数を組み合わせることで、グラフをソリューションとして生成する。
構築したグラフに基づいて,解誘導論理認識問題生成を実現する。
論文 参考訳(メタデータ) (2025-04-29T04:42:02Z) - MathGAP: Out-of-Distribution Evaluation on Problems with Arbitrarily Complex Proofs [80.96119560172224]
MathGAPは、それらの算術的証明構造に関する仕様に従って、問題文と連鎖推論トレースを生成する。
MathGAP を用いて, LLM はより深く, より広くなるにつれて, 性能が著しく低下することがわかった。
論文 参考訳(メタデータ) (2024-10-17T12:48:14Z) - The Computational Complexity of Circuit Discovery for Inner Interpretability [0.30723404270319693]
我々は古典的およびパラメータ化された計算複雑性理論を用いて回路発見を研究する。
私たちの発見は、難しい複雑さの風景を明らかにします。
このフレームワークは、解釈可能性クエリの範囲と限界を理解するのに役立ちます。
論文 参考訳(メタデータ) (2024-10-10T15:22:48Z) - Artifical intelligence and inherent mathematical difficulty [0.0]
まず、計算可能性と複雑性理論による制限的な結果が証明発見が本質的に難しい問題であることを示す従来の議論の更新版を提示する。
次に、人工知能にインスパイアされた最近のいくつかの応用が、数学的な証明の性質に関する新しい疑問を実際に提起する方法について説明する。
論文 参考訳(メタデータ) (2024-08-01T20:08:31Z) - Improving Complex Reasoning over Knowledge Graph with Logic-Aware Curriculum Tuning [89.89857766491475]
大規模言語モデル(LLM)に基づくKG上の複雑な推論スキーマを提案する。
任意の一階論理クエリを二分木分解により拡張し、LLMの推論能力を刺激する。
広く使われているデータセットに対する実験では、LACTは高度な手法よりも大幅に改善されている(平均+5.5% MRRスコア)。
論文 参考訳(メタデータ) (2024-05-02T18:12:08Z) - CoLA: Exploiting Compositional Structure for Automatic and Efficient
Numerical Linear Algebra [62.37017125812101]
機械学習における大規模線形代数問題に対して, CoLA という, 単純だが汎用的なフレームワークを提案する。
線形演算子抽象と合成ディスパッチルールを組み合わせることで、CoLAはメモリと実行時の効率的な数値アルゴリズムを自動的に構築する。
偏微分方程式,ガウス過程,同変モデル構築,教師なし学習など,幅広い応用で有効性を示す。
論文 参考訳(メタデータ) (2023-09-06T14:59:38Z) - When Do Program-of-Thoughts Work for Reasoning? [51.2699797837818]
本稿では,コードと推論能力の相関性を測定するために,複雑性に富んだ推論スコア(CIRS)を提案する。
具体的には、抽象構文木を用いて構造情報をエンコードし、論理的複雑性を計算する。
コードはhttps://github.com/zjunlp/EasyInstructのEasyInstructフレームワークに統合される。
論文 参考訳(メタデータ) (2023-08-29T17:22:39Z) - Higher-order topological kernels via quantum computation [68.8204255655161]
トポロジカルデータ分析(TDA)は、複雑なデータから意味のある洞察を抽出する強力なツールとして登場した。
本稿では,ベッチ曲線の次数増加に基づくBettiカーネルの量子的定義法を提案する。
論文 参考訳(メタデータ) (2023-07-14T14:48:52Z) - A Hybrid System for Systematic Generalization in Simple Arithmetic
Problems [70.91780996370326]
本稿では,記号列に対する合成的および体系的推論を必要とする算術的問題を解くことができるハイブリッドシステムを提案する。
提案システムは,最も単純なケースを含むサブセットでのみ訓練された場合においても,ネストした数式を正確に解くことができることを示す。
論文 参考訳(メタデータ) (2023-06-29T18:35:41Z) - Semantic embedding for quantum algorithms [0.0]
高レベルの量子アルゴリズム推論の正確性を保証するために、ニーズが発展してきた。
量子信号処理(QSP)と量子特異値変換(QSVT)を用いて、多くの量子アルゴリズムが統一され、改善されている。
QSP/QSVTは、純粋に埋め込んだ関数変換の観点から、モジュール的に処理および結合可能であることを示す。
また,セマンティック埋め込みを暗黙的に利用する既存の量子アルゴリズムを,分散探索から量子暗号における音質まで同定する。
論文 参考訳(メタデータ) (2023-04-27T17:55:40Z) - Exceeding Computational Complexity Trial-and-Error Dynamic Action and
Intelligence [0.0]
計算複雑性 (Computational complexity) は、計算の難易度を規定する計算機科学のコア理論である。
本稿では,概念を明確にし,不特定型コンピューティング,特化型コンピューティング,コンピュータエージェント,動的検索などの定義を提案する。
また,このフレームワーク,すなわちトライアル・アンド・エラー+動的検索を提案し,議論する。
論文 参考訳(メタデータ) (2022-12-22T21:23:27Z) - End-to-end Algorithm Synthesis with Recurrent Networks: Logical
Extrapolation Without Overthinking [52.05847268235338]
機械学習システムが問題を過度に考えずに論理的外挿を行う方法を示す。
本稿では,問題インスタンスの明示的なコピーをメモリに保持して,それを忘れないようにするリコールアーキテクチャを提案する。
また、モデルが数に固有の行動を学ぶのを防ぎ、無期限に繰り返される行動を学ぶためにモデルをプッシュするプログレッシブトレーニングルーチンも採用しています。
論文 参考訳(メタデータ) (2022-02-11T18:43:28Z) - Design of quantum optical experiments with logic artificial intelligence [1.6114012813668934]
本稿では,光学量子実験の設計における論理AIの利用を提案する。
任意の量子状態の実験的な準備をSAT問題にマップする方法を示す。
論理AIの使用により,この問題の解決度が大幅に向上することが判明した。
論文 参考訳(メタデータ) (2021-09-27T18:01:08Z) - Statistically Meaningful Approximation: a Case Study on Approximating
Turing Machines with Transformers [50.85524803885483]
本研究は,統計的学習性を示すために近似ネットワークを必要とする統計有意(SM)近似の形式的定義を提案する。
回路とチューリングマシンの2つの機能クラスに対するSM近似について検討する。
論文 参考訳(メタデータ) (2021-07-28T04:28:55Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Efficient Solution of Boolean Satisfiability Problems with Digital
MemComputing [0.0]
メモリアシスト物理系はSAT問題を連続的に効率的に解くことができることを示す。
シミュレーションの効率は、元の物理系の集合力学特性と関係している。
我々は、物理学に着想を得た計算パラダイムの研究の方向性を広げることを期待している。
論文 参考訳(メタデータ) (2020-11-12T18:13:46Z) - ACSS-q: Algorithmic complexity for short strings via quantum accelerated
approach [1.4873907857806357]
符号化定理法を用いて,アルゴリズムの複雑性を推定する量子回路を提案する。
ユースケースとして,アルゴリズムの複雑さに基づくタンパク質-タンパク質相互作用の応用フレームワークを提案する。
論文 参考訳(メタデータ) (2020-09-18T14:41:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。