論文の概要: Non-Zero Radius: The Missing Component of Neural Networks
- arxiv url: http://arxiv.org/abs/2610.39559v1
- Date: Thu, 29 Oct 2026 07:59:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:10.059524
- Title: Non-Zero Radius: The Missing Component of Neural Networks
- Title(参考訳): Non-Zero Radius: ニューラルネットワークの欠如コンポーネント
- Abstract要約: 球面に基づく表現は、生物学的認知の付加的な特徴を捉えることができることを示す。
我々は,SphNN(Sphere Neural Networks)を導入し,SphNN(Sphere Neural Networks)とSphNN(Sphere Neural Networks)を比較した。
- 参考スコア(独自算出の注目度): 32.106745029884216
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inspired by the analogy between the all-or-none activation of biological neurons and the true-false of logic circuits, McCulloch and Pitts proposed a mathematical model of the biological neuron in 1943 with the aim of simulating logical reasoning. Although Norbert Wiener considered the model overly simplistic at the time, it later became a building block of modern neural networks, including large language models. Despite their remarkable empirical success, however, conventional neural networks remain largely black-box systems and struggle with reliable symbolic reasoning. Viewing vectors as spheres of zero radius, we relax the zero-radius constraint and represent concepts as spheres with non-zero radii. We argue that sphere-based representations can capture additional features of biological cognition, including representing spatial concepts as regions and reasoning through model construction and inspection. Building on sphere embeddings, we introduce Sphere Neural Networks (SphNNs), which use a transition map to achieve symbolic-level Aristotelian syllogistic reasoning without training data, thereby taking an initial step toward the original goal of McCulloch and Pitts. We suggest that the zero-radius constraint may reflect an aspect of the oversimplification identified by Wiener and may limit conventional neural networks' capacity for symbolic-level logical reasoning.
- Abstract(参考訳): 生物学的ニューロンの活性化と論理回路の真偽の類似性から着想を得たマカロックとピットスは、論理的推論をシミュレートする目的で1943年に生物学的ニューロンの数学的モデルを提案した。
当時のノーバート・ウィーナーはこのモデルを過度に単純化したものだと考えたが、後に大きな言語モデルを含む現代のニューラルネットワークの構成要素となった。
しかし、その顕著な経験的成功にもかかわらず、従来のニューラルネットワークは主にブラックボックスシステムであり、信頼できるシンボリック推論に苦戦している。
ベクトルを零半径の球として見ることで、零半径の制約を緩和し、非零半径の球として概念を表現する。
球面に基づく表現は、空間概念を領域として表現し、モデル構築と検査を通して推論するなど、生物学的認知の付加的な特徴を捉えることができると論じる。
球面埋め込みをベースとしたSphNN(Sphere Neural Networks)を導入する。SphNN(Sphere Neural Networks)は,SphNN(Sphere Neural Networks)とSphNN(Sphere Neural Networks, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs, SphNNs)を導入し,システリックレベルのシロジカル推論をトレーニングデータなしで実現し,McGlochとPittsの当初の目標に向かって最初の一歩を踏み出す。
我々は、ゼロラディウス制約は、ウィーナーが認識した過度な単純化の側面を反映し、記号レベルの論理的推論に対して従来のニューラルネットワークの能力を制限することを示唆している。
関連論文リスト
- Dense Neural Networks are not Universal Approximators [53.27010448621372]
ニューラルネットワークは任意の連続関数の普遍性を持たないことを示す。
ReLUニューラルネットワークは、重みと入出力次元の自然な制約を受ける。
論文 参考訳(メタデータ) (2026-02-07T16:52:38Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳(メタデータ) (2025-06-26T22:40:30Z) - Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。
神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。
私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
論文 参考訳(メタデータ) (2025-05-16T13:49:43Z) - Sphere Neural-Networks for Rational Reasoning [24.591858077975548]
ベクトルから球面への計算ビルディングブロックの一般化による新しい拡張を提案する。
モデル構築と検査を通して人間のような推論を行うための球ニューラルネット(SphNN)を提案する。
SphNNは、合理性-時間的推論、否定と解離を伴う論理的推論、イベント推論、ニューロシンボリック統一、ユーモア理解など、様々なタイプの推論に進化することができる。
論文 参考訳(メタデータ) (2024-03-22T15:44:59Z) - Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。
幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
論文 参考訳(メタデータ) (2023-02-01T03:18:07Z) - NeuPSL: Neural Probabilistic Soft Logic [19.47714497494585]
我々は、最先端のシンボル推論と深層ニューラルネットワークの低レベル認識を結びつける新しいニューロシンボリック(NeSy)フレームワークを導入する。
我々はNeuPSLでニューラルネットワークとシンボルパラメータの学習と推論をシームレスに統合する方法を示す。
確立されたNeSyタスク、MNIST-Additionにおいて、NeuPSLは、データ設定で既存のNeSyアプローチを最大10%上回る、ジョイント推論機能を示している。
論文 参考訳(メタデータ) (2022-05-27T23:06:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。