論文の概要: Understanding the Nature of Generative AI as Threshold Logic in High-Dimensional Space

• arxiv url: http://arxiv.org/abs/2604.02476v1
• Date: Thu, 02 Apr 2026 19:20:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.181541
• Title: Understanding the Nature of Generative AI as Threshold Logic in High-Dimensional Space
• Title（参考訳）: 高次元空間における閾値論理としての生成AIの性質の理解
• Authors: Ilya Levin,
• Abstract要約: 本稿では,生成人工知能の理解におけるしきい値論理の役割について検討する。 このシフトは、ニューラルネットワークを理解する上でも同様に重要な意味を持つ、と氏は主張する。
• 参考スコア（独自算出の注目度）: 0.7252027234425333
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper examines the role of threshold logic in understanding generative artificial intelligence. Threshold functions, originally studied in the 1960s in digital circuit synthesis, provide a structurally transparent model of neural computation: a weighted sum of inputs compared to a threshold, geometrically realized as a hyperplane partitioning a space. The paper shows that this operation undergoes a qualitative transition as dimensionality increases. In low dimensions, the perceptron acts as a determinate logical classifier, separating classes when possible, as decided by linear programming. In high dimensions, however, a single hyperplane can separate almost any configuration of points (Cover, 1965); the space becomes saturated with potential classifiers, and the perceptron shifts from a logical device to a navigational one, functioning as an indexical indicator in the sense of Peirce. The limitations of the perceptron identified by Minsky and Papert (1969) were historically addressed by introducing multilayer architectures. This paper considers an alternative path: increasing dimensionality while retaining a single threshold element. It argues that this shift has equally significant implications for understanding neural computation. The role of depth is reinterpreted as a mechanism for the sequential deformation of data manifolds through iterated threshold operations, preparing them for linear separability already afforded by high-dimensional geometry. The resulting triadic account - threshold function as ontological unit, dimensionality as enabling condition, and depth as preparatory mechanism - provides a unified perspective on generative AI grounded in established mathematics.
• Abstract（参考訳）: 本稿では,生成人工知能の理解におけるしきい値論理の役割について検討する。 閾値関数(Threshold function)は、1960年代にデジタル回路合成において研究され、空間を分割する超平面として幾何学的に実現されたしきい値と比較して入力の重み付けされた合計である、構造的に透明なニューラル計算モデルを提供する。 この操作は次元が増加するにつれて定性的遷移を行うことを示す。 低次元では、パーセプトロンは決定的な論理分類器として機能し、線形プログラミングによって決定されるように、可能な限りクラスを分離する。 しかし、高次元において、単一の超平面は任意の点の配置を分離することができる(Cover, 1965)。空間は潜在的な分類器で飽和し、パーセプトロンは論理装置から航法装置へシフトし、パースの意味において指数指標として機能する。 ミンスキーとパジェットが1969年に発見したパーセプトロンの限界は、歴史的に多層アーキテクチャの導入によって解決された。 本稿では,1つのしきい値を保ちながら次元性を高めるという代替経路について考察する。 このシフトは、ニューラルネットワークを理解する上でも同様に重要な意味を持つ、と氏は主張する。 深度の役割は、反復しきい値演算によるデータ多様体の逐次変形のメカニズムとして再解釈され、それを高次元幾何学で既に得られる線形分離性のために準備する。 結果として得られる三進的説明 - オントロジ単位としてのしきい値関数、許容条件としての次元性、準備機構としての深さ - は、確立された数学に根ざした生成的AIに関する統一的な視点を提供する。

関連論文リスト

• Epistemology of Generative AI: The Geometry of Knowing [0.7252027234425333]
  生成的AIは、知識とその生産に対する理解に前例のない課題を提示します。 本稿は,不足する説明は,まだ十分な哲学的関心を得られていないパラダイム的ブレークから始めなければならない,と論じる。
  論文  参考訳（メタデータ） (2026-02-19T06:34:34Z)
• Low-Dimensional Execution Manifolds in Transformer Learning Dynamics: Evidence from Modular Arithmetic Tasks [0.0]
  本稿では, 数値計算を慎重に制御し, 変圧器モデルにおける学習力学の構造について検討する。 その結果,トランスフォーマー学習を理解するための統一的な幾何学的枠組みが示唆された。
  論文  参考訳（メタデータ） (2026-02-11T03:57:46Z)
• On the Emergence of Induction Heads for In-Context Learning [121.64612469118464]
  本研究では, 2層トランスにおいて以前に同定されたメカニズムである誘導ヘッドの出現について検討する。 最小限の ICL タスクの定式化と改良型トランスフォーマアーキテクチャを用いて,この構造の起源を説明する。
  論文  参考訳（メタデータ） (2025-11-02T18:12:06Z)
• The Origins of Representation Manifolds in Large Language Models [52.68554895844062]
  表現空間におけるコサイン類似性は、最短のオンマンフォールド経路を通して特徴の内在幾何学を符号化することができることを示す。 理論の臨界仮定と予測は、大きな言語モデルのテキスト埋め込みとトークンアクティベーションに基づいて検証される。
  論文  参考訳（メタデータ） (2025-05-23T13:31:22Z)
• Neural Networks as Universal Finite-State Machines: A Constructive Deterministic Finite Automaton Theory [0.0]
  我々は、ユニバーサル有限状態マシン(N-FSM)としてフィードフォワードニューラルネットワークを確立する。 我々の結果は、有限深度ReLUとしきい値ネットワークが決定論的有限オートマトン(DFAs)を正確にシミュレートできることを証明している。 固定深度フィードフォワードネットワークは、メモリを必要とする非正規言語を認識できない。
  論文  参考訳（メタデータ） (2025-05-16T21:01:34Z)
• Average gradient outer product as a mechanism for deep neural collapse [26.939895223897572]
  Deep Neural Collapse (DNC)は、Deep Neural Networks (DNN)の最終層におけるデータ表現の驚くほど硬い構造を指す。 本研究では,平均勾配外積(AGOP)を通した特徴学習によりDNCが生成するデータ依存環境を提案する。 特徴学習体制下で訓練されたニューラルネットワークに対して,適切な特異ベクトルと重みの値が,クラス内変動の崩壊の大部分の原因となることを示す。
  論文  参考訳（メタデータ） (2024-02-21T11:40:27Z)
• LOGICSEG: Parsing Visual Semantics with Neural Logic Learning and Reasoning [73.98142349171552]
  LOGICSEGは、神経誘導学習と論理推論をリッチデータとシンボリック知識の両方に統合する、全体論的視覚意味論である。 ファジィ論理に基づく連続的な緩和の間、論理式はデータとニューラルな計算グラフに基礎を置いており、論理によるネットワークトレーニングを可能にする。 これらの設計によりLOGICSEGは、既存のセグメンテーションモデルに容易に統合できる汎用的でコンパクトなニューラル論理マシンとなる。
  論文  参考訳（メタデータ） (2023-09-24T05:43:19Z)
• High-dimensional separability for one- and few-shot learning [58.8599521537]
  この作業は、実用的な質問、人工知能(AI)エラーの修正によって進められている。 特殊な外部デバイスである修正器が開発されている。従来のAIシステムを変更することなく、迅速かつ非イテレーティブなシステム修正を提供する必要がある。 AIシステムの新しいマルチコレクタが提示され、深層畳み込みニューラルネットワークによってエラーを予測し、新しいクラスのオブジェクトを学習する例が紹介される。
  論文  参考訳（メタデータ） (2021-06-28T14:58:14Z)
• EigenGAN: Layer-Wise Eigen-Learning for GANs [84.33920839885619]
  EigenGANは、異なる発電機層から解釈可能で制御可能な寸法を無監督にマイニングすることができます。 特定の固有次元の係数をトラバースすることで、ジェネレータは特定の意味属性に対応する連続的な変化を伴うサンプルを生成することができる。
  論文  参考訳（メタデータ） (2021-04-26T11:14:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。