論文の概要: A First-Principles Theory of Slow Thinking and Active Perception
- arxiv url: http://arxiv.org/abs/2607.08196v1
- Date: Thu, 09 Jul 2026 07:54:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.453485
- Title: A First-Principles Theory of Slow Thinking and Active Perception
- Title（参考訳）: スローシンキングとアクティブパーセプションの第一原理理論
- Abstract要約: 本論文は, ゆっくりとした思考, あるいはより一般的に, 活発な知覚を導出する。
それは、ゆっくりと考える大きな言語モデルの設計、トレーニング、推論を含む。
- 参考スコア（独自算出の注目度）: 24.99113210706049
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As part of a series on first-principles modeling of cognitive functions, this paper attempts to provide a mathematical formulation of thinking and perception. It formally derives slow thinking or more generally, active perception, and encompasses the design, training and inference of slow thinking large language models. Our starting point is the lifting and projection of probability distributions on the observable and latent spaces, with the objective of representing complex data distributions by simple function families such as neural networks. A theory called "active lifting" is proposed, based on the sampling of latent sequences and an intrinsic drive to reduce uncertainty with maximum rate. It derives a large design space, containing the slow thinking models in a subspace that we call the static theory. These models are positioned on the representation hierarchy and sampler hierarchy induced by the static theory, and can be upgraded by climbing the two hierarchies. Active lifting further derives an inference process with an internal time axis, and a training objective that resembles minimum-length coding as well as the invention of languages. Thus, it characterizes the agency of perception, including the emergence of the slow thinking formats. Technical by-products of this theory include a three-stage pathway for improving slow thinking models, a unified approach to constructing encoders and generative models for all data modalities, a priori formation of human-like visual representations, and a possible solution to policy collapse.
- Abstract（参考訳）: 本稿では,認知機能の第一原理モデリングシリーズの一環として,思考と知覚の数学的定式化を試みている。
形式的には、遅い思考またはより一般的に活発な知覚を導き、遅い思考の大きな言語モデルの設計、訓練、推論を含む。
我々の出発点は、観測可能空間や潜在空間における確率分布の昇降と投影であり、ニューラルネットワークのような単純な関数ファミリによって複雑なデータ分布を表現することを目的としている。
最大速度で不確実性を低減するために,潜伏列のサンプリングと本質駆動に基づく「アクティブリフト」理論が提案されている。
これは、我々が静的理論と呼ぶ部分空間に遅い思考モデルを含む大きな設計空間を導出する。
これらのモデルは、静的理論によって誘導される表現階層とサンプリング階層に位置決めされ、2つの階層を登ることによってアップグレードすることができる。
アクティブリフトはさらに、内部の時間軸を持つ推論プロセスと、最小長の符号化と言語の発明に類似した訓練目標を導出する。
このように、ゆっくりとした思考形式が出現するなど、知覚のエージェンシーを特徴づける。
この理論の技術的副産物には、遅い思考モデルを改善するための3段階の経路、すべてのデータモダリティのためのエンコーダと生成モデルを構築するための統一的なアプローチ、人間のような視覚表現の事前形成、政策崩壊の可能な解決策が含まれる。
関連論文リスト
- Predictive Set Theory: A Generative Framework for Cognitive Architecture with Operationalized Core Mechanisms [1.3537117504260623]
本稿では、認知アーキテクチャを第一原理から再構築する形式的生成フレームワークである予測集合論(PST)を紹介する。
PSTは最小限の操作で認識をアンカーする - アイデンティティ関数、セット理論状態の更新、および3つの基本的な参照チェーンとして形式化されたセンサーである。
神経機構をモデル化するのではなく、PSTは不完全な情報と不可逆的なリスクの下で動作しながら内部の一貫性を維持する必要があるシステムの設計仕様を構成する。
論文 参考訳（メタデータ） (2026-08-03T15:28:32Z) - Concept frustration: Aligning human concepts and machine representations [39.50576817657001]
基礎モデル埋め込みから抽出した教師なし中間表現と教師なし人間概念を比較するための枠組みを提案する。
科学的発見における概念的飛躍の役割に感銘を受け、概念的フラストレーションの概念を定式化する。
我々は,教師付き概念ベースモデルと教師なし表現の間の概念フラストレーションを検出するタスク整合類似度尺度を開発した。
論文 参考訳（メタデータ） (2026-03-31T12:17:21Z) - Beyond the Black Box: Identifiable Interpretation and Control in Generative Models via Causal Minimality [52.57416398859353]
因果的最小性は、明確な因果的解釈と頑健でコンポーネント単位で識別可能な制御を持つ拡散視覚と自己回帰言語モデルの潜在表現を許容できることを示す。
我々は階層的選択モデルのための新しい理論的枠組みを導入し、より高レベルな概念は低レベルの変数の制約された構成から生まれる。
これらの因果的基礎を持つ概念は、きめ細かいモデルステアリングのレバーとして機能し、透明で信頼性の高いシステムへの道を開く。
論文 参考訳（メタデータ） (2025-12-11T14:59:14Z) - How LLMs Learn to Reason: A Complex Network Perspective [14.638878448692493]
Reinforcement Learning from Verifiable Rewards による大規模言語モデルのトレーニングは、突飛な振る舞いのセットを示している。
この現象は単一統一理論を用いて説明できると考えられる。
私たちの研究は、将来のAIシステムの創発的な推論能力をエンジニアリングするための新しい物理的直感を提供します。
論文 参考訳（メタデータ） (2025-09-28T04:10:37Z) - Emergent Cognitive Convergence via Implementation: A Structured Loop Reflecting Four Theories of Mind [0.0]
我々は、心の4つの影響力のある理論の間に構造的な収束を報告する。
収束は、エージェントフローと呼ばれる実用的なAIアーキテクチャの中で意図せずに現れる。
本稿では,知的アーキテクチャが,実践的制約によって形成される共有構造パターンへと進化する可能性を示唆する。
論文 参考訳（メタデータ） (2025-07-22T02:54:45Z) - Deep Learning Through A Telescoping Lens: A Simple Model Provides Empirical Insights On Grokking, Gradient Boosting & Beyond [61.18736646013446]
その驚くべき振る舞いをより深く理解するために、トレーニングされたニューラルネットワークの単純かつ正確なモデルの有用性について検討する。
3つのケーススタディで、様々な顕著な現象に関する新しい経験的洞察を導き出すためにどのように適用できるかを説明します。
論文 参考訳（メタデータ） (2024-10-31T22:54:34Z) - Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。
我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。
我々は、理論的な主張を合成データ実験で裏付ける。
論文 参考訳（メタデータ） (2024-06-01T18:01:03Z) - A Recursive Bateson-Inspired Model for the Generation of Semantic Formal
Concepts from Spatial Sensory Data [77.34726150561087]
本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。
このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。
このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
論文 参考訳（メタデータ） (2023-07-16T15:59:13Z) - Understanding Self-Predictive Learning for Reinforcement Learning [61.62067048348786]
強化学習のための自己予測学習の学習ダイナミクスについて検討する。
本稿では,2つの表現を同時に学習する新しい自己予測アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-12-06T20:43:37Z) - AIGenC: An AI generalisation model via creativity [1.933681537640272]
本稿では,創造性に関する認知理論に触発された計算モデル(AIGenC)を紹介する。
人工エージェントが変換可能な表現を学習、使用、生成するために必要なコンポーネントを配置する。
本稿では, 人工エージェントの配当効率を向上するモデルの有効性について論じる。
論文 参考訳（メタデータ） (2022-05-19T17:43:31Z) - Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。
我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
論文 参考訳（メタデータ） (2022-04-05T12:52:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。