論文の概要: From Specification to Architecture: A Theory Compiler for Knowledge-Guided Machine Learning
- arxiv url: http://arxiv.org/abs/2603.14369v1
- Date: Sun, 15 Mar 2026 13:15:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-17 16:19:35.77538
- Title: From Specification to Architecture: A Theory Compiler for Knowledge-Guided Machine Learning
- Title(参考訳): 仕様からアーキテクチャへ:知識指導型機械学習のための理論コンパイラ
- Authors: Asela Hevapathige, Yu Xia, Sachith Seneviratne, Saman Halgamuge,
- Abstract要約: 理論誘導型機械学習は、モデル設計に直接ドメイン知識を組み込むことで、性能が向上することを示した。
しかし、形式的ドメイン理論がアーキテクチャ上の制約に変換されるプロセスは完全に手作業のままである。
本稿では,型付き機械可読なドメイン理論を入力として受け入れ,アーキテクチャを自動生成するシステムである理論コンパイラを提案する。
- 参考スコア(独自算出の注目度): 6.365277569082624
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Theory-guided machine learning has demonstrated that including authentic domain knowledge directly into model design improves performance, sample efficiency and out-of-distribution generalisation. Yet the process by which a formal domain theory is translated into architectural constraints remains entirely manual, specific to each domain formalism, and devoid of any formal correctness guarantee. This translation is non-transferable between domains, not verified, and does not scale. We propose the Theory Compiler: a system that accepts a typed, machine-readable domain theory as input and automatically produces an architecture whose function space is provably constrained to be consistent with that theory by construction, not by regularisation. We identify three foundational open problems whose resolution defines our research agenda: (1) designing a universal theory formalisation language with decidable type-checking; (2) constructing a compositionally correct compilation algorithm from theory primitives to architectural modules; and (3) establishing soundness and completeness criteria for formal verification. We further conjecture that compiled architectures match or exceed manually-designed counterparts in generalisation performance while requiring substantially less training data, a claim we ground in classical statistical learning theory. We argue that recent advances in formal machine learning theory, large language models, and the growth of an interdisciplinary research community have made this paradigm achievable for the first time.
- Abstract(参考訳): 理論誘導型機械学習は、モデル設計に直接ドメイン知識を組み込むことで、性能、サンプル効率、アウト・オブ・ディストリビューションの一般化が向上することを示した。
しかし、形式的ドメイン理論がアーキテクチャ上の制約に変換される過程は、完全に手作業で、各ドメインの形式主義に特化しており、いかなる形式的正しさの保証も欠いている。
この翻訳はドメイン間では非参照可能であり、検証されず、スケールしない。
本稿では,型付き機械可読なドメイン理論を入力として受け入れるシステムである理論コンパイラを提案する。
本研究では,(1)決定可能な型チェックを伴う普遍的理論形式言語の設計,(2)理論プリミティブからアーキテクチャモジュールへの構成的正しいコンパイルアルゴリズムの構築,(3)形式検証のための健全性と完全性基準の確立,という3つの基本的オープン問題を特定する。
さらに、コンパイルされたアーキテクチャは、従来の統計学習理論において、かなり少ないトレーニングデータを必要とする一方で、汎用性能において手作業で設計したアーキテクチャと一致するか、あるいは超えるかを推測する。
フォーマルな機械学習理論、大規模言語モデル、学際的な研究コミュニティの成長が、このパラダイムを初めて実現したと我々は主張する。
関連論文リスト
- Adapting, Fast and Slow: Transportable Circuits for Few-Shot Learning [54.930879235929204]
ドメイン全体の一般化は、目に見えないターゲットドメイン w.r.t を制約する構造を主張しなければ不可能である。
我々は、定性的なドメイン知識へのアクセスに依存するゼロショット合成一般化のためのアルゴリズムを設計する。
我々の理論的結果は、グラフィカル回路の可搬性基準の観点から、数発の学習可能なタスクのクラスを特徴づける。
論文 参考訳(メタデータ) (2025-12-28T04:38:43Z) - BRIDGE: Building Representations In Domain Guided Program Verification [67.36686119518441]
BRIDGEは、検証をコード、仕様、証明の3つの相互接続ドメインに分解する。
提案手法は, 標準誤差フィードバック法よりも精度と効率を著しく向上することを示す。
論文 参考訳(メタデータ) (2025-11-26T06:39:19Z) - Emergent Cognitive Convergence via Implementation: A Structured Loop Reflecting Four Theories of Mind [0.0]
我々は、心の4つの影響力のある理論の間に構造的な収束を報告する。
収束は、エージェントフローと呼ばれる実用的なAIアーキテクチャの中で意図せずに現れる。
本稿では,知的アーキテクチャが,実践的制約によって形成される共有構造パターンへと進化する可能性を示唆する。
論文 参考訳(メタデータ) (2025-07-22T02:54:45Z) - Scaling Laws and Representation Learning in Simple Hierarchical Languages: Transformers vs. Convolutional Architectures [49.19753720526998]
合成データセット上でのニューラルネットワーク性能に関する理論的スケーリング法則を導出する。
局所性と重み共有によって生成過程の構造が整った畳み込みネットワークは、性能の高速化を享受できることを示す。
この発見は、ニューラルネットワークのスケーリング法則に基づくアーキテクチャ上のバイアスを明らかにし、モデルアーキテクチャとデータの統計的性質の間の相互作用によって表現学習がどのように形成されるかを強調している。
論文 参考訳(メタデータ) (2025-05-11T17:44:14Z) - Categorical semiotics: Foundations for Knowledge Integration [0.0]
ディープラーニングアーキテクチャの定義と分析のための包括的なフレームワークを開発するという課題に取り組む。
我々の方法論は、ファジィ集合の宇宙の中で解釈されるエルレスマンのスケッチに類似したグラフィカル構造を用いる。
このアプローチは、決定論的および非決定論的ニューラルネットワーク設計の両方をエレガントに包含する統一理論を提供する。
論文 参考訳(メタデータ) (2024-04-01T23:19:01Z) - Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。
オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。
大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
論文 参考訳(メタデータ) (2024-02-23T16:50:07Z) - Position: Categorical Deep Learning is an Algebraic Theory of All Architectures [1.772996392520906]
本稿では,ディープラーニングアーキテクチャの特定と研究のための汎用フレームワークの探求について述べる。
本稿では,これら2つのニューラルネットワーク設計の風味をエレガントに仮定する単一理論として,圏論を適用することを提案する。
この理論は、幾何学的深層学習によって引き起こされる制約と、ニューラルネットワークの多様な風景から引き出された多くのアーキテクチャの実装をいかに回復するかを示す。
論文 参考訳(メタデータ) (2024-02-23T14:01:53Z) - A Theory of Label Propagation for Subpopulation Shift [61.408438422417326]
ラベル伝搬に基づくドメイン適応のための有効なフレームワークを提案する。
アルゴリズム全体でエンドツーエンドの有限サンプル保証を得る。
理論的なフレームワークを、第3のラベルなしデータセットに基づいたソースからターゲットへの転送のより一般的な設定に拡張します。
論文 参考訳(メタデータ) (2021-02-22T17:27:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。