論文の概要: Learning in Infinitesimal Non-Compositional Sketches

• arxiv url: http://arxiv.org/abs/2607.15107v1
• Date: Thu, 16 Jul 2026 15:18:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.15644
• Title: Learning in Infinitesimal Non-Compositional Sketches
• Title（参考訳）: 無限小非合成スケッチにおける学習
• Abstract要約: 本稿は,非構成性の修復手段として,無限小非構成スケッチ(LINCS)の学習という分類的枠組みを開発する。 LINCS は obstruction $mboxObs(mboxFact_mathbb S(D))$ と定義されている。 また,Cockett-Cruttwellタンジェント構造を備えたスケッチであるTangent Learning Sketchesを紹介する。
• 参考スコア（独自算出の注目度）: 1.3295383263113112
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper develops a categorical framework -- Learning in Infinitesimal Non-Compositional Sketches (LINCS) -- as the repair of non-compositionality: failures of diagrams to factor through quotient sketches lifted to the tangent category setting. Machine learning problems are specified as sketches: graphs with commutativity conditions $\mathcal D$, limit cones $\mathcal L$, and colimit cocones $\mathcal K$, generalizing the usual scalarization of loss functions or vector space assumptions. Non-compositionality is defined purely as failure of a universal factorization problem, not as arithmetic error between the desired and actual predictions. Given a learning sketch $\mathbb S=(S,\mathcal D,\mathcal L,\mathcal K)$, whose underlying graph is $S$, and a model $D:J \rightarrow C$, the base defect is the obstruction to factorization $\mbox{Obs}(\mbox{Fact}_{\mathbb S}(D))$. The tangent lift applies the tangent functor $T$ to obtain $TD:J \rightarrow C$, and LINCS is defined as the obstruction $\mbox{Obs}(\mbox{Fact}_{\mathbb S}(TD))$ -- asking whether infinitesimal perturbations preserve the compositionality constraints.The paper also introduces Tangent Learning Sketches, which are sketches equipped with Cockett-Cruttwell tangent structure. The paper defines the INC endofunctor, which iterates the tangent lift, producing a tower $D,TD,T^2D, \cdots$ of factorization problems. ML is thereby formulated as the search for a coalgebraic fixed point where successive tangent unfoldings stabilize ($νT_{\mbox{INC}}$). Using the Aczel--Mendler theorem, we prove existence of a final INC coalgebra whenever $T_{\mbox{INC}}$ admits a set-based class realization that creates its final carrier. A detailed experimental evaluation of LINCS is underway in a number of concrete ML settings, including deep learning, large language models, and reinforcement learning, and is described in companion papers.
• Abstract（参考訳）: 本稿では,非構成性の補修として,無限小非構成スケッチ(LINCS)の学習というカテゴリー的枠組みを開発する。 機械学習の問題はスケッチとして指定される: 可換性条件を持つグラフ $\mathcal D$, limit cones $\mathcal L$, colimit cocones $\mathcal K$。 非合成性は、目的と実際の予測の間の算術誤差ではなく、純粋に普遍的分解問題の失敗として定義される。 学習スケッチ $\mathbb S=(S,\mathcal D,\mathcal L,\mathcal K)$ が与えられたとき、基礎となるグラフは$S$であり、モデル $D:J \rightarrow C$ である。 タンジェントリフトは、$TD:J \rightarrow C$を取得し、LINCSは障害 $\mbox{Obs}(\mbox{Fact}_{\mathbb S}(TD))$ -- 無限小摂動が構成制約を保存するかどうかを問う。 本論文は, タンジェントリフトを反復するINCエンドファンクターを定義し, 塔の分解問題を$D,TD,T^2D, \cdots$とした。 これによりMLは、連続する接展開が安定化する(νT_{\mbox{INC}}$)連接固定点の探索として定式化される。 Aczel-Mendler の定理を用いて、$T_{\mbox{INC}}$ が最終的なキャリアを生成する集合ベースのクラス実現を認めるとき、最終的な INC のコーデブラが存在することを証明する。 LINCSの詳細な実験的評価は、ディープラーニング、大規模言語モデル、強化学習など、多くの具体的なML設定で進行中であり、共用論文に記載されている。

関連論文リスト

• Low-Rank Prompt Learning for Vision-Language Models with Fixed-Token Bases [11.437689514839333]
  クラス毎にほんの数例からトレーニングした高密度プロンプト行列 $mathbfPinmathbbRmtimes d$ について検討する。 トークン側の要素をまったく学習する必要はありません。 CLIPプロンプト設定では、埋め込み側係数は適応を持ち、トークンベースは簡単に固定できる。
  論文  参考訳（メタデータ） (2026-09-08T21:26:37Z)
• Efficient Multinomial Logistic Bandit via Frequent Directions [36.600560776380874]
  代表的な UCB 型アルゴリズムである OFUL-MLogB は $tildemathcalO(KdsqrtT)$ の残差を達成しているが、それでも $mathcalO(K3d3)$ と $mathcalO(K2d2)$ の時間を必要とする。 我々は、OFD-MLogBに頻繁に描画される方向行列を組み込んだEOFD-MLogBを提案する。
  論文  参考訳（メタデータ） (2026-06-10T11:47:27Z)
• Inter-Layer Hessian Analysis of Neural Networks with DAG Architectures [45.88028371034407]
  現代の自動微分フレームワーク(JAX, PyTorch)は、層間相互作用の内部構造を公開することなく、損失関数のヘシアンをモノリシックテンソルとして返す。 この理論解析は、経験的ネットワークとスキップスキップ時の接続における共鳴の指数的減衰を説明する。
  論文  参考訳（メタデータ） (2026-04-13T15:48:41Z)
• Surrogate to Poincaré inequalities on manifolds for dimension reduction in nonlinear feature spaces [49.1574468325115]
  連続微分可能な関数 $u:mathbbRd rightarrow mathbbRm$ を $g:mathbbRd rightarrow mathbbRm$, $mleq d$, $f : mathbbRm rightarrow mathbbRR$ という関数の合成によって近似することを目指している。 固定された$g$に対して、評価を含む古典回帰法を用いて$f$を構築する。
  論文  参考訳（メタデータ） (2025-05-03T12:37:27Z)
• Neural network learns low-dimensional polynomials with SGD near the information-theoretic limit [75.4661041626338]
  単一インデックス対象関数 $f_*(boldsymbolx) = textstylesigma_*left(langleboldsymbolx,boldsymbolthetarangleright)$ の勾配勾配勾配学習問題について検討する。 SGDに基づくアルゴリズムにより最適化された2層ニューラルネットワークは、情報指数に支配されない複雑さで$f_*$を学習する。
  論文  参考訳（メタデータ） (2024-06-03T17:56:58Z)
• Provably learning a multi-head attention layer [55.2904547651831]
  マルチヘッドアテンション層は、従来のフィードフォワードモデルとは分離したトランスフォーマーアーキテクチャの重要な構成要素の1つである。 本研究では,ランダムな例から多面的注意層を実証的に学習する研究を開始する。 最悪の場合、$m$に対する指数的依存は避けられないことを示す。
  論文  参考訳（メタデータ） (2024-02-06T15:39:09Z)
• A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
  非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。 本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。 また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
  論文  参考訳（メタデータ） (2023-09-25T17:54:19Z)
• Learning linear dynamical systems under convex constraints [4.13951084724473]
  単一軌道の標本から線形力学系の有限時間同定の問題を考える。 A*$は制約のない設定に必要な値よりもはるかに小さい値に対して確実に推定できることを示す。
  論文  参考訳（メタデータ） (2023-03-27T11:49:40Z)
• SQ Lower Bounds for Learning Single Neurons with Massart Noise [40.1662767099183]
  マスアートノイズの存在下で単一ニューロンを学習するPAC。 我々は、任意の定数係数内で最適な誤差を近似できる効率的なSQアルゴリズムが存在しないことを証明した。
  論文  参考訳（メタデータ） (2022-10-18T15:58:00Z)
• Learning a Single Neuron with Adversarial Label Noise via Gradient Descent [50.659479930171585]
  モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。 学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
  論文  参考訳（メタデータ） (2022-06-17T17:55:43Z)
• Model Selection with Near Optimal Rates for Reinforcement Learning with General Model Classes [27.361399036211694]
  有限地平線エピソディック強化学習(RL)問題に対するモデル選択の問題に対処する。 モデル選択フレームワークでは、$mathcalP*$の代わりに、遷移カーネルのネストされたファミリーが$M$を与えられる。 textttARL-GENが$TildemathcalO(d_mathcalE* H2+sqrtd_mathcalE* mathbbM* H2T)$の後悔を得ることを示す。
  論文  参考訳（メタデータ） (2021-07-13T05:00:38Z)
• Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
  期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。 ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。 ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
  論文  参考訳（メタデータ） (2020-05-29T07:20:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。