論文の概要: Learning Transfers: Kan Extensions for Neural Invariants
- arxiv url: http://arxiv.org/abs/2606.07627v1
- Date: Sat, 30 May 2026 15:34:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.093139
- Title: Learning Transfers: Kan Extensions for Neural Invariants
- Title(参考訳): 学習伝達: ニューラル不変量のためのカン拡張
- Abstract要約: 伝達学習は、ソースタスクで学習した表現が、関連するターゲットタスクで使用可能な構造を持つと仮定する。
標準的な評価では、ターゲットの精度や分布の相違を通してこれを調査するが、どの構造的不変性が転送を意図しているかは未定のままである。
私たちはその不変物を分類的に供給する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transfer learning presumes that a representation learned on source tasks carries structure that remains usable on related target tasks. Standard evaluations probe this through target accuracy or distributional discrepancy, yet leave unspecified which structural invariant is meant to transfer. We supply that invariant categorically. A source task category $\mathcal A$, a target task category $\mathcal B$, and a task-change functor $J:\mathcal A\to\mathcal B$ determine, for every invariant-valued source representation $F:\mathcal A\to\mathcal V$, the universal transferred invariant $\operatorname{Lan}J F$. Given a target invariant $G:\mathcal B\to\mathcal V$, we define the transfer discrepancy $\operatorname{Comp}J(F,G)=\sup{b\in\operatorname{Ob}(\mathcal B)} d{\mathcal V}\bigl((\operatorname{Lan}_J F)(b),G(b)\bigr)$, evaluating transfer not by an objectwise comparison of source and target, but by comparing the target invariant against the one forced by the prescribed task transformation. We prove finite cokernel formulas for $(\operatorname{Lan}_J F)(b)$ in chain complexes and persistence modules, indexed by the comma category $J\downarrow b$. For persistence-valued finite-type one-parameter invariants, the discrepancy is computed exactly by bottleneck distances between barcodes. Controlled experiments on neural latent point clouds then test whether the score recovers the correct task functor and flags representation collapses that preserve classification accuracy while destroying transfer-relevant topology.
- Abstract(参考訳): 伝達学習は、ソースタスクで学習した表現が、関連するターゲットタスクで使用可能な構造を持つと仮定する。
標準的な評価では、ターゲットの精度や分布の相違を通してこれを調査するが、どの構造的不変性が転送を意図しているかは未定のままである。
私たちはその不変物を分類的に供給する。
ソースタスクカテゴリ $\mathcal A$, a target task category $\mathcal B$, and a task-change functor $J:\mathcal A\to\mathcal B$ determine, for every invariant-valued source representation $F:\mathcal A\to\mathcal V$, the universal transfer invariant $\operatorname{Lan}J F$。
ターゲット不変量 $G:\mathcal B\to\mathcal V$ が与えられた場合、転送不一致を $\operatorname{Comp}J(F,G)=\sup{b\in\operatorname{Ob}(\mathcal B)} d{\mathcal V}\bigl((\operatorname{Lan}_J F)(b),G(b)\bigr)$ と定義し、ソースとターゲットのオブジェクト指向比較ではなく、所定のタスク変換によって強制されるものとの変換と比較する。
鎖複体および永続加群における$(\operatorname{Lan}_J F)(b)$に対する有限コカーネルの公式を証明し、コマ圏$J\downarrow b$で索引付けする。
永続値の有限型1パラメータ不変量に対して、その差はバーコード間のボトルネック距離によって正確に計算される。
ニューラル潜在点雲の制御された実験は、スコアが正しいタスク関手とフラグ表現の崩壊を回復するかどうかを検証し、転送関連トポロジーを破壊しながら分類精度を維持する。
関連論文リスト
- Interpolation Is Not Invariance: Pair Count Is Not Coverage in Transformation Audits [0.0]
同等のペアをカウントすることは、トランスフォーメーション監査のカバレッジを報告するための一般的な方法であるが、監査によって課される制約を大幅に上書きすることができる。
4つの相補的な量 - エッジカウント$m$, 効果的なコントラストランク$s$, 人口支援ランク$r$, グラフスペクトルギャップ$$-と, 監査カバレッジとデプロイメントの信頼性における役割を特徴づける。
論文 参考訳(メタデータ) (2026-09-14T00:40:14Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Provable Accelerated Bayesian Optimization with Knowledge Transfer [28.895892053851966]
本研究では,ベイズ最適化を対象タスクに対して,関連するソースタスクから伝達される履歴知識を用いて高速化する方法について検討する。
本稿では、ソース関数とターゲット関数の差分関数$delta$に基づいて、新しい不確実性量子化手法を構築するデルタBOアルゴリズムを提案する。
軽度の仮定では、DeltaBOの後悔は$tildemathcalO(sqrtT (T/N + gamma_delta))$である。
論文 参考訳(メタデータ) (2025-11-05T02:25:20Z) - Graph-Smoothed Bayesian Black-Box Shift Estimator and Its Information Geometry [1.1240642213359266]
我々は、ラプラシア・ガウスの先行をターゲットログプライアと混乱行列の両方に配置し、ラベル類似性グラフ上でそれらを結び付ける、完全に確率的な代替案を提案する。
我々は、識別可能性、$N-1/2$の縮約、グラフの代数的接続と縮退する分散境界、ラプラス的不特定性に対するロバスト性を証明する。
論文 参考訳(メタデータ) (2025-05-22T05:40:34Z) - Symmetry-Breaking Descent for Invariant Cost Functionals [0.0]
タスクコストの関数的$W : Hs(M) を mathbbR$ に還元する問題について検討する。
信号の対称性を破る変形はコストを低減できることを示す。
論文 参考訳(メタデータ) (2025-05-19T15:06:31Z) - Guarantees for Nonlinear Representation Learning: Non-identical Covariates, Dependent Data, Fewer Samples [24.45016514352055]
我々は、関数クラス$mathcal F times Mathcal G$から、T+1$関数$f_star(t) circ g_star$を学習する際のサンプル複雑度について研究する。
タスク数が$T$になるにつれて、サンプル要件とリスクバウンドの両方が$r$次元回帰に収束することを示す。
論文 参考訳(メタデータ) (2024-10-15T03:20:19Z) - The Selective G-Bispectrum and its Inversion: Applications to G-Invariant Networks [3.8311785959108637]
我々は,$G$-Bispectrumをテキスト選択型$G$-Bispectrumに還元できることを示す。
ニューラルネットワークへの統合によって、従来のアプローチと比較して精度と堅牢性が向上することを示す。
論文 参考訳(メタデータ) (2024-07-10T13:35:04Z) - Chain of Thought Empowers Transformers to Solve Inherently Serial Problems [57.58801785642868]
思考の連鎖(CoT)は、算術や記号的推論タスクにおいて、大きな言語モデル(LLM)の精度を向上させるための非常に効果的な方法である。
この研究は、表現性のレンズを通してデコーダのみの変換器に対するCoTのパワーを理論的に理解する。
論文 参考訳(メタデータ) (2024-02-20T10:11:03Z) - Idempotent Generative Network [61.78905138698094]
本稿では,ニューラルネットワークを等質にトレーニングした生成モデリングのための新しい手法を提案する。
一等演算子は、初期アプリケーションを超えて結果を変更せずに順次適用できる演算子である。
ターゲット分布とソース分布の両方からの入力を処理することにより、モデルがターゲット多様体に完全に破損または修正されたデータを投影することがわかった。
論文 参考訳(メタデータ) (2023-11-02T17:59:55Z) - TIC-TAC: A Framework for Improved Covariance Estimation in Deep Heteroscedastic Regression [109.69084997173196]
奥行き回帰は、予測分布の平均と共分散を負の対数類似度を用いて共同最適化する。
近年の研究では, 共分散推定に伴う課題により, 準最適収束が生じる可能性が示唆されている。
1)予測共分散は予測平均のランダム性を真に捉えているか?
その結果, TICは共分散を正確に学習するだけでなく, 負の対数類似性の収束性の向上も促進することがわかった。
論文 参考訳(メタデータ) (2023-10-29T09:54:03Z) - Statistical Learning under Heterogeneous Distribution Shift [71.8393170225794]
ground-truth predictor is additive $mathbbE[mathbfz mid mathbfx,mathbfy] = f_star(mathbfx) +g_star(mathbfy)$.
論文 参考訳(メタデータ) (2023-02-27T16:34:21Z) - Multi-Task Imitation Learning for Linear Dynamical Systems [50.124394757116605]
線形システム上での効率的な模倣学習のための表現学習について検討する。
学習対象ポリシーによって生成された軌道上の模倣ギャップは、$tildeOleft(frack n_xHN_mathrmshared + frack n_uN_mathrmtargetright)$で制限されている。
論文 参考訳(メタデータ) (2022-12-01T00:14:35Z) - Beyond Invariance: Test-Time Label-Shift Adaptation for Distributions
with "Spurious" Correlations [44.99833362998488]
テスト時のデータ分散の変化は、予測モデルのパフォーマンスに有害な影響を及ぼす可能性がある。
本研究では,未ラベルサンプルに適用したEMを用いて,共同分布の$p(y, z)$の変化に適応するテストタイムラベルシフト補正を提案する。
論文 参考訳(メタデータ) (2022-11-28T18:52:33Z) - On the Theory of Transfer Learning: The Importance of Task Diversity [114.656572506859]
一般的な関数クラス$mathcalF circ MathcalH$において、$f_j circ h$という形の関数によってパラメータ化される$t+1$タスクを考える。
多様なトレーニングタスクに対して、最初の$t$のトレーニングタスク間で共有表現を学ぶのに必要なサンプルの複雑さが、$C(mathcalH) + t C(mathcalF)$であることを示す。
論文 参考訳(メタデータ) (2020-06-20T20:33:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。