論文の概要: Sheaf Cohomology of Linear Predictive Coding Networks

• arxiv url: http://arxiv.org/abs/2511.11092v1
• Date: Fri, 14 Nov 2025 09:11:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-17 22:42:18.514417
• Title: Sheaf Cohomology of Linear Predictive Coding Networks
• Title（参考訳）: 線形予測符号化ネットワークのせん断コホモロジー
• Authors: Jeffrey Seely,
• Abstract要約: 予測符号化(PC)は、グローバルなバックプロパゲーションを重みとアクティベーションの局所的な最適化に置き換える。 線形PCネットワークはセルシーブとして自然な定式化を許すことを示す。 フィードバックループが内部矛盾を生じさせる再帰的トポロジを解析する。
• 参考スコア（独自算出の注目度）: 0.9427635404752933
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Predictive coding (PC) replaces global backpropagation with local optimization over weights and activations. We show that linear PC networks admit a natural formulation as cellular sheaves: the sheaf coboundary maps activations to edge-wise prediction errors, and PC inference is diffusion under the sheaf Laplacian. Sheaf cohomology then characterizes irreducible error patterns that inference cannot remove. We analyze recurrent topologies where feedback loops create internal contradictions, introducing prediction errors unrelated to supervision. Using a Hodge decomposition, we determine when these contradictions cause learning to stall. The sheaf formalism provides both diagnostic tools for identifying problematic network configurations and design principles for effective weight initialization for recurrent PC networks.
• Abstract（参考訳）: 予測符号化(PC)は、グローバルなバックプロパゲーションを重みとアクティベーションの局所的な最適化に置き換える。 そこで, 線形PCネットワークはセルラー層として自然な定式化を許容し, せん断境界はエッジワイド予測誤差にマッピングし, せん断ラプラシアン層下でのPC推論は拡散することを示した。 シーフコホモロジーは推論が除去できない既約誤りパターンを特徴づける。 我々は、フィードバックループが内部矛盾を生じさせる反復トポロジを分析し、監督とは無関係な予測誤差を導入する。 ホッジ分解を用いて、これらの矛盾が学習を停滞させる原因を判断する。 せん断形式は、問題のあるネットワーク構成を特定するための診断ツールと、リカレントPCネットワークの効果的な重み初期化のための設計原則の両方を提供する。

関連論文リスト

• Adversarial generalization of unfolding (model-based) networks [0.0]
  本稿では,$l$-normの制約付き攻撃で乱れた場合の展開ネットワークの対角一般化について検討する。 これは展開ネットワークの対角一般化に関する最初の理論的解析である。 実世界のデータに関する一連の実験を行い、得られた理論を裏付ける結果を得た。
  論文  参考訳（メタデータ） (2025-09-18T19:17:07Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• GIT: Detecting Uncertainty, Out-Of-Distribution and Adversarial Samples using Gradients and Invariance Transformations [77.34726150561087]
  本稿では,ディープニューラルネットワークにおける一般化誤差検出のための総合的アプローチを提案する。 GITは勾配情報と不変変換の利用を組み合わせる。 本実験は,各種ネットワークアーキテクチャの最先端技術と比較して,GITの優れた性能を示すものである。
  論文  参考訳（メタデータ） (2023-07-05T22:04:38Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• A heteroencoder architecture for prediction of failure locations in porous metals using variational inference [1.2722697496405462]
  多孔質金属張力試験片の故障箇所を予測するために,エンコーダ・デコーダ畳み込みニューラルネットワークを用いた。 故障箇所の予測の目的は、標本中のほとんどの材料が故障しないため、クラス不均衡の極端なケースを示す。 得られた予測分散は、任意の標本において最も失敗する可能性のある位置のランク付けに有効であることを示す。
  論文  参考訳（メタデータ） (2022-01-31T20:26:53Z)
• Predicting Unreliable Predictions by Shattering a Neural Network [145.3823991041987]
  線形ニューラルネットワークは、サブファンクションに分割することができる。 サブファンクションは、独自のアクティベーションパターン、ドメイン、経験的エラーを持っている。 完全なネットワークに対する経験的エラーは、サブファンクションに対する期待として記述できる。
  論文  参考訳（メタデータ） (2021-06-15T18:34:41Z)
• Relaxing the Constraints on Predictive Coding Models [62.997667081978825]
  予測符号化(英: Predictive coding)は、脳が行う主計算が予測誤差の最小化であるとする皮質機能の影響力のある理論である。 アルゴリズムの標準的な実装は、同じ前方と後方の重み、後方の非線形微分、1-1エラーユニット接続といった、潜在的に神経的に予測できない特徴を含んでいる。 本稿では,これらの特徴はアルゴリズムに不可欠なものではなく,Hebbianの更新ルールを用いてパラメータセットを直接あるいは学習することで,学習性能に悪影響を及ぼすことなく除去可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-02T15:21:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。