論文の概要: Symmetry-Enriched Learning: A Category-Theoretic Framework for Robust Machine Learning Models

• arxiv url: http://arxiv.org/abs/2409.12100v1
• Date: Wed, 18 Sep 2024 16:20:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-09-19 16:45:43.739695
• Title: Symmetry-Enriched Learning: A Category-Theoretic Framework for Robust Machine Learning Models
• Title（参考訳）: 対称性に富んだ学習:ロバスト機械学習モデルのためのカテゴリー論的フレームワーク
• Authors: Ronald Katende,
• Abstract要約: 我々は,機械学習アルゴリズムにおける複雑な変換をモデル化するために,超対称性のカテゴリや関手表現を含む新しい数学的構成を導入する。 我々の貢献には、対称性に富んだ学習モデルの設計、カテゴリー対称性を利用した高度な最適化手法の開発、モデルロバスト性、一般化、収束に関する理論分析が含まれる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This manuscript presents a novel framework that integrates higher-order symmetries and category theory into machine learning. We introduce new mathematical constructs, including hyper-symmetry categories and functorial representations, to model complex transformations within learning algorithms. Our contributions include the design of symmetry-enriched learning models, the development of advanced optimization techniques leveraging categorical symmetries, and the theoretical analysis of their implications for model robustness, generalization, and convergence. Through rigorous proofs and practical applications, we demonstrate that incorporating higher-dimensional categorical structures enhances both the theoretical foundations and practical capabilities of modern machine learning algorithms, opening new directions for research and innovation.
• Abstract（参考訳）: 本写本は,高次対称性とカテゴリー理論を機械学習に統合する新しい枠組みを提示する。 学習アルゴリズムにおける複雑な変換をモデル化するために,超対称性のカテゴリや関手表現を含む新しい数学的構成を導入する。 我々の貢献には、対称性に富んだ学習モデルの設計、カテゴリー対称性を利用した高度な最適化手法の開発、モデルロバスト性、一般化、収束に関する理論分析が含まれる。 厳密な証明と実践的応用を通じて、高次元の分類構造を取り入れることで、現代の機械学習アルゴリズムの理論的基礎と実用的能力が強化され、研究と革新のための新たな方向が開かれたことを実証する。

関連論文リスト

• An Algebraic Representation Theorem for Linear GENEOs in Geometric Machine Learning [1.3425748364842416]
  群同変非拡張作用素 (genEOs) は対称性を符号化する強力な作用素のクラスとして登場した。 異なる知覚対の間に作用する線形なgenEOに対する新しい表現定理を導入する。 また、線型genEOsの空間のコンパクト性と凸性も証明する。
  論文  参考訳（メタデータ） (2026-01-07T13:21:44Z)
• Deep Unfolding: Recent Developments, Theory, and Design Guidelines [99.63555420898554]
  この記事では、最適化アルゴリズムを構造化されたトレーニング可能なMLアーキテクチャに変換するフレームワークであるDeep Unfoldingのチュートリアルスタイルの概要を提供する。 推論と学習のための最適化の基礎を概観し、深層展開のための4つの代表的な設計パラダイムを導入し、その反復的な性質から生じる特有なトレーニングスキームについて議論する。
  論文  参考訳（メタデータ） (2025-12-03T13:16:35Z)
• Symmetry and Generalisation in Neural Approximations of Renormalisation Transformations [11.337632710839166]
  ニューラルネットワークの一般化行動における対称性とネットワーク表現性の役割を評価する。 単純な多層パーセプトロン(MLP)とグラフニューラルネットワーク(GNN)について考察する。 以上の結果から, 対称性の制約と表現率の競合が明らかとなり, 過度に複雑なモデルが一般化されていないことが判明した。
  論文  参考訳（メタデータ） (2025-10-18T17:29:23Z)
• Rethinking the Role of Dynamic Sparse Training for Scalable Deep Reinforcement Learning [58.533203990515034]
  ニューラルネットワークのスケーリングは機械学習における画期的な進歩をもたらしたが、このパラダイムは深層強化学習(DRL)では失敗している。 我々は、動的スパーストレーニング戦略が、アーキテクチャの改善によって確立された主要なスケーラビリティ基盤を補完するモジュール固有の利点を提供することを示す。 アーキテクチャ改善の利点を生かした実践的なフレームワークであるModule-Specific Training (MST) にこれらの知見を精査し、アルゴリズムの修正なしに様々なRLアルゴリズムをまたいだ大幅なスケーラビリティ向上を示す。
  論文  参考訳（メタデータ） (2025-10-14T03:03:08Z)
• The Gauss-Markov Adjunction: Categorical Semantics of Residuals in Supervised Learning [0.0]
  本稿では,AIシステムの構築と理解のためのセマンティックフレームワークを開発する。 パラメータとデータに対応する2つの具体的なカテゴリとそれらの間の随伴関手を定義することにより、教師付き学習のカテゴリー的定式化を導入する。 我々は、この定式化を教師付き学習のための拡張意味論の例として位置づけ、理論計算機科学で開発された意味論的視点をAIにおける説明可能性の形式的基礎として適用することを提案する。
  論文  参考訳（メタデータ） (2025-07-03T08:58:59Z)
• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• A Survey on Inference Optimization Techniques for Mixture of Experts Models [50.40325411764262]
  大規模Mixture of Experts(MoE)モデルは、条件計算によるモデル容量と計算効率の向上を提供する。 これらのモデル上で推論をデプロイし実行することは、計算資源、レイテンシ、エネルギー効率において大きな課題を示す。 本調査では,システムスタック全体にわたるMoEモデルの最適化手法について分析する。
  論文  参考訳（メタデータ） (2024-12-18T14:11:15Z)
• Tensor-Based Foundations of Ordinary Least Squares and Neural Network Regression Models [0.0]
  本稿では,通常の最小二乗モデルとニューラルネットワーク回帰モデルの数学的発展に対する新しいアプローチを紹介する。 解析と基本的な行列計算を活用することにより、両方のモデルの理論的基礎は慎重に詳細化され、完全なアルゴリズム形式に拡張される。
  論文  参考訳（メタデータ） (2024-11-19T21:36:04Z)
• How Analysis Can Teach Us the Optimal Way to Design Neural Operators [0.0]
  我々は,ニューラル演算子の安定性,収束性,一般化,計算効率の向上を目指す。 我々は、高次元の安定性、指数収束、ニューラル作用素の普遍性など、重要な理論的洞察を再考する。
  論文  参考訳（メタデータ） (2024-11-04T03:08:26Z)
• Learnable & Interpretable Model Combination in Dynamic Systems Modeling [0.0]
  我々は、通常、どのモデルが組み合わされるかについて議論し、様々な混合方程式に基づくモデルを表現することができるモデルインターフェースを提案する。 本稿では,2つの組み合わせモデル間の汎用的な接続を,容易に解釈可能な方法で記述できる新しいワイルドカードトポロジーを提案する。 本稿では、2つのモデル間の異なる接続トポロジを学習し、解釈し、比較する。
  論文  参考訳（メタデータ） (2024-06-12T11:17:11Z)
• The Buffer Mechanism for Multi-Step Information Reasoning in Language Models [52.77133661679439]
  大きな言語モデルの内部的推論メカニズムを調べることは、よりよいモデルアーキテクチャとトレーニング戦略を設計するのに役立ちます。 本研究では,トランスフォーマーモデルが垂直思考戦略を採用するメカニズムを解明するために,シンボリックデータセットを構築した。 我々は,GPT-2モデルに必要なトレーニング時間を75%削減し,モデルの推論能力を高めるために,ランダムな行列ベースアルゴリズムを提案した。
  論文  参考訳（メタデータ） (2024-05-24T07:41:26Z)
• Token Space: A Category Theory Framework for AI Computations [0.0]
  本稿では,深層学習モデルの解釈可能性と有効性を高めるために設計された,新しい数学的構造であるToken Spaceフレームワークを紹介する。 Tokenレベルで分類構造を確立することにより、AI計算を理解可能な新しいレンズを提供する。
  論文  参考訳（メタデータ） (2024-04-11T15:56:06Z)
• Applied Causal Inference Powered by ML and AI [54.88868165814996]
  本書は古典的構造方程式モデル(SEM)とその現代AI等価性、有向非巡回グラフ(DAG)および構造因果モデル(SCM)のアイデアを提示する。 それは、現代の予測ツールを使用して、そのようなモデルで推論を行うダブル/デバイアスド機械学習メソッドをカバーしている。
  論文  参考訳（メタデータ） (2024-03-04T20:28:28Z)
• Symmetry-enforcing neural networks with applications to constitutive modeling [0.0]
  本研究では,非線形および履歴依存行動を示す複雑なミクロ構造を均質化するために,最先端のマイクロメカニカルモデリングと高度な機械学習技術を組み合わせる方法について述べる。 結果として得られるホモジェナイズドモデルであるスマート法則(SCL)は、従来の並列マルチスケールアプローチで必要とされる計算コストのごく一部で、マイクロインフォメーション法を有限要素ソルバに適用することができる。 本研究では、ニューロンレベルで物質対称性を強制する新しい方法論を導入することにより、SCLの機能を拡張する。
  論文  参考訳（メタデータ） (2023-12-21T01:12:44Z)
• FAENet: Frame Averaging Equivariant GNN for Materials Modeling [123.19473575281357]
  データ変換による任意のモデルE(3)-同変や不変化を実現するために,フレームアラグリング(SFA)に依存したフレキシブルなフレームワークを導入する。 本手法の有効性を理論的および実験的に証明し, 材料モデリングにおける精度と計算スケーラビリティを実証する。
  論文  参考訳（メタデータ） (2023-04-28T21:48:31Z)
• Computing with Categories in Machine Learning [1.7679374058425343]
  分類構造学習フレームワークとしてDisCoPyroを導入する。 DisCoPyroはカテゴリー構造と償却変分推論を組み合わせる。 我々は、DisCoPyroが最終的には人工知能の開発に寄与するのではないかと推測する。
  論文  参考訳（メタデータ） (2023-03-07T17:26:18Z)
• Symmetry Group Equivariant Architectures for Physics [52.784926970374556]
  機械学習の分野では、対称性に対する認識が目覚ましいパフォーマンスのブレークスルーを引き起こしている。 物理学のコミュニティと、より広い機械学習のコミュニティの両方に、理解すべきことがたくさんある、と私たちは主張する。
  論文  参考訳（メタデータ） (2022-03-11T18:27:04Z)
• A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
  既存の説明可能性技術を評価するための診断特性のリストを作成する。 そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
  論文  参考訳（メタデータ） (2020-09-25T12:01:53Z)
• Towards High Performance Relativistic Electronic Structure Modelling: The EXP-T Program Package [68.8204255655161]
  並列計算機用に設計されたFS-RCC方式の新たな実装を提案する。 実装のパフォーマンスとスケーリングの特徴を分析した。 開発されたソフトウェアは、重い超重核を含む原子や分子の性質を予測するための全く新しいレベルの精度を達成することができる。
  論文  参考訳（メタデータ） (2020-04-07T20:08:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。