論文の概要: The General Theory of Localization Methods

• arxiv url: http://arxiv.org/abs/2605.20635v3
• Date: Wed, 27 May 2026 05:46:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:54.787903
• Title: The General Theory of Localization Methods
• Title（参考訳）: 一般化法一般論
• Authors: Congwei Song,
• Abstract要約: 本稿では,ローカライゼーション手法と呼ばれる汎用機械学習フレームワークを提案する。 これは、ローカライゼーションカーネルとローカル手段という2つのコア概念に基づいて構築されている。 階層的局所モデルを用いてトランスフォーマーを構築することができることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper proposes a general machine learning framework called the localization method, which is fundamentally built on two core concepts: localization kernels and local means -- key components that underpin the self-attention mechanism. To establish a rigorous theoretical foundation, the framework is formally defined through two essential pillars: the formulation of the local(-ized) model and the localization trick. We systematically investigate the connections between the localization method and a wide range of existing machine learning models/methods, including (but not limited to) kernel methods, lazy learning, the MeanShift algorithm, relaxation labeling, Hopfield networks, local linear embedding (LLE), fuzzy inference, and denoising autoencoders (DAEs). By dissecting these relationships, we clarify the broader theoretical significance of the localization method and demonstrate its practical applicability across diverse machine learning tasks. Furthermore, we explore advanced extensions of the framework, such as adaptive kernels, hierarchical local models, and non-local models. Notably, we show that the Transformer -- a cornerstone of modern sequence modeling -- can be constructed using hierarchical local models, revealing the ability of the localization method to unify and generalize state-of-the-art architectures. This work not only provides a unified theoretical lens to reinterpret existing models but also offers new methodological tools for designing flexible, data-adaptive learning systems.
• Abstract（参考訳）: 本稿では、ローカライズカーネルとローカル手段という2つの基本概念に基づいて構築された、ローカライズ手法と呼ばれる一般的な機械学習フレームワークを提案する。 厳密な理論の基礎を確立するために、このフレームワークは2つの重要な柱、すなわち局所(局所化)モデルの定式化と局所化のトリックによって正式に定義される。 ローカライズ手法と既存の機械学習モデル/メソッド間の関係を体系的に検討し、カーネル手法、遅延学習、平均シフトアルゴリズム、緩和ラベリング、ホップフィールドネットワーク、局所線形埋め込み(LLE)、ファジィ推論、デノナイズオートエンコーダ(DAE)を含む。 これらの関係を解き明かすことにより、局所化手法のより広い理論的意義を明らかにし、多様な機械学習タスクにまたがる実用性を示す。 さらに,適応カーネルや階層的局所モデル,非局所モデルなど,フレームワークの高度な拡張についても検討する。 特に,現代シーケンスモデリングの基礎となる Transformer が階層的局所モデルを用いて構築可能であることを示し,局所化手法による最先端アーキテクチャの統一と一般化の可能性を明らかにした。 この研究は、既存のモデルを再解釈するための統一された理論レンズを提供するだけでなく、柔軟なデータ適応学習システムを設計するための新しい方法論ツールも提供する。

関連論文リスト

• Localizing Knowledge in Diffusion Transformers [44.27817967554535]
  本研究では,Diffusion Transformerブロック内に特定の種類の知識がエンコードされている場所をローカライズするモデルおよび知識に依存しない手法を提案する。 同定されたブロックは、生成した出力における知識表現と因果関係があることが示される。 本研究は、DiTの内部構造に関する新たな知見を提供し、より解釈可能で、効率的で、制御可能なモデル編集のための実践的な経路を導入する。
  論文  参考訳（メタデータ） (2025-05-24T19:02:20Z)
• Scaling Laws and Representation Learning in Simple Hierarchical Languages: Transformers vs. Convolutional Architectures [49.19753720526998]
  合成データセット上でのニューラルネットワーク性能に関する理論的スケーリング法則を導出する。 局所性と重み共有によって生成過程の構造が整った畳み込みネットワークは、性能の高速化を享受できることを示す。 この発見は、ニューラルネットワークのスケーリング法則に基づくアーキテクチャ上のバイアスを明らかにし、モデルアーキテクチャとデータの統計的性質の間の相互作用によって表現学習がどのように形成されるかを強調している。
  論文  参考訳（メタデータ） (2025-05-11T17:44:14Z)
• Logifold: A Geometrical Foundation of Ensemble Machine Learning [0.0]
  データセット理解のための局所的・局所的・測度論的アプローチを提案する。 中心となる考え方は、ロジフォールド構造を定式化し、制限されたドメインを持つネットワークモデルをデータセットの局所チャートとして解釈することである。
  論文  参考訳（メタデータ） (2024-07-23T04:47:58Z)
• Learning Where to Look: Self-supervised Viewpoint Selection for Active Localization using Geometrical Information [68.10033984296247]
  本稿では, 位置決めの精度を高めるために, 視点選択の重要性を強調し, アクティブな位置決め領域について検討する。 私たちのコントリビューションは、リアルタイム操作用に設計されたシンプルなアーキテクチャ、自己教師付きデータトレーニング方法、および実世界のロボティクスアプリケーションに適した計画フレームワークにマップを一貫して統合する能力による、データ駆動型アプローチの使用に関するものです。
  論文  参考訳（メタデータ） (2024-07-22T12:32:09Z)
• Plug In and Learn: Federated Intelligence over a Smart Grid of Models [0.0]
  本稿では,スマートパワーグリッドの動作を反映したモデルに依存しないフェデレーション学習手法を提案する。 エネルギー・プロシューマーのような 多様なローカルモデル 独自のデータで 独立して訓練する 統計学的に類似した仲間と 調整するために 軽量な信号を交換する この調整はグラフベースの正規化器によって管理され、コネクテッドモデルが共有された公開ラベルのないデータセットで同様の予測を生成することを奨励する。
  論文  参考訳（メタデータ） (2023-02-08T22:55:57Z)
• Generalization Properties of Retrieval-based Models [50.35325326050263]
  検索ベースの機械学習手法は、幅広い問題で成功をおさめた。 これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。 本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
  論文  参考訳（メタデータ） (2022-10-06T00:33:01Z)
• Clustered Federated Learning via Generalized Total Variation Minimization [83.26141667853057]
  本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。 我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。 私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
  論文  参考訳（メタデータ） (2021-05-26T18:07:19Z)
• Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
  本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。 また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
  論文  参考訳（メタデータ） (2020-12-01T11:46:03Z)
• S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
  モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。 我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
  論文  参考訳（メタデータ） (2020-07-13T17:44:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。