論文の概要: Eigenfunction Extraction for Ordered Representation Learning

• arxiv url: http://arxiv.org/abs/2510.24672v1
• Date: Tue, 28 Oct 2025 17:37:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-29 15:35:37.31206
• Title: Eigenfunction Extraction for Ordered Representation Learning
• Title（参考訳）: 順序付き表現学習のための固有関数抽出
• Authors: Burak Varıcı, Che-Ping Tsai, Ritabrata Ray, Nicholas M. Boffi, Pradeep Ravikumar,
• Abstract要約: 本稿では,鍵デシラタを満たすために設計されたモジュラービルディングブロックに基づいて,順序付き固有関数と同定可能な固有関数を抽出する一般的なフレームワークを提案する。 合成カーネルに対する我々のアプローチを検証するとともに,得られた固有値が特徴選択に有効な重要なスコアとして機能することを実世界の画像データセットで実証する。
• 参考スコア（独自算出の注目度）: 19.958531044442527
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in representation learning reveal that widely used objectives, such as contrastive and non-contrastive, implicitly perform spectral decomposition of a contextual kernel, induced by the relationship between inputs and their contexts. Yet, these methods recover only the linear span of top eigenfunctions of the kernel, whereas exact spectral decomposition is essential for understanding feature ordering and importance. In this work, we propose a general framework to extract ordered and identifiable eigenfunctions, based on modular building blocks designed to satisfy key desiderata, including compatibility with the contextual kernel and scalability to modern settings. We then show how two main methodological paradigms, low-rank approximation and Rayleigh quotient optimization, align with this framework for eigenfunction extraction. Finally, we validate our approach on synthetic kernels and demonstrate on real-world image datasets that the recovered eigenvalues act as effective importance scores for feature selection, enabling principled efficiency-accuracy tradeoffs via adaptive-dimensional representations.
• Abstract（参考訳）: 表現学習の最近の進歩は、コントラストや非コントラストのような広く使われている目的が、入力とそれらのコンテキストの関係によって引き起こされる文脈的カーネルのスペクトル分解を暗黙的に実行することを示している。 しかし、これらの手法はカーネルのトップ固有関数の線形スパンのみを復元する一方、正確なスペクトル分解は特徴の順序付けと重要性を理解するのに不可欠である。 本研究では,キーデシデラタを満足するモジュール型ビルディングブロックをベースとした,順序付き固有関数と同定可能な固有関数を抽出する汎用フレームワークを提案する。 次に、低ランク近似とレイリー商最適化という2つの主要な方法論パラダイムが固有関数抽出の枠組みとどのように一致しているかを示す。 最後に, 合成カーネルに対する我々のアプローチを検証するとともに, 得られた固有値が特徴選択に有効な重要なスコアとして機能し, 適応次元表現による効率・精度のトレードオフを可能にすることを実世界の画像データセットで実証する。

関連論文リスト

• MINERVA: Mutual Information Neural Estimation for Supervised Feature Selection [39.57737590420284]
  本稿では,特徴と対象間の相互情報のニューラル推定に基づく特徴選択のための新しい手法を提案する。 ニューラルネットワークによる相互情報の近似をパラマティフィケーションし、疎性誘導型正規化器を付加した慎重に設計された損失関数を用いて特徴選択を行う。 提案手法は,特徴選択から表現学習を分離する2段階のプロセスで実装され,より優れた一般化とより正確な特徴重要度表現を実現する。
  論文  参考訳（メタデータ） (2025-10-02T23:09:06Z)
• "Principal Components" Enable A New Language of Images [79.45806370905775]
  証明可能なPCAのような構造を潜在トークン空間に組み込む新しい視覚トークン化フレームワークを導入する。 提案手法は、最先端の再構築性能を実現し、人間の視覚システムとの整合性を向上する。
  論文  参考訳（メタデータ） (2025-03-11T17:59:41Z)
• Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
  対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。 これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
  論文  参考訳（メタデータ） (2024-02-05T16:09:35Z)
• Proper Laplacian Representation Learning [15.508199129490068]
  ラプラシアン表現を近似するための理論的に健全な目的とそれに対応する最適化アルゴリズムを導入する。 これらの結果は,複数の環境にまたがる堅牢な学習に実証的に変換されることを示す。
  論文  参考訳（メタデータ） (2023-10-16T21:14:50Z)
• Object Representations as Fixed Points: Training Iterative Refinement Algorithms with Implicit Differentiation [88.14365009076907]
  反復的洗練は表現学習に有用なパラダイムである。 トレーニングの安定性とトラクタビリティを向上させる暗黙の差別化アプローチを開発する。
  論文  参考訳（メタデータ） (2022-07-02T10:00:35Z)
• Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
  部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。 線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
  論文  参考訳（メタデータ） (2022-04-20T21:15:38Z)
• Learning Inconsistent Preferences with Gaussian Processes [14.64963271587818]
  我々は,Chuらによる優先的なガウス過程を再考し,潜在ユーティリティ関数の値を通じてデータ項目のランク付けを強制するモデル化の仮定に挑戦する。 本稿では、より表現力のある遅延優先構造をデータ中に捉えることのできるpgpの一般化を提案する。 実験結果から, ランキングビリティの侵害は, 現実の優先データにおいてユビキタスである可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-06T11:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。