論文の概要: Quantifying and Learning Linear Symmetry-Based Disentanglement

• arxiv url: http://arxiv.org/abs/2011.06070v4
• Date: Tue, 28 Jun 2022 13:36:12 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-27 00:33:03.406015
• Title: Quantifying and Learning Linear Symmetry-Based Disentanglement
• Title（参考訳）: 線形対称性に基づく絡み合いの定量化と学習
• Authors: Loek Tonnaer, Luis A. P\'erez Rey, Vlado Menkovski, Mike Holenderski, Jacobus W. Portegies
• Abstract要約: 現在、線形対称性に基づく絡み合い(LSBD)を定量化する指標は存在しない。 本稿では,LSBDを定量的に定量化するための数学的音響計量である$mathcalD_mathrmLSBD$を提案する。 LSBD表現を半教師付きで学習するLSBD-VAEを導出する。
• 参考スコア（独自算出の注目度）: 2.063173596934807
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The definition of Linear Symmetry-Based Disentanglement (LSBD) formalizes the notion of linearly disentangled representations, but there is currently no metric to quantify LSBD. Such a metric is crucial to evaluate LSBD methods and to compare to previous understandings of disentanglement. We propose $\mathcal{D}_\mathrm{LSBD}$, a mathematically sound metric to quantify LSBD, and provide a practical implementation for $\mathrm{SO}(2)$ groups. Furthermore, from this metric we derive LSBD-VAE, a semi-supervised method to learn LSBD representations. We demonstrate the utility of our metric by showing that (1) common VAE-based disentanglement methods don't learn LSBD representations, (2) LSBD-VAE as well as other recent methods can learn LSBD representations, needing only limited supervision on transformations, and (3) various desirable properties expressed by existing disentanglement metrics are also achieved by LSBD representations.
• Abstract（参考訳）: 線形対称性に基づくアンタングルメント(LSBD)の定義は線形非アンタングル表現の概念を定式化するが、現在ではLSBDを定量化する計量は存在しない。 このような計量は、LSBD法の評価と、従来の非絡み合いの理解との比較に不可欠である。 LSBDを定量化するための数学的に健全な計量である$\mathcal{D}_\mathrm{LSBD}$を提案し、$\mathrm{SO}(2)$ groupに対して実用的な実装を提供する。 さらに、この指標からLSBD表現を学習するための半教師付き手法LSBD-VAEを導出する。 本稿では,(1)一般的なVAEに基づく非絡合法はLSBD表現を学習しない,(2)LSBD-VAEはLSBD表現を学習できない,(3)既存の非絡合法で表される様々な望ましい特性はLSBD表現によっても達成できることを示す。

関連論文リスト

• Proving Olympiad Inequalities by Synergizing LLMs and Symbolic Reasoning [27.562284768743694]
  大規模言語モデル(LLM)は、証明システム内で証明ステップを生成することによって、数学的定理を正式に証明することができる。 本稿では,LLMが学習した数学的直観と,記号的手法によって符号化された領域固有の洞察を相乗化する,ニューロシンボリック・戦術生成器を提案する。 複数の数学コンペティションから161の挑戦的不等式を評価する。
  論文  参考訳（メタデータ） (2025-02-19T15:54:21Z)
• Scaling Test-Time Compute Without Verification or RL is Suboptimal [70.28430200655919]
  RL法や検索法に基づく検証器ベース (VB) 手法による微調整は, 一定量の計算・データ予算を条件として, 蒸留・クローニングに基づく検証器フリー (VF) 手法よりもはるかに優れていることを示す。 我々は,3/8Bの事前学習型LLMのドクティクスと数学推論の両問題に対して,我々の理論を実証的に相関させ,テスト時間計算のスケーリングには検証が不可欠であることを確認した。
  論文  参考訳（メタデータ） (2025-02-17T18:43:24Z)
• AxBench: Steering LLMs? Even Simple Baselines Outperform Sparse Autoencoders [73.37603699731329]
  ステアリングと概念検出のための大規模ベンチマークであるAxBenchを紹介する。 ステアリングでは、すべての既存のメソッドを高速に処理し、次いで微調整する。 概念検出では、差分のような表現に基づく手法が最善を尽くす。
  論文  参考訳（メタデータ） (2025-01-28T18:51:24Z)
• Towards Scalable Semantic Representation for Recommendation [65.06144407288127]
  大規模言語モデル(LLM)に基づく意味的IDを構築するために、Mixture-of-Codesを提案する。 提案手法は,識別性と寸法の堅牢性に優れたスケーラビリティを実現し,提案手法で最高のスケールアップ性能を実現する。
  論文  参考訳（メタデータ） (2024-10-12T15:10:56Z)
• Improving Self-Supervised Learning by Characterizing Idealized Representations [155.1457170539049]
  与えられたデータ拡張に不変なタスクに対して必要かつ十分な条件を証明します。 対照的に、我々のフレームワークは、従来の手法に対して単純だが重要な改善を規定している。 非コントラスト学習では、私たちのフレームワークを使って、シンプルで斬新な目的を導き出します。
  論文  参考訳（メタデータ） (2022-09-13T18:01:03Z)
• Contrastive and Non-Contrastive Self-Supervised Learning Recover Global and Local Spectral Embedding Methods [19.587273175563745]
  自己監督学習(SSL)は、入力とペアの正の関係は意味のある表現を学ぶのに十分である。 本稿では,これらの制約に対処するために,スペクトル多様体学習の推進力の下で統一的な枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-23T17:59:32Z)
• On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
  最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。 これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
  論文  参考訳（メタデータ） (2021-01-18T10:12:31Z)
• A Metric for Linear Symmetry-Based Disentanglement [2.063173596934807]
  データ表現が達成するLSBDの評価基準を提案する。 提案手法は,SO(2)$対称性を基礎とした3つのデータセットに対して得られたデータ表現の不整合性を評価するための実用的な手法である。
  論文  参考訳（メタデータ） (2020-11-26T14:19:08Z)
• Linear semi-infinite programming approach for entanglement quantification [0.0]
  エンタングルメント量子化器が連続でない場合でも、原始問題と双対問題の間の双対性ギャップが存在しないことを示す。 3つの量子ビット間の絡み合いを定量化するために,LSIP の中央切削平面アルゴリズムを実装した。
  論文  参考訳（メタデータ） (2020-07-27T19:12:29Z)
• A Generic First-Order Algorithmic Framework for Bi-Level Programming Beyond Lower-Level Singleton [49.23948907229656]
  Bi-level Descent Aggregationは、汎用的な双方向最適化のためのフレキシブルでモジュール化されたアルゴリズムフレームワークである。 LLS条件なしでBDAの収束を証明する新しい手法を導出する。 我々の研究は、BDAが特定の一階計算モジュールの検証と互換性があることも示している。
  論文  参考訳（メタデータ） (2020-06-07T05:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。