論文の概要: Variance Fingerprints: Component-Wise Identification of Content Factors by Augmentation Design
- arxiv url: http://arxiv.org/abs/2610.14260v1
- Date: Fri, 09 Oct 2026 19:30:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 22:25:55.043228
- Title: Variance Fingerprints: Component-Wise Identification of Content Factors by Augmentation Design
- Title(参考訳): 可変指紋:拡張設計によるコンテンツ要素の成分量同定
- Abstract要約: 自己教師付き学習は、基礎となる要素を個々の座標に分けることなく、ビュー間で共有されるコンテンツを回復することができる。
これらの要因を識別できるように拡張を設計できるかどうかを問う。
当社のアプローチでは、各ソースインスタンスの平均値を維持しながら、コンテンツ要素が拡張ビューにわたって変動することを可能にする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Augmentation-based self-supervised learning can recover the content shared across views without separating its underlying factors into individual coordinates. We ask whether augmentations can be designed to make those factors identifiable. Our approach allows content factors to fluctuate across augmented views while preserving their mean for each source instance. Each instance receives a fixed, recorded set of augmentation strengths that controls how much its factors fluctuate. When factors respond differently to changes in these strengths, their patterns of variation provide information that distinguishes them. Under suitable decoder and support assumptions, we prove that these differences identify individual factors in a conditional Gaussian model, up to permutation, scaling, and translation. We then develop a learner that uses the recorded strengths to estimate these patterns jointly across instances, enabling learning from few views per instance. Synthetic experiments demonstrate near-perfect factor recovery through nonlinear mixing. Controlled dSprites experiments show improved coordinate alignment using augmentations that target known factors, even without telling the learner which augmentation corresponds to which representation coordinate. These results suggest a route to component identification in self-supervised learning: augmentation design can supply identifying information beyond shared content alone.
- Abstract(参考訳): 拡張ベースの自己教師型学習は、基礎となる要素を個々の座標に分けることなく、ビュー間で共有されるコンテンツを回復することができる。
これらの要因を識別できるように拡張を設計できるかどうかを問う。
当社のアプローチでは、各ソースインスタンスの平均値を維持しながら、コンテンツ要素が拡張ビューにわたって変動することを可能にする。
各インスタンスは、その要因がどれだけ変動するかを制御する、固定された記録された強化強度のセットを受け取る。
要因がこれらの強度の変化に異なる反応をする時、それらの変動パターンはそれらを区別する情報を提供する。
適切なデコーダとサポート仮定の下で、これらの差分が条件付きガウスモデルにおける個々の要因を、置換、スケーリング、翻訳まで特定することを証明する。
次に、記録された強みを使って、インスタンス間でこれらのパターンを一緒に見積もる学習者を開発し、インスタンスごとのビューの少ない学習を可能にします。
合成実験は、非線形混合によるほぼ完全な因子の回復を示す。
制御されたdSprites実験は、どの表現座標に対応するかを学習者に教えることなく、既知の因子を対象とする拡張を用いた座標アライメントの改善を示す。
これらの結果から,自己指導型学習におけるコンポーネント識別への道筋が示唆された。
関連論文リスト
- Are You Sure You're Sure? On the Impact of Instruction Tuning on Confidence and Lexical Diversity [1.4157344687763311]
そこで本研究では,学習指導によるモデル信頼度の変化に伴う,生成した解の語彙的多様性の変化について検討する。
予測精度の制限や可能性に基づくキャリブレーションの低下にもかかわらず,命令調律は回答の信頼性を常に変化させることがわかった。
論文 参考訳(メタデータ) (2026-08-13T16:18:45Z) - From Pixels to Factors: Learning Independently Controllable State Variables for Reinforcement Learning [10.819503014571671]
Action-Controllable Factorization (ACF)は、独立に制御可能な潜伏変数を明らかにするための対照的な学習手法である。
ACFは、ベースラインのアンタングル化アルゴリズムを一貫して上回っている。
論文 参考訳(メタデータ) (2025-10-02T18:43:20Z) - Towards Causal Representation Learning with Observable Sources as Auxiliaries [15.361097817317429]
因果表現学習は、混合関数を通して観測データを生成する潜伏因子を復元しようとする。
我々は、有効な条件変数として、観測可能なソースのフレームワークを補助的に導入する。
本研究の主な成果は,全潜伏変数を部分空間変換まで同定できることである。
論文 参考訳(メタデータ) (2025-09-23T14:22:39Z) - Self-similarity Driven Scale-invariant Learning for Weakly Supervised
Person Search [66.95134080902717]
自己相似性駆動型スケール不変学習(SSL)という新しいワンステップフレームワークを提案する。
本稿では,ネットワークを前景と学習スケール不変の機能に集中させるための,マルチスケール・エクステンプラー・ブランチを提案する。
PRWおよびCUHK-SYSUデータベースの実験により,本手法の有効性が示された。
論文 参考訳(メタデータ) (2023-02-25T04:48:11Z) - Feature diversity in self-supervised learning [0.0]
CNNモデルを用いた自己教師型学習の文脈において,これらの要因が全体的な一般化性能に与える影響について検討した。
最後のレイヤがトレーニングを通じて最も多様化していることが分かりました。
モデルのテストエラーはエポックの増加に伴って減少するが、その多様性は低下する。
論文 参考訳(メタデータ) (2022-09-02T21:34:11Z) - Why Do Self-Supervised Models Transfer? Investigating the Impact of
Invariance on Downstream Tasks [79.13089902898848]
自己教師付き学習は、非競合画像上での表現学習の強力なパラダイムである。
コンピュータビジョンにおける異なるタスクは、異なる(不変の)分散を符号化する機能を必要とすることを示す。
論文 参考訳(メタデータ) (2021-11-22T18:16:35Z) - Self-Supervised Learning with Data Augmentations Provably Isolates
Content from Style [32.20957709045773]
我々は拡張過程を潜在変数モデルとして定式化する。
本研究では,2対の観測結果に基づいて,潜在表現の識別可能性について検討した。
Causal3DIdentは、因果関係が豊富な高次元、視覚的に複雑な画像のデータセットである。
論文 参考訳(メタデータ) (2021-06-08T18:18:09Z) - What Should Not Be Contrastive in Contrastive Learning [110.14159883496859]
本稿では,タスク依存不変性に関する事前知識を必要としない,対照的な学習フレームワークを提案する。
我々のモデルは、異なる埋め込み空間を構築することで、視覚表現の様々な要因や不変要素を捉えることを学習する。
我々は、共有バックボーンを持つマルチヘッドネットワークを使用し、各オーグメンテーションにまたがる情報をキャプチャし、ダウンストリームタスクにおけるすべてのベースラインより優れている。
論文 参考訳(メタデータ) (2020-08-13T03:02:32Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2020-04-20T02:47:49Z) - CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。
本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。
その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
論文 参考訳(メタデータ) (2020-04-18T20:09:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。