論文の概要: Complexity Induction: Compositional Generalization via Structured Training Distortion
- arxiv url: http://arxiv.org/abs/2608.21464v2
- Date: Thu, 27 Aug 2026 13:58:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 14:16:51.545587
- Title: Complexity Induction: Compositional Generalization via Structured Training Distortion
- Title(参考訳): 複雑化誘導:構造的訓練歪による構成的一般化
- Authors: Aleksandr V. Abramov,
- Abstract要約: 学習データの構造的歪みは, 構造的な変更を伴わずに, 構成一般化を誘導できることを示す。
その結果,学習信号の構造的複雑化は,学習した表現の内部構造と構成的解釈の両方に影響を及ぼす可能性が示唆された。
- 参考スコア(独自算出の注目度): 51.56484100374058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We demonstrate that structured distortion of training data - which we term complexity induction - can induce compositional generalization in a standard CNN classifier without architectural modification. Using synthetic images of colored geometric shapes, we encode classes as flat string labels (e.g., "red-circle") with no explicit attribute decomposition, and exclude certain color-shape combinations from training entirely. We apply two distortion methods derived from Jaccard string similarity between class names: mixed labels (soft target distributions encoding inter-class overlap) and expanded dataset (false training samples with structurally motivated incorrect labels). Both methods induce the ability to predict unseen class combinations, and act at different levels: mixed labels activate the classifier for unseen combinations by exploiting the CNN's natural embedding structure, while expanded training improves the embedding factorization itself. A control with random (unstructured) false labels confirms that the effect depends on the structure of the distortion, not on noise per se. These results suggest that structured complication of training signals can influence both the internal organization of learned representations and their compositional interpretation - a principle that may underlie the role of natural language in cognitive development.
- Abstract(参考訳): 本稿では,CNNの標準分類器における構造的歪み(複雑性誘導)が,構造的変更を伴わない構成的一般化を誘導できることを実証する。
色付き幾何形状の合成画像を用いて、明示的な属性分解を伴わない平らな文字列ラベル(例:「赤い円」)としてクラスを符号化し、特定の色と形の組み合わせをトレーニングから完全に排除する。
混合ラベル(クラス間重複を符号化するソフトターゲット分布)と拡張データセット(構造的動機付けされた不正ラベルを用いた偽トレーニングサンプル)の2つのクラス名間のJaccard文字列類似性から導かれる歪み手法を適用した。
混合ラベルは、CNNの自然な埋め込み構造を利用して、未確認の組合せの分類器を活性化し、拡張トレーニングは埋め込み分解自体を改善する。
ランダムな(非構造的な)偽ラベルの制御は、その効果が歪みの構造に依存していることを確認する。
これらの結果から,学習した表現の内的構造と構成的解釈の両方に,学習信号の構造的合併症が影響を及ぼすことが示唆された。
関連論文リスト
- Low-Interaction-Rank Learning: Unifying Multiplicative Dual-Encoder Heads [5.703301837612397]
乗算二重エンコーダネットワークは、それぞれのエンコーダの内部積として、一対の入力に対して実数値出力を算出する。
統一理論は基本的な設計決定を導くものではない。
正規化はゲージ固定であり、ホワイトニングは置換と符号まで相互作用モードをピン留めすることを示す。
論文 参考訳(メタデータ) (2026-08-12T05:09:44Z) - Layerwise Dynamics for In-Context Classification in Transformers [27.052342498221748]
硬質非マルジン系における多クラス線形分類について検討した。
我々は,各層に特徴とラベルの置換の等式を付与することにより,計算を識別できるようにする。
これにより、機能的等価性を維持しながら解釈可能である。
論文 参考訳(メタデータ) (2026-04-13T15:20:41Z) - From Static Structures to Ensembles: Studying and Harnessing Protein Structure Tokenization [15.864659611818661]
タンパク質構造トークン化は、3D構造を離散的あるいはベクトル化された表現に変換する。
構造トークン化に関する最近の多くの研究にもかかわらず、基礎となる離散表現の性質はよく理解されていない。
構造予測のための言語モデルにおける構造トークンの有効利用は、リッチで訓練済みのシーケンス埋め込みを使うことに依存していることを示す。
論文 参考訳(メタデータ) (2025-11-13T07:58:24Z) - How Compositional Generalization and Creativity Improve as Diffusion Models are Trained [82.08869888944324]
構成規則を学習するために生成モデルに必要なサンプルはいくつあるか?
ルールを学習するために、データのどのシグナルが利用されるのか?
ここで紹介する階層的クラスタリング機構と物理における再正規化群との関係について論じる。
論文 参考訳(メタデータ) (2025-02-17T18:06:33Z) - When does compositional structure yield compositional generalization? A kernel theory [0.0]
固定された構成的表現を持つカーネルモデルにおける合成一般化の理論を示す。
学習データのバイアスから生じる合成一般化における新しい障害モードを同定する。
本研究は, 学習データの統計的構造が構成一般化にどのように影響するかを考察する。
論文 参考訳(メタデータ) (2024-05-26T00:50:11Z) - Mitigating Generation Shifts for Generalized Zero-Shot Learning [52.98182124310114]
一般化ゼロショット学習(英: Generalized Zero-Shot Learning、GZSL)は、学習中に見知らぬクラスが観察できない、見つからないサンプルを認識するために意味情報(属性など)を活用するタスクである。
本稿では,未知のデータ合成を効率よく,効率的に学習するための新しい生成シフト緩和フローフレームワークを提案する。
実験結果から,GSMFlowは従来のゼロショット設定と一般化されたゼロショット設定の両方において,最先端の認識性能を実現することが示された。
論文 参考訳(メタデータ) (2021-07-07T11:43:59Z) - Commutative Lie Group VAE for Disentanglement Learning [96.32813624341833]
本研究では,データに表される因子の変動を同変的に反映する基盤構造を見いだすこととして,非絡み合い学習を考察する。
グループベースの非絡み合い学習を実現するために、Communative Lie Group VAEというシンプルなモデルが導入された。
実験により,本モデルでは,教師なしの非絡み合い表現を効果的に学習し,余分な制約を伴わずに最先端のパフォーマンスを達成できることが示されている。
論文 参考訳(メタデータ) (2021-06-07T07:03:14Z) - Latent Embedding Feedback and Discriminative Features for Zero-Shot
Classification [139.44681304276]
ゼロショット学習は、トレーニング中にデータが利用できない、見えないカテゴリを分類することを目的としている。
Generative Adrial Networksは、クラス固有のセマンティック埋め込みを利用して、目に見えないクラス機能を合成する。
我々は,ゼロショット学習のすべての段階において,意味的一貫性を強制することを提案する。
論文 参考訳(メタデータ) (2020-03-17T17:34:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。