論文の概要: Compositional Objectives: Learning Structure in Structure

• arxiv url: http://arxiv.org/abs/2609.32566v1
• Date: Sat, 26 Sep 2026 12:40:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 06:18:17.304169
• Title: Compositional Objectives: Learning Structure in Structure
• Title（参考訳）: 構成目的:構造における学習構造
• Abstract要約: 学習可能な新規性は、学習された構造を構成して行動し、目標を達成する能力なしでは意味をなさない。 学習可能な新規性は、境界オブザーバを通じてデータ内の学習可能な構造を測定する方法であるエピプレキシティの上に構築される。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Intelligence is defined in many ways. One of these definitions defines intelligence as the pursuit of learnable novelty. However, learnable novelty can be meaningless without the ability to compose the learned structures to take action and achieve goals. Learnable novelty builds on epiplexity, which is a way to measure learnable structure in data through a bounded observer. In this paper, we investigate a closed-form spectral approximation to compute epiplexity. We use a fixed-trace constraint and find that the epiplexity objective prefers a more uniform distribution of spectral mass rather than concentrating it in a small number of directions. However, a representation may spread information across many directions without organizing that information into features useful for a particular task. To address this gap, we propose a compositional objective whose observer measures the relationships between the parts and interactions of an image. We compare it with the original spectral objective given only the masked parts. In our ImageNet training runs, the spectral objective with masked parts produces an almost maximally spread representation while achieving the strongest frozen-feature classification performance on most evaluations, more than doubling the linear-probe accuracy of the whole-image baseline. Across multiple image benchmarks, changing what the observer sees matters more than adding relation and interaction tokens. At the same time, our prediction-oriented compositional objective produces substantially better held-out observer prediction but relatively weaker classification, revealing that spectral diversity, predictability, and downstream utility are distinct properties. These results suggest that the usefulness of spectral spreading depends not only on how much structure is preserved, but on which relationships the observer makes available to the objective.
• Abstract（参考訳）: 知性は様々な方法で定義される。 これらの定義の1つは知性を学習可能なノベルティの追求として定義している。 しかし、学習可能な新規性は、学習された構造を構成して行動し、目標を達成する能力なしでは意味がない。 学習可能な新規性は、境界オブザーバを通じてデータ内の学習可能な構造を測定する方法であるエピプレキシティの上に構築される。 本稿では、エピプレキシティを計算するための閉形式スペクトル近似について検討する。 固定トレース制約を用いて、エピプレキシティーの目的は、少数の方向に集中するのではなく、スペクトル質量のより均一な分布を優先することを発見した。 しかし、表現は、その情報を特定のタスクに有用な機能に整理することなく、様々な方向に情報を広めることができる。 このギャップに対処するために、観察者が画像の部品と相互作用の関係を計測する構成目的を提案する。 マスク部分のみを与えられた元のスペクトル目標と比較する。 ImageNet のトレーニングでは,画像全体の線形プローブ精度を2倍に抑えつつ,ほとんどの評価において最強の凍結機能分類性能を達成しつつ,マスク部分のスペクトル目標をほぼ極大に表現する。 複数のイメージベンチマークを通じて、オブザーバが見ているものを変更することは、関係性やインタラクショントークンを追加することよりも重要である。 同時に、我々の予測指向構成目的は、観測者予測をかなり良くするが、比較的弱い分類をし、スペクトルの多様性、予測可能性、下流ユーティリティが異なる性質であることを明らかにした。 これらの結果から, スペクトル拡散の有用性は, どれだけの構造が保存されているかだけでなく, 観測者が目的に対してどのような関係を持つかに依存することが示唆された。

関連論文リスト

• "Principal Components" Enable A New Language of Images [79.45806370905775]
  証明可能なPCAのような構造を潜在トークン空間に組み込む新しい視覚トークン化フレームワークを導入する。 提案手法は、最先端の再構築性能を実現し、人間の視覚システムとの整合性を向上する。
  論文  参考訳（メタデータ） (2025-03-11T17:59:41Z)
• Harmonized Spatial and Spectral Learning for Robust and Generalized Medical Image Segmentation [5.3590650005818254]
  我々は、中級特徴と文脈的長距離依存を捉えるためのモデル能力を改善するために、革新的なスペクトル相関係数の目的を導入する。 実験によると、UNetやTransUNetのような既存のアーキテクチャでこの目的を最適化することで、一般化、解釈可能性、ノイズの堅牢性が大幅に向上する。
  論文  参考訳（メタデータ） (2024-01-18T20:43:43Z)
• Hodge-Aware Contrastive Learning [101.56637264703058]
  単純コンプレックスは、マルチウェイ依存によるデータのモデリングに有効である。 我々は、単純なデータを処理するための対照的な自己教師付き学習手法を開発した。
  論文  参考訳（メタデータ） (2023-09-14T00:40:07Z)
• Investigating the Interplay between Features and Structures in Graph Learning [6.436174170552484]
  過去には、メッセージパッシング手法のノード分類予測の改善と、ホモフィリィに強く関連していると考えられていた。 最近では、グラフが完全にヘテロ親和性であるが性能が高いノード分類タスクを構築することができるため、そのような二分法は単純すぎると研究者らは指摘した。 本研究は,ノード分類タスクの2つの生成過程を定式化することにより,この強い仮定が成立しない場合に何が起こるかを検討する。
  論文  参考訳（メタデータ） (2023-08-18T14:02:56Z)
• Inherent Inconsistencies of Feature Importance [6.02357145653815]
  特徴重要度は、予測結果に対する個々の特徴の寄与にスコアを割り当てる手法である。 本稿では,特徴重要度スコアの異なる文脈間のコヒーレントな関係を確立するために設計された公理的枠組みを提案する。
  論文  参考訳（メタデータ） (2022-06-16T14:21:51Z)
• Exploring Set Similarity for Dense Self-supervised Representation Learning [96.35286140203407]
  本研究では,高密度自己教師型表現学習のためのtextbfset textbfsimilarity (SetSim) を提案する。 ピクセルワイドの類似性学習をセットワイドに一般化し,よりセマンティックな情報や構造的な情報を含むため,ロバスト性を向上させる。 具体的には、ビューの注意的特徴に頼って対応する集合を定め、不適切な対応を引き起こす可能性のあるノイズの多い背景をフィルタリングする。
  論文  参考訳（メタデータ） (2021-07-19T09:38:27Z)
• A Trainable Optimal Transport Embedding for Feature Aggregation and its Relationship to Attention [96.77554122595578]
  固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。 我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
  論文  参考訳（メタデータ） (2020-06-22T08:35:58Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。