論文の概要: On the Complexity of Bayesian Generalization
- arxiv url: http://arxiv.org/abs/2211.11033v1
- Date: Sun, 20 Nov 2022 17:21:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 17:51:56.892429
- Title: On the Complexity of Bayesian Generalization
- Title(参考訳): ベイズ一般化の複雑さについて
- Authors: Yu-Zhe Shi, Manjie Xu, John E. Hopcroft, Kun He, Joshua B. Tenenbaum,
Song-Chun Zhu, Ying Nian Wu, Wenjuan Han, Yixin Zhu
- Abstract要約: 我々は、多様かつ自然な視覚スペクトルにおいて、概念一般化を大規模に考える。
問題空間が大きくなると、2つのモードが研究され、$complexity$が多様になる。
- 参考スコア(独自算出の注目度): 141.21610899086392
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider concept generalization at a large scale in the diverse and
natural visual spectrum. Established computational modes (i.e., rule-based or
similarity-based) are primarily studied isolated and focus on confined and
abstract problem spaces. In this work, we study these two modes when the
problem space scales up, and the $complexity$ of concepts becomes diverse.
Specifically, at the $representational \ level$, we seek to answer how the
complexity varies when a visual concept is mapped to the representation space.
Prior psychology literature has shown that two types of complexities (i.e.,
subjective complexity and visual complexity) (Griffiths and Tenenbaum, 2003)
build an inverted-U relation (Donderi, 2006; Sun and Firestone, 2021).
Leveraging Representativeness of Attribute (RoA), we computationally confirm
the following observation: Models use attributes with high RoA to describe
visual concepts, and the description length falls in an inverted-U relation
with the increment in visual complexity. At the $computational \ level$, we aim
to answer how the complexity of representation affects the shift between the
rule- and similarity-based generalization. We hypothesize that
category-conditioned visual modeling estimates the co-occurrence frequency
between visual and categorical attributes, thus potentially serving as the
prior for the natural visual world. Experimental results show that
representations with relatively high subjective complexity outperform those
with relatively low subjective complexity in the rule-based generalization,
while the trend is the opposite in the similarity-based generalization.
- Abstract(参考訳): 我々は、多様かつ自然な視覚スペクトルにおいて、概念一般化を大規模に考える。
確立された計算モード(すなわち規則ベースまたは類似性ベース)は、主に孤立的に研究され、限定的および抽象的な問題空間に焦点を当てている。
本研究では,これらの2つのモードを,問題空間のスケールアップ時に検討し,概念の複雑さ$$が多様になる。
具体的には、$representational \ level$で、視覚的概念が表現空間にマッピングされたときに複雑さがどのように変化するかを答えようとしている。
先行心理学文献では、2種類の複雑性(主観的複雑性と視覚的複雑さ)(griffiths and tenenbaum, 2003)が逆u関係(donderi, 2006; sun and firestone, 2021)を築いていることが示されている。
モデルでは視覚的概念を記述するために高いRoAの属性を使用し、記述長は視覚的複雑性の増大と逆U関係に該当する。
例えば$computational \ level$ では、表現の複雑さが規則と類似性に基づく一般化のシフトにどのように影響するかを問う。
カテゴリー条件付きビジュアルモデリングは、視覚属性とカテゴリー属性の共起頻度を推定するので、自然視覚の世界の前兆となる可能性があると仮定する。
実験結果から,相対的主観的複雑性の表現は規則に基づく一般化において比較的低い主観的複雑性の表現よりも優れており,その傾向は類似性に基づく一般化では逆であることがわかった。
関連論文リスト
- Simplicity in Complexity [6.363158395541767]
画像のセグメントベース表現を用いた複雑性のモデル化を提案する。
この2つの特徴を6つの多様な画像集合にまたがる単純な線形モデルにより,複雑性がよく説明できることがわかった。
論文 参考訳(メタデータ) (2024-03-05T17:21:31Z) - Probing multipartite entanglement through persistent homology [7.106986689736826]
永続的ホモロジーによる多部交絡の研究を提案する。
永続ホモロジーは トポロジカルデータ分析で 使われるツールです
永続バーコードはそのトポロジ的要約よりもきめ細かな情報を提供することを示す。
論文 参考訳(メタデータ) (2023-07-14T17:24:33Z) - Systematic Visual Reasoning through Object-Centric Relational
Abstraction [5.914610036560008]
対象と抽象的関係の明示的な表現を抽出するモデルであるOCRAを紹介する。
複雑な視覚ディスプレイを含むタスクにおいて、強力な体系的な一般化を実現する。
論文 参考訳(メタデータ) (2023-06-04T22:47:17Z) - Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-29T13:05:15Z) - Bayes Complexity of Learners vs Overfitting [4.873362301533825]
関数の複雑性という新しい概念が、PACベイズのような一般化境界を支配していることを示す。
従来の研究とは対照的に、我々は自然に複数の層を持つニューラルネットワークに一般化している。
上界の導出により、2層と4層ニューラルネットワークの良好な一般化に必要なサンプル数の分離が図れる。
論文 参考訳(メタデータ) (2023-03-13T13:07:02Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳(メタデータ) (2023-01-23T15:18:54Z) - Visual Superordinate Abstraction for Robust Concept Learning [80.15940996821541]
概念学習は言語意味論と結びついた視覚表現を構成する。
視覚概念の本質的な意味的階層を探索する失敗のボトルネックについて説明する。
本稿では,意味認識型視覚サブ空間を明示的にモデル化するビジュアル・スーパーオーディネート・抽象化・フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-28T14:27:38Z) - Complexity and Aesthetics in Generative and Evolutionary Art [5.837881923712394]
生成的および進化的芸術とデザインに適用される複雑さの概念について検討する。
複雑度と個人的審美判断の相関について検討する。
生成的・進化的技術における直接測度の価値について論じる。
論文 参考訳(メタデータ) (2022-01-05T06:19:55Z) - Learning Algebraic Representation for Systematic Generalization in
Abstract Reasoning [109.21780441933164]
推論における体系的一般化を改善するためのハイブリッドアプローチを提案する。
我々はRaven's Progressive Matrices (RPM) の抽象的空間時間課題に対する代数的表現を用いたプロトタイプを紹介する。
得られた代数的表現は同型によって復号化して解を生成することができることを示す。
論文 参考訳(メタデータ) (2021-11-25T09:56:30Z) - Structural Landmarking and Interaction Modelling: on Resolution Dilemmas
in Graph Classification [50.83222170524406]
解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」
構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
論文 参考訳(メタデータ) (2020-06-29T01:01:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。