論文の概要: On the Complexity of Bayesian Generalization
- arxiv url: http://arxiv.org/abs/2211.11033v2
- Date: Tue, 22 Nov 2022 07:02:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 16:07:31.581437
- Title: On the Complexity of Bayesian Generalization
- Title（参考訳）: ベイズ一般化の複雑さについて
- Authors: Yu-Zhe Shi, Manjie Xu, John E. Hopcroft, Kun He, Joshua B. Tenenbaum,
Song-Chun Zhu, Ying Nian Wu, Wenjuan Han, Yixin Zhu
- Abstract要約: 我々は、多様かつ自然な視覚スペクトルにおいて、概念一般化を大規模に考える。
問題空間が大きくなると、2つのモードが研究され、$complexity$が多様になる。
- 参考スコア（独自算出の注目度）: 141.21610899086392
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider concept generalization at a large scale in the diverse and
natural visual spectrum. Established computational modes (i.e., rule-based or
similarity-based) are primarily studied isolated and focus on confined and
abstract problem spaces. In this work, we study these two modes when the
problem space scales up, and the $complexity$ of concepts becomes diverse.
Specifically, at the $representational \ level$, we seek to answer how the
complexity varies when a visual concept is mapped to the representation space.
Prior psychology literature has shown that two types of complexities (i.e.,
subjective complexity and visual complexity) (Griffiths and Tenenbaum, 2003)
build an inverted-U relation (Donderi, 2006; Sun and Firestone, 2021).
Leveraging Representativeness of Attribute (RoA), we computationally confirm
the following observation: Models use attributes with high RoA to describe
visual concepts, and the description length falls in an inverted-U relation
with the increment in visual complexity. At the $computational \ level$, we aim
to answer how the complexity of representation affects the shift between the
rule- and similarity-based generalization. We hypothesize that
category-conditioned visual modeling estimates the co-occurrence frequency
between visual and categorical attributes, thus potentially serving as the
prior for the natural visual world. Experimental results show that
representations with relatively high subjective complexity outperform those
with relatively low subjective complexity in the rule-based generalization,
while the trend is the opposite in the similarity-based generalization.
- Abstract（参考訳）: 我々は、多様かつ自然な視覚スペクトルにおいて、概念一般化を大規模に考える。
確立された計算モード(すなわち規則ベースまたは類似性ベース)は、主に孤立的に研究され、限定的および抽象的な問題空間に焦点を当てている。
本研究では,これらの2つのモードを,問題空間のスケールアップ時に検討し,概念の複雑さ$$が多様になる。
具体的には、$representational \ level$で、視覚的概念が表現空間にマッピングされたときに複雑さがどのように変化するかを答えようとしている。
先行心理学文献では、2種類の複雑性(主観的複雑性と視覚的複雑さ)(griffiths and tenenbaum, 2003)が逆u関係(donderi, 2006; sun and firestone, 2021)を築いていることが示されている。
モデルでは視覚的概念を記述するために高いRoAの属性を使用し、記述長は視覚的複雑性の増大と逆U関係に該当する。
例えば$computational \ level$ では、表現の複雑さが規則と類似性に基づく一般化のシフトにどのように影響するかを問う。
カテゴリー条件付きビジュアルモデリングは、視覚属性とカテゴリー属性の共起頻度を推定するので、自然視覚の世界の前兆となる可能性があると仮定する。
実験結果から,相対的主観的複雑性の表現は規則に基づく一般化において比較的低い主観的複雑性の表現よりも優れており,その傾向は類似性に基づく一般化では逆であることがわかった。
関連論文リスト
- A Complexity-Based Theory of Compositionality [53.025566128892066]
AIでは、構成表現は配布外一般化の強力な形式を可能にすることができる。
ここでは、構成性に関する直観を考慮し、拡張する構成性の公式な定義を提案する。
この定義は概念的には単純で量的であり、アルゴリズム情報理論に基礎を置いており、あらゆる表現に適用できる。
論文 参考訳（メタデータ） (2024-10-18T18:37:27Z) - Multi-scale structural complexity as a quantitative measure of visual complexity [1.3499500088995464]
マルチスケール構造複雑性尺度(MSSC)は,物体の構造的複雑性を,その階層構造における異なるスケール間の相違点の量として定義する手法である。
我々は、MSSCが他の計算複雑性尺度と同等の主観的複雑性と相関し、より直感的であり、画像のカテゴリ間で一貫性があり、計算が容易であることを示した。
論文 参考訳（メタデータ） (2024-08-07T20:26:35Z) - Deep Regression Representation Learning with Topology [57.203857643599875]
回帰表現の有効性は,そのトポロジによってどのように影響されるかを検討する。
本稿では,特徴空間の内在次元と位相を対象空間と一致させる正則化器PH-Regを紹介する。
合成および実世界の回帰タスクの実験はPH-Regの利点を示している。
論文 参考訳（メタデータ） (2024-04-22T06:28:41Z) - Skews in the Phenomenon Space Hinder Generalization in Text-to-Image Generation [59.138470433237615]
本稿では,関係学習用データセットの言語的スキューと視覚的スクリューの両方を定量化する統計指標を提案する。
系統的に制御されたメトリクスは、一般化性能を強く予測できることを示す。
この研究は、データの多様性やバランスを向上し、絶対的なサイズをスケールアップするための重要な方向を示します。
論文 参考訳（メタデータ） (2024-03-25T03:18:39Z) - Simplicity in Complexity : Explaining Visual Complexity using Deep Segmentation Models [6.324765782436764]
画像のセグメントベース表現を用いた複雑性のモデル化を提案する。
この2つの特徴を6つの多様な画像集合にまたがる単純な線形モデルにより,複雑性がよく説明できることがわかった。
論文 参考訳（メタデータ） (2024-03-05T17:21:31Z) - Systematic Visual Reasoning through Object-Centric Relational
Abstraction [5.914610036560008]
対象と抽象的関係の明示的な表現を抽出するモデルであるOCRAを紹介する。
複雑な視覚ディスプレイを含むタスクにおいて、強力な体系的な一般化を実現する。
論文 参考訳（メタデータ） (2023-06-04T22:47:17Z) - Vector-based Representation is the Key: A Study on Disentanglement and
Compositional Generalization [77.57425909520167]
良質な概念認識と斬新な概念構成を両立させることが可能であることを示す。
本研究では,スカラーベース・アンタングル化作業のベクトルベース化を図り,両機能を向上する手法を提案する。
論文 参考訳（メタデータ） (2023-05-29T13:05:15Z) - Bayes Complexity of Learners vs Overfitting [4.873362301533825]
関数の複雑性という新しい概念が、PACベイズのような一般化境界を支配していることを示す。
従来の研究とは対照的に、我々は自然に複数の層を持つニューラルネットワークに一般化している。
上界の導出により、2層と4層ニューラルネットワークの良好な一般化に必要なサンプル数の分離が図れる。
論文 参考訳（メタデータ） (2023-03-13T13:07:02Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳（メタデータ） (2023-01-23T15:18:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。