論文の概要: From Plato to Aristotle: Toward a General Theory of Representation Hypotheses
- arxiv url: http://arxiv.org/abs/2610.20286v1
- Date: Wed, 14 Oct 2026 14:41:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.208239
- Title: From Plato to Aristotle: Toward a General Theory of Representation Hypotheses
- Title(参考訳): プラトンからアリストテレスへ:表象仮説の一般論に向けて
- Abstract要約: PRHが主張する収束性は格子の上部で一致しているが、その証拠は隣り合う重複に由来する。
本稿では, 線形オートエンコーダのトレーニング手順と, 有限コントラッシブギブスモデルにおける目的の証明を行う。
- 参考スコア(独自算出の注目度): 38.79096546372734
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Platonic Representation Hypothesis (PRH) holds that increasingly capable models converge toward a common representation. However, recent studies have shown different views on aligning representations via their neighborhoods, spanning trees, and distances. We show that these views can differ because the alignment criteria behind them sit at different points of one lattice, and we formalize this explanation as the Lattice Representation Hypothesis (LRH). Under the LRH, the convergence claimed by the PRH is agreement at the top of the lattice, whereas its evidence comes from neighbor overlap, a criterion near the bottom. The Aristotelian Representation Hypothesis (ARH) restricts convergence to local neighborhoods because calibration keeps the growth of neighbor overlap with model size but largely removes that of centered kernel alignment. We show that this removal can come from calibrating a maximum over layers, so global convergence remains open. Back into Plato's Cave (BPC) infers coarse shared structure from the collapse of neighbor overlap on larger evaluation sets, whereas we trace it at least partly to a fixed number of neighbors covering shorter distances. We show that the spanning-tree overlap used by Structure over Geometry (SOG) mostly repeats one-nearest-neighbor overlap. The LRH also extends to independently trained models, whose training procedure and objective decide the criteria met reliably across runs. We prove this claim for the training procedure in a linear autoencoder and for the objective in a finite contrastive Gibbs model. Experiments on dozens of pretrained vision and language models and thousands of runs of both theoretical models support these conclusions. We hope this work paves the way toward a general theory of representation hypotheses, with a framework to analyze them and compare their evidence. Project page: https://eethanshi.github.io/LRH
- Abstract(参考訳): プラトン表現仮説(英: Platonic Representation hypothesis、PRH)は、より有能なモデルが共通の表現に向かって収束するという仮説である。
しかし,近年の研究では,その周辺地域,木々間,距離による表現の整合性について,様々な見解が示されている。
これらの見解は、それらの背景にあるアライメント基準が1つの格子の異なる点にあるため、異なる可能性があることを示し、この説明をLattice Representation hypothesis (LRH)として定式化する。
LRHの下では、PRHが主張する収束は格子の上部で一致しているが、その証拠は隣り合う重なり、底辺の基準から来ている。
アリストテレス表現仮説(Aristotelian Representation hypothesis、ARH)は、キャリブレーションがモデルサイズと隣り合う部分の成長を保ちながら、中心となるカーネルアライメントをほとんど取り除くため、局所的な近傍への収束を制限する。
この除去は, 層上の最大値の校正によってもたらされるので, グローバル収束は未解決のままである。
プラトンの洞窟(BPC)に遡ると、より大きな評価セット上の隣り合う重なり合いの崩壊から粗い共有構造が推測されるが、少なくとも一部は短い距離をカバーする隣人の固定数に遡る。
構造上幾何 (SOG) が用いたスパンニングツリーのオーバーラップは, 主に1アレスト近傍のオーバーラップを繰り返す。
LRHは独立して訓練されたモデルにも拡張され、訓練手順と客観的な判断により、走行中に確実に適合する基準が決定される。
本稿では, 線形オートエンコーダのトレーニング手順と, 有限コントラッシブギブスモデルにおける目的の証明を行う。
何十もの事前訓練された視覚と言語モデルの実験と、両方の理論モデルの数千回の実験は、これらの結論を支持している。
この研究が、表現仮説の一般的な理論への道を開くことを願っており、それらを分析し、それらの証拠を比較するための枠組みがある。
プロジェクトページ:https://eethanshi.github.io/LRH
関連論文リスト
- Abduction Without a Body? Representational Grounding and the Abduction Loop for Scientific Hypothesis Generation [0.0]
AIと科学哲学の最近の議論は、真の仮説生成には物理世界と連続的に結合するエージェントが必要であるというものである。
私たちは、より狭い主張を守ります。あらゆる誘拐的な科学的行為には、オンラインの実施は必要ないのです。
独立に開発された2つの構造が、明示的な対応の下で1つの対象であるという推測である。
論文 参考訳(メタデータ) (2026-08-03T17:05:31Z) - Capability from Access Structure, Not Scale: Lower Bounds and Pre-Registered Tests for Hybrid Sequence Models [14.867869624585886]
ネットワークがスケールするにつれて、異種ネットワークの表現は現実の共有モデルへと収束する。
O(Nb) 状態構造を持つシャノン壁,固定窓を持つ水平壁,固定深度のみの組成を持つ回路壁の3つの資源壁を命名した。
明示的な分離可能性の仮定の下では、ハイブリッドは各壁の価格を支払うことによって3つ全てを横切るので、その能力は厳密に超加法的である。
論文 参考訳(メタデータ) (2026-07-14T05:52:12Z) - Back into Plato's Cave: Examining Cross-modal Representational Convergence at Scale [40.31924374728614]
プラトン表現仮説(Platonic Representation hypothesis)は、異なるモダリティで訓練されたニューラルネットワークが一致し、最終的に同じ現実の表現に向かって収束することを示唆している。
この仮説の実験的証拠は脆弱であり, 評価体制に大きく依存していることが示唆された。
論文 参考訳(メタデータ) (2026-04-20T17:56:02Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-04-18T10:50:46Z) - Multi-Way Representation Alignment [19.53606443098969]
地図表現の現在の戦略は本質的にペアワイズであり、モデルの数と二次的にスケーリングし、一貫したグローバル参照を得られない。
我々はまず、モデル縫合のようなタスクに不可欠な内部幾何学を保存した共有宇宙を構築するために、一般化されたプロクリスト解析(GPA)を適用した。
次に、厳密な等尺的アライメントが検索に最適であることを示す。そこでは、カノニカル相関解析(CCA)のような合意を最大化する手法が一般的である。
このギャップを埋めるために、我々はついにGeometry-Corrected Procrustes Alignment (GCPA)を提案する。
論文 参考訳(メタデータ) (2026-02-05T21:33:45Z) - Do Reasoning Models Enhance Embedding Models? [48.43242995118735]
最先端の埋め込みモデルは、対照的な学習によって適応されたデコーダのみの大規模言語モデルバックボーンから、ますます派生している。
RLVRで調整したバックボーンの埋め込みモデルでは,同一のトレーニングレシピを適用した場合,ベースボーンに対して一貫した性能上の優位性は得られなかった。
論文 参考訳(メタデータ) (2026-01-29T02:48:34Z) - A Simple and Generalist Approach for Panoptic Segmentation [57.94892855772925]
本稿では,深部エンコーダ-浅部デコーダアーキテクチャに基づく簡易な一般化フレームワークを提案する。
これはトレーニング中の不均衡に起因することを示し、その削減のための新しい方法を提案する。
提案手法は,MS-COCOデータセット上で55.1のPQを実現する。
論文 参考訳(メタデータ) (2024-08-29T13:02:12Z) - Unveiling the Latent Space Geometry of Push-Forward Generative Models [24.025975236316846]
多くの深い生成モデルは、GAN(Generative Adversarial Networks)やVAE(Varial Auto-Encoders)のような連続生成器によってガウス測度のプッシュフォワードとして定義される。
この研究は、そのような深層生成モデルの潜伏空間を探索する。
これらのモデルの主な問題は、非連結分布を学習する際に、対象分布の支持外からサンプルを出力する傾向があることである。
論文 参考訳(メタデータ) (2022-07-21T15:29:35Z) - Posterior Coreset Construction with Kernelized Stein Discrepancy for
Model-Based Reinforcement Learning [78.30395044401321]
我々は、強化学習(MBRL)のための新しいモデルベースアプローチを開発する。
ターゲット遷移モデルの仮定を緩和し、混合モデルの一般的な族に属する。
連続的な制御環境では、壁時計の時間を最大50%削減することができる。
論文 参考訳(メタデータ) (2022-06-02T17:27:49Z) - Causal Expectation-Maximisation [70.45873402967297]
ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。
我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。
我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
論文 参考訳(メタデータ) (2020-11-04T10:25:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。