論文の概要: Transformation Laws in Neural Representations: Structure, Realisability, and Construction
- arxiv url: http://arxiv.org/abs/2609.18190v1
- Date: Wed, 16 Sep 2026 06:27:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.669333
- Title: Transformation Laws in Neural Representations: Structure, Realisability, and Construction
- Title（参考訳）: ニューラル表現における変換法則:構造・実現可能性・構成
- Abstract要約: ニューラル特徴に対する参照変換の整合的動作を通して,操作可能な表現内容について検討する。
変換がエンコーダを通ったときに特徴付け、その欠陥が破棄された情報に対する変換の要求によって支配される線形設定を与える。
色を奥行きの例として用いて、凍結した視覚的特徴を持つ色は、最初の2つの高調波において84～88%のエネルギーを集中し、回転面は形状によって共有されている。
- 参考スコア（独自算出の注目度）: 4.161562398794914
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How neural representations preserve the structure of input changes connects representation analysis with internal intervention. We study operable representational content through compatible actions of reference transformations on neural features. We characterise when a transformation descends through an encoder, and give a linear setting in which the defect is governed by the transformation's demand for discarded information, measured in the metric the representation induces. On a rectifier the failure to realise a transformation has two distinguishable sources --- what the source region has already made unrecoverable, and what it costs to satisfy every region the transformation visits with one operator --- and for a \textit{measured} harmonic carrier the same question has a closed answer: a linear realisation exists exactly when the retained harmonic blocks are invariant under the action. Using colour as the in-depth instance, we find that hue orbits in frozen visual features concentrate 84--88\% of their energy in the first two harmonics with rotation planes shared across shapes, that this organisation is substantially inherited from input and architecture and is reshaped by training and depth, and that the measured structure supports prediction, transport from new starting states, and composition --- with global and local realisations differing sharply in which they achieve. Guided by the measurements, we construct a compact interface whose rotation action is fixed by the structure and never fitted: it reads hue zero-shot at 3.4$^\circ$ median error on unseen shapes. Theory, structural measurement, and construction together establish transformation laws as a concrete object connecting the understanding of neural representations to their design.
- Abstract（参考訳）: 入力変化の構造を保存する神経表現は、表現分析と内部介入を結びつける。
ニューラル特徴に対する参照変換の整合的動作を通して,操作可能な表現内容について検討する。
我々は,変換がエンコーダを通過すると特徴付け,その表現が誘導されるメートル法で測定された廃棄情報に対する変換の要求によって欠陥が支配される線形設定を与える。
整流器上では、変換を実現するための失敗は、2つの区別可能なソース -- ソース領域が既に発見できなかったもの -- と、変換が1つのオペレーターと共に訪れるすべての領域を満足させるコスト -- と、同じ質問に対して閉じた答えがある。
色を奥行きの例に用いて、凍結した視覚的特徴のhue軌道は、最初の2つの高調波において、そのエネルギーの84～88パーセントを集中し、形状が共有される回転面を持ち、この組織は入力とアーキテクチャから実質的に継承され、トレーニングと深さによって形を変えられ、測定された構造は予測、新しい開始状態からの輸送、構成をサポートする。
この測定により、回転動作が構造によって固定され、収まらないようなコンパクトなインターフェースを構築し、未知の形状の3.4$^\circ$中央値誤差でhue 0-shotを読み取る。
理論、構造測定、構成は、神経表現の理解と設計を結びつける具体的な対象として変換法則を確立する。
関連論文リスト
- A train--prune--readout--rewrite workflow for interpretable quantum learning [5.641464469724376]
AI for Scienceは、データから複雑な物理システムを予測するだけでなく、数学的構造や学習モデルから物理的にテスト可能な表現を抽出することを目的としている。
ここでは、3つの厳格な分析クレームから物理ドメイングラウンドを分離するトレイン-プルアウト-リードアウト-リライトワークフローが開発されている。
ワークフローは複雑に評価されたネットワークで実装され、明示的なエッジ関数により、保持された計算を解析的に読み取ることができる。
論文 参考訳（メタデータ） (2026-09-14T07:12:21Z) - Decomposing how prompting steers behavior [0.0]
我々は、プロンプトによる表現変化を解釈可能な幾何学的成分に分解する。
我々のフレームワークは、モデルがタスク関連構造をルートして、プロンプト駆動の振る舞いを生成する方法を明らかにする。
論文 参考訳（メタデータ） (2026-06-02T03:27:24Z) - Beyond Spatial Compression: Interface-Centric Generative States for Open-World 3D Structure [55.17771962316751]
現在の3Dトークンは、表現を空間圧縮として扱うが、コンポーネントの所有権とアタッチメントの妥当性は暗黙的に残す。
我々は、トークン化がパッシブ圧縮コードではなく操作状態を構成する、インターフェイス中心の生成状態という別の視点を定式化する。
我々は、この定式化を、C2LT-3D(Component-Conditioned Canonical Local Tokens)でインスタンス化し、表現を標準局所幾何学、パーティション条件付きコンテキスト、およびリレーショナルシーム変数に分解する。
論文 参考訳（メタデータ） (2026-05-11T12:09:28Z) - Transformers learn factored representations [62.86679034549244]
トランスフォーマーは次のトークン予測を通じて事前訓練を受け、自分の世界を部品に分解する。
1) すべての因子の積空間における表現であり、その次元は成分の数とともに指数関数的に増加する。
我々は,部分空間の数,次元,文脈埋め込みの配置など,各活性化の幾何学的構造に関する正確な予測を導出する。
このことは、トランスフォーマーがなぜ世界を部品に分解するかを原理的に説明し、複雑なデータで訓練されたモデルでも解釈可能な低次元構造が持続する可能性があることを示唆している。
論文 参考訳（メタデータ） (2026-02-02T17:49:06Z) - Through a Steerable Lens: Magnifying Neural Network Interpretability via Phase-Based Extrapolation [26.45789667046442]
本稿では,ネットワーク勾配を無限小運動の形式として扱うことにより,クラス間の暗黙の経路を可視化する新しいフレームワークを提案する。
合成と実世界の両方のデータセットの実験では、フェーズ中心の補間が知覚的に整合し、意味的に意味のある変換をもたらすことが示されている。
論文 参考訳（メタデータ） (2025-06-02T22:39:40Z) - General Neural Gauge Fields [100.35916421218101]
我々はゲージ変換とニューラルネットワークを協調的に最適化する学習フレームワークを開発した。
我々は、シーン情報を本質的に保存し、優れた性能を得ることができる情報不変ゲージ変換を導出する。
論文 参考訳（メタデータ） (2023-05-05T12:08:57Z) - CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。
提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。
実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
論文 参考訳（メタデータ） (2021-12-31T04:37:11Z) - Frame Averaging for Equivariant Shape Space Learning [85.42901997467754]
形状空間学習に対称性を組み込む自然な方法は、形状空間(エンコーダ)への写像と形状空間(デコーダ)からの写像が関連する対称性に同値であることを問うことである。
本稿では,2つのコントリビューションを導入することで,エンコーダとデコーダの等価性を組み込む枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-03T06:41:19Z) - A Rotation-Invariant Framework for Deep Point Cloud Analysis [132.91915346157018]
ネットワーク入力時に一般的な3次元カルト座標を置き換えるために,新しい低レベル純粋回転不変表現を導入する。
また,これらの表現を特徴に組み込むネットワークアーキテクチャを提案し,点とその近傍の局所的関係とグローバルな形状構造を符号化する。
本手法は, 形状分類, 部分分割, 形状検索を含む多点雲解析タスクにおいて評価する。
論文 参考訳（メタデータ） (2020-03-16T14:04:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。