論文の概要: Beyond the Readout: A Latent Numerical Frame Shared Across Modality and Operation

• arxiv url: http://arxiv.org/abs/2610.37422v1
• Date: Tue, 27 Oct 2026 15:36:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-29 04:15:49.271597
• Title: Beyond the Readout: A Latent Numerical Frame Shared Across Modality and Operation
• Title（参考訳）: 可読性を超えて: モダリティと操作を共用した潜在数値フレーム
• Abstract要約: 2つの数字が最初の桁を共有するとき、隠れた方向の番号を交換すると、数字はそのまま書かれ、77.6%のケースで次の桁をリダイレクトする。 このモデルは抽象的な数値概念を上流に形成し、時間をかけて展開する。
• 参考スコア（独自算出の注目度）: 8.91670343866925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a multimodal model computes 17+35 from text or 91-39 from a rendered image, it produces the same answer, 52. Does it use one internal concept of number for both, or separate machinery for each path? Similarity metrics such as RSA or CKA cannot settle this question. They give the same score to identical and to rotated directions, and two representations can look alike only because both prepare the same output digits. We therefore use causal interventions. For four conditions (text or image, addition or subtraction), we learn a small subspace of Gemma4-12B-it's residual stream in which swapping coordinates swaps the model's answer. The subspaces answer three questions. First, do the conditions write numbers along the same directions? They do not. Reusing a subspace from text in an image on the same operation recovers only 53.2% of its causal effect. A single rotation and rescaling maps one subspace onto the other and raises recovery to 91.4%, so the conditions share one geometry expressed in different coordinates. Second, does this shared geometry only reflect the digit the model is about to print? To test this, we split each subspace into 9 directions that the output layer reads to choose the next digit and 13 directions that it cannot see. The 13 hidden directions still carry the number, yet changing them barely alters the digit being written. Third, what are these hidden directions for? A model must emit a multi-digit answer one digit at a time, so it can compute the full result early and keep it in reserve. When two numbers share their first digit, swapping the number in the hidden directions leaves the digit being written intact and redirects the next digit in 77.6% of cases. The model thus forms an abstract numerical concept upstream and unfolds it across time: multimodal representations share meaning through relational geometry across distinct coordinate frames.
• Abstract（参考訳）: マルチモーダルモデルがテキストから17+35、レンダリング画像から91〜39を演算すると、同じ答えである52を生成する。 両方に1つの内部概念、または各経路に別々の機械を使うか? RSAやCKAのような類似性指標では、この問題は解決できない。 彼らは同じスコアと同じ方向と回転する方向を与え、2つの表現はどちらも同じ出力桁を準備しているためだけ似ている。 したがって、私たちは因果的介入を使う。 4つの条件(テキスト、画像、加算、減算)について、Gemma4-12Bの残差ストリームの小さな部分空間を学習する。 サブスペースは3つの質問に答えます。 まず、条件は同じ方向に数字を書きますか? そうではない。 同じ操作で画像中のテキストから部分空間を再利用すると、その因果効果の53.2%しか回復しない。 1つの回転と再スケーリングは1つの部分空間をもう1つの部分空間にマッピングし、リカバリを91.4%に上げるため、条件は異なる座標で表される1つの幾何学を共有する。 第2に、この共有幾何学は、モデルが印刷しようとしている桁だけを反映しているか? これをテストするために、各サブスペースを出力層が読み取る9つの方向と、見えない13の方向に分割した。 13の隠れた方向は番号をまだ持っていないが、数字がほとんど変わっていない。 第三に、これらの隠れた方向は何か? モデルは一度に1桁ずつ複数の桁の答えを出力しなければなりません。 2つの数字が最初の桁を共有するとき、隠れた方向の番号を交換すると、数字はそのまま書かれ、77.6%のケースで次の桁をリダイレクトする。 マルチモーダル表現は、異なる座標フレーム間の関係幾何学を通して意味を共有する。

関連論文リスト

• Relational Composition as Parallel Transport: What Per-Entity Frames Force in Attention [0.6372261626436676]
  ドット積は、両方のベクトルが座標系を共有する場合にのみ何かを意味する。 我々は、この恒常的なフレーム自由を対称性として捉え、それが何に注意を向けるかを問う。
  論文  参考訳（メタデータ） (2026-10-26T07:11:23Z)
• Five Architectures, One Shared Space Cross-Model Representational Alignment Without Weight Merging [0.0]
  内部設計が異なる5つのフリーズモデルが、アクティベーションのみで関連付けられるかどうかを問う。 5つのモデルが同じテキストをどう構成するかという統計的に堅牢な対応を見出す。 次に、評価可能なタスクで5つのモデルの中から選択するルータをサポートするかどうかをテストする。
  論文  参考訳（メタデータ） (2026-10-24T06:52:49Z)
• ProteinGeoBench: Frontier Structural-Biology Agents Are Fluent at Lookup but Lost in Geometry [0.0]
  4モデルから4,249回,26モデルから4,486回,タンパク質構造タスクのスイートであるProteinGeoBenchについて検討した。 4つのフロンティアモデルのうち3つは互いに0.031(0.785から0.816)の範囲内にあり、その差は解消されず、第4スコアは0.707、第3スコアは0である。 評価予算にも依存しており、タスク毎に1回実行され、23.9%の複製がまず異なるモデルで実行される。
  論文  参考訳（メタデータ） (2026-10-19T17:55:38Z)
• What Looks Like a Capability Limit in Vision-Language Models Is a Readout Limit [0.0]
  視覚言語モデルのベンチマークは、いくつかのコンベンションで答えの選択を提供する。 ベンチマークレポートのリミットは、モデルではなく、リードアウトに属すことができる。
  論文  参考訳（メタデータ） (2026-09-23T06:21:46Z)
• Elastic Token Compression for Pixel-Space Diffusion Transformers [64.18588817660013]
  領域トークンインタフェース(Method)は、これらのトークンに拡散モデルを適用する。 メソッドは、一致した予算で事前の削減手法を導き、密度の高い品質を2.0times$の速度で一致させ、2.6times$の精度で維持する。
  論文  参考訳（メタデータ） (2026-08-29T14:06:27Z)
• Off-Axis, On Purpose: Where a Transformer Computes Concepts and Why it Does So [0.2663471820643486]
  変圧器の解答は1つの軸に存在し、その非埋め込み方向は読み取る。 12層のモデルが2つのフェーズで計算する。 アーリーエグジットのトレーニングのように、すべてのレイヤをリードアウトにプッシュすることは、パープレキシティ、LAMBADA、BLiMPのベースラインと一致します。
  論文  参考訳（メタデータ） (2026-08-10T21:35:48Z)
• Draw2Think: Harnessing Geometry Reasoning through Constraint Engine Interaction [59.47026381165585]
  視覚言語モデルは精度を上げて幾何学的問題を解くが、その中間状態は潜伏し、検証できないままである。 我々は,GeoGebra制約エンジンとのエージェント相互作用に潜時空間推論から幾何推論を再キャストするフレームワークDraw2Thinkを提案する。
  論文  参考訳（メタデータ） (2026-05-20T05:46:14Z)
• Zero-Shot 3D Shape Correspondence [67.18775201037732]
  本稿では,3次元形状間の対応性を計算するためのゼロショット手法を提案する。 我々は、最近の基礎モデルの言語と視覚における例外的な推論能力を活用している。 提案手法は, 強い非等尺形状の間において, ゼロショット方式で高確率な結果をもたらす。
  論文  参考訳（メタデータ） (2023-06-05T21:14:23Z)
• CoordGAN: Self-Supervised Dense Correspondences Emerge from GANs [129.51129173514502]
  本稿では,各生成画像の高密度対応マップを学習する構造テクスチャ不整合GANであるCoordinate GAN(CoordGAN)を紹介する。 提案するジェネレータは,既存手法に比べて構造とテクスチャの絡み合いが良くなることを示す。
  論文  参考訳（メタデータ） (2022-03-30T17:55:09Z)
• Large-scale image segmentation based on distributed clustering algorithms [70.8481702473572]
  3次元画像セグメンテーションへの多くのアプローチは、画像領域へのスーパーボクセルの階層的クラスタリングに基づいている。 ここでは,膨大な数のスーパーボクセルを処理可能な分散アルゴリズムについて述べる。 本研究では3次元電子顕微鏡脳画像から得られた135億超語彙間の1.5兆のエッジを持つ親和性グラフをクラスタリングしてアルゴリズムを実証する。
  論文  参考訳（メタデータ） (2021-06-21T01:11:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。