論文の概要: Spokes, not a Ring: Revisiting the Weekday Manifold in Language Models

• arxiv url: http://arxiv.org/abs/2610.37796v1
• Date: Tue, 27 Oct 2026 18:15:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.312095
• Title: Spokes, not a Ring: Revisiting the Weekday Manifold in Language Models
• Title（参考訳）: リングではなくスポークス:言語モデルにおける週刊のマニフォールドの再検討
• Abstract要約: 平日の表現は連続環よりも円状に配置された7つの離散状態のように振る舞う。 まず, 局所感度は平日に合わせて7つの最小値を持ち, オン・マニフォールド・ステアリングの下での表現と行動のステップライクなマッピングが可能であることを示す。 第二に、ある概念が 7 つの離散状態の外側の多様体に沿って表現されているかどうかを検証し、その中間空間に日時、不確実性、自然文は現れない。
• 参考スコア（独自算出の注目度）: 1.590066695255552
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work has hypothesised that large language models may represent some concepts as multi-dimensional manifolds instead of single directions. Using these manifolds to interpret or steer representations often assumes that moving along them corresponds to a continuous change in the represented concept. In this work, we test this continuous manifold assumption on the prototypical weekday manifold. Despite its striking circular geometry, we find that the weekday representations behave more like seven discrete states arranged in a circle than a continuous ring. First, we show that local sensitivity has seven minima aligned with the weekdays, producing a step-like mapping between representation and behaviour under on-manifold steering. Second, we test whether any concepts are represented along the manifold outside the seven discrete states, and find neither time of day, uncertainty, nor natural text populate the intermediate space. Together, these results challenge the continuous interpretation of the weekday manifold and motivate testing whether movement along other representation manifolds correspond to meaningful changes in model representations and behaviour.
• Abstract（参考訳）: 最近の研究は、大きな言語モデルは、一方向ではなく多次元多様体としていくつかの概念を表現することができると仮定している。 これらの多様体を使って、それらに沿って動くことは表現された概念の連続的な変化に対応すると仮定することが多い。 本研究では、この連続多様体の仮定を原型平日多様体上で検証する。 その顕著な円形幾何にもかかわらず、平日の表現は連続環よりも円状に配置された7つの離散状態のように振る舞う。 まず, 局所感度は平日に合わせて7つの最小値を持ち, オン・マニフォールド・ステアリングの下での表現と行動のステップライクなマッピングが可能であることを示す。 第二に、ある概念が 7 つの離散状態の外側の多様体に沿って表現されているかどうかを検証し、その中間空間に日時、不確実性、自然文は現れない。 これらの結果は、平日多様体の連続的な解釈に挑戦し、他の表現多様体に沿った運動がモデル表現と振る舞いの有意義な変化に対応するかどうかをテストする。

関連論文リスト

• Representations in Motion: Layer-wise Rotation and Trajectory Divergence in LLMs [15.929939780888013]
  事実表現の進化を真偽文を用いて検討する。 本稿では,現実性方向が互いに遠ざかっているように見える幾何学的現象を報告する。 モデルが目的とする課題や行動について,軌道のみから強い予測を行うことが可能であることを示す。
  論文  参考訳（メタデータ） (2026-10-18T22:28:57Z)
• Can Machines Really See Objects in Images? A Study Based on Syntactic Distance and Visual Self-Referential Instances [53.65561607407989]
  そのような局所的な手がかりが区別の安定な基盤を提供しない場合、モデルが依然として正しく分類できるかどうかを問う。 ResNetとVision Transformersの実験では、一貫した位相遷移現象が明らかになった。 結果は、汎用インテリジェンスは、既存の言語を再利用するのではなく、新しい言語を作成する必要があることを示唆している。
  論文  参考訳（メタデータ） (2026-06-28T14:27:40Z)
• Probing for Representation Manifolds in Superposition [55.18010930078062]
  本稿では,重ね合わせで表現多様体を発見する教師付き手法であるManifold Probeを紹介する。 Llama 2-7b における時間と空間の表現に関するプローブを実証する。 時間の場合、この多様体を操ることで、有名な歌曲、映画、書籍が出版された年月について、モデルの完成度に影響を与えることが示される。
  論文  参考訳（メタデータ） (2026-05-18T15:20:35Z)
• Not All Language Model Features Are One-Dimensionally Linear [8.577217344304072]
  独立的・非共起的な低次元特徴に分解できるかどうかに基づいて、既約多次元特徴の厳密な定義を開発する。 スパースオートエンコーダを用いて, GPT-2 と Mistral 7B の多次元特徴を自動的に検出する。 我々は、これらの正確な円が、その年の週と月におけるモジュラー算術に関わる計算問題を解くのに使用されるタスクを特定する。
  論文  参考訳（メタデータ） (2024-05-23T17:59:04Z)
• Inference via Interpolation: Contrastive Representations Provably Enable Planning and Inference [110.47649327040392]
  時系列データを考えると、“今後どうなるか?”や“どうやって来たのか?”といった質問に答えるにはどうすればよいでしょう? これらの質問は、学習された表現の観点から、いかにコンパクトで閉じた形状の解が得られるかを示す。
  論文  参考訳（メタデータ） (2024-03-06T22:27:30Z)
• Inverse Dynamics Pretraining Learns Good Representations for Multitask Imitation [66.86987509942607]
  このようなパラダイムを模倣学習でどのように行うべきかを評価する。 本稿では,事前学習コーパスがマルチタスクのデモンストレーションから成り立つ環境について考察する。 逆動力学モデリングはこの設定に適していると主張する。
  論文  参考訳（メタデータ） (2023-05-26T14:40:46Z)
• Where and What? Examining Interpretable Disentangled Representations [96.32813624341833]
  解釈可能なバリエーションの獲得は、長い間、絡み合い学習の目標の1つだった。 独立性の仮定と異なり、解釈性は教師なしの設定での絡み合いを促進するために使われることは滅多にない。 本論文では, 解釈対象と解釈対象の2つの質問について検討し, 離散表現の解釈可能性を検討する。
  論文  参考訳（メタデータ） (2021-04-07T11:22:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。