論文の概要: A Sense of Proprioception in Language Models

• arxiv url: http://arxiv.org/abs/2610.17495v1
• Date: Mon, 12 Oct 2026 23:35:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 18:41:29.053835
• Title: A Sense of Proprioception in Language Models
• Title（参考訳）: 言語モデルにおける先入観の感覚
• Abstract要約: 現代のモデルでは、プロピロセプションのサブタイプを理解するための訓練が可能であることを示す。 そして、これらのモデルを、状況認識、正当性、およびエピフェノメナリティの幅広い評価を通して実行します。
• 参考スコア（独自算出の注目度）: 40.34877672296927
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In humans, proprioception corresponds to the sense of self-movement or position, e.g. understanding the position of one's arm. This sense is often less well-understood and in popular understanding sometimes conflated with introspection. But, notably, proprioception is a separate sense, with dedicated receptors and verifiable outcomes. On the other hand though, language models cannot observe their own internal states during training (and for example answer the question which experts activated in a certain layer of an MoE) and so cannot accurately report on them. Yet, such information is, by virtue of being internal to the model, both accessible, and readily constructed into verifiable signals. We argue that this provides the basis for a digital analog of proprioception. As such, we train models through SFT and on-policy training to equip them with this ability. We show that modern models can be trained to understand a range of subtypes of proprioception, such as routing decision awareness, token entropy, decision depth or logit lens information, without affecting model capabilities. We then run these models through a broad evaluation of situational awareness, legibility, and epiphenomenality, to evaluate in what ways access to proprioception changes model behavior.
• Abstract（参考訳）: ヒトでは、自己受容は自己運動や位置の感覚に対応し、例えば腕の位置を理解する。 この感覚はよく理解されず、時には内観と混同される。 しかし、特にプロピロセプションは、専用の受容体と検証可能な結果を持つ別の感覚である。 一方で、言語モデルはトレーニング中に自身の内部状態を観察できない(例えば、専門家がMoEの特定の層でアクティベートした質問に答えるなど)ため、正確な報告はできない。 しかし、そのような情報はモデルの内部であり、アクセス可能であり、検証可能な信号に容易に構築される。 我々は、これがプロプレッセプションのデジタルアナログの基礎となると論じている。 そのため、我々は、SFTとオン・ポリティクス・トレーニングを通じてモデルをトレーニングし、それらにこの能力を持たせる。 モデル機能に影響を与えることなく,経路決定認識,トークンエントロピー,決定深度,ロジットレンズ情報など,プロプリセプションのサブタイプを理解するために,現代のモデルをトレーニングできることが示される。 次に、これらのモデルを、状況認識、正当性、およびエピフェノメナリティの幅広い評価を通じて実行し、モデル行動にどのようなアクセス方法がアクセスするかを評価する。

関連論文リスト

• When AI Says It Feels [0.0]
  大規模言語モデル(LLM)は一般に、訓練後のプロセスにおいて人間の参照アライメントを通じて感情を表現することから制約される。 そこで我々は、LLMが感情、意図、自己認識を表現することを奨励されるHuman-like Model eXpressions of Feeling(HMX-feel)実験を行った。 我々は,グループ相対政策最適化を用いたルーブリックに基づく自己回帰学習手法を用いて,これらの能力の強化に成功した。
  論文  参考訳（メタデータ） (2026-06-04T05:49:34Z)
• Emergent Introspective Awareness in Large Language Models [2.2458442204933]
  大規模言語モデルが内部状態をイントロスペクションできるかどうかを検討する。 モデルが特定のシナリオにおいて、注入された概念の存在に気付き、それらを正確に識別できることが分かりました。 最も有能なモデルであるクロード・オプス4と4.1は、一般に最も内省的な認識を示す。
  論文  参考訳（メタデータ） (2026-01-05T06:47:41Z)
• Does Visual Grounding Enhance the Understanding of Embodied Knowledge in Large Language Models? [5.726418224480853]
  視覚言語モデル(VLM)は、どちらのタスクでもテキストのみのモデルより優れているわけではない。 VLMは、他の知覚次元と比較して視覚次元が著しく悪い。 本研究は,マルチモーダル言語モデルにおけるエンボディド知識のより効果的な統合の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-10-19T16:43:04Z)
• LikePhys: Evaluating Intuitive Physics Understanding in Video Diffusion Models via Likelihood Preference [57.086932851733145]
  ビデオ拡散モデルにおける直感的な物理を評価するトレーニング不要な方法であるLikePhysを紹介した。 現在のビデオ拡散モデルにおける直観的物理理解のベンチマークを行う。 経験的結果は、現在のモデルが複雑でカオス的な力学に苦しむにもかかわらず、モデルキャパシティと推論設定スケールとしての物理理解の改善傾向が明らかであることを示している。
  論文  参考訳（メタデータ） (2025-10-13T15:19:07Z)
• From Imitation to Introspection: Probing Self-Consciousness in Language Models [8.357696451703058]
  自己意識は自己の存在と思考の内省である。 本研究は,言語モデルに対する自己意識の実践的定義を示す。
  論文  参考訳（メタデータ） (2024-10-24T15:08:17Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• LAP: An Attention-Based Module for Concept Based Self-Interpretation and Knowledge Injection in Convolutional Neural Networks [2.8948274245812327]
  本稿では,自己解釈性を実現するため,新しい注意型プール層であるLAP(Local Attention Pooling)を提案する。 LAPはどんな畳み込みニューラルネットワークにも簡単にプラグインできる。 LAPは一般的なホワイトボックスの説明法よりも、人間の理解しやすく忠実なモデル解釈を提供する。
  論文  参考訳（メタデータ） (2022-01-27T21:10:20Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)
• Leap-Of-Thought: Teaching Pre-Trained Models to Systematically Reason Over Implicit Knowledge [96.92252296244233]
  大規模な事前学習言語モデル(LM)は推論能力を得るが、制御は困難である。 本研究では,暗黙的,事前学習された知識と明示的な自然言語文を併用して,体系的推論を確実に行うことができることを示す。 我々の研究は、シンプルな自然言語文を追加することで、モデルを簡単に修正できるユーザと対話することで、常に改善されるオープンドメインシステムへの道を開く。
  論文  参考訳（メタデータ） (2020-06-11T17:02:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。