論文の概要: CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models

• arxiv url: http://arxiv.org/abs/2604.10031v1
• Date: Sat, 11 Apr 2026 05:04:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.801572
• Title: CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models
• Title（参考訳）: CoSToM:大規模言語モデルにおける内在的アライメント理論のための因果方向ステアリング
• Abstract要約: 心の理論 (Theory of Mind, ToM) とは、心の状態を他人に説明できる能力である。 LLMは標準のToMベンチマークで有望なパフォーマンスを示す。 LLMは複雑なタスク固有のシナリオへの一般化に失敗することが多い。
• 参考スコア（独自算出の注目度）: 23.229692182223157
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Theory of Mind (ToM), the ability to attribute mental states to others, is a hallmark of social intelligence. While large language models (LLMs) demonstrate promising performance on standard ToM benchmarks, we observe that they often fail to generalize to complex task-specific scenarios, relying heavily on prompt scaffolding to mimic reasoning. The critical misalignment between the internal knowledge and external behavior raises a fundamental question: Do LLMs truly possess intrinsic cognition, and can they externalize this internal knowledge into stable, high-quality behaviors? To answer this, we introduce CoSToM (Causal-oriented Steering for ToM alignment), a framework that transitions from mechanistic interpretation to active intervention. First, we employ causal tracing to map the internal distribution of ToM features, empirically uncovering the internal layers' characteristics in encoding fundamental ToM semantics. Building on this insight, we implement a lightweight alignment framework via targeted activation steering within these ToM-critical layers. Experiments demonstrate that CoSToM significantly enhances human-like social reasoning capabilities and downstream dialogue quality.
• Abstract（参考訳）: 心の理論 (Theory of Mind, ToM) は、心の状態を他人に説明できる能力であり、社会知性の目印である。 大規模言語モデル(LLM)は標準のToMベンチマークで有望な性能を示すが、複雑なタスク固有のシナリオへの一般化に失敗することがしばしばあり、推論を模倣する素早い足場に大きく依存している。 内的知識と外的行動の重大な相違は、根本的な疑問を引き起こす: LLMは真に本質的な認知を持ち、内的知識を安定的で高品質な行動に外部化することができるか? これに対応するために,機械的解釈からアクティブな介入へ移行するフレームワークであるCoSToM(Causal-oriented Steering for ToMアライメントのためのCausal-oriented Steering)を紹介した。 まず、基本的なToMセマンティクスを符号化する際に、内部層の特徴を実証的に明らかにし、ToM機能の内部分布をマッピングするために因果トレースを用いる。 この知見に基づいて、これらのToMクリティカルな層内でのアクティベーションステアリングを目標とする軽量アライメントフレームワークを実装した。 実験により、CoSToMは人間のような社会的推論能力と下流の対話品質を著しく向上させることが示された。

関連論文リスト

• Beyond Sally-Anne: Evaluating Theory of Mind in LLMs using Epistemic Schelling Points [0.8703469130213444]
  In this present the Epistemic Asymmetric Schelling Task (EAST), a two-player dialogue game designed to benchmark robust ToM abilities。 コーディネーションを実現するためにモデルがToMをしっかりと適用できるかどうかを評価する。 その結果,機能的社会的推論に有意な差が認められた。
  論文  参考訳（メタデータ） (2026-07-13T10:27:22Z)
• From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
  エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。 実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。 プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
  論文  参考訳（メタデータ） (2026-06-09T17:17:08Z)
• From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape [79.30826980815927]
  ルーブリックは、複雑な品質判断を構造化され、実行可能な標準に変換する明示的な基準セットです。 我々は,既存のルーリックデザインを体系的に整理し,その構築と最適化を検証し,評価と訓練をまたいだ役割を解析する。
  論文  参考訳（メタデータ） (2026-06-07T13:34:55Z)
• Decomposing and Steering Functional Metacognition in Large Language Models [7.62618887128252]
  大規模言語モデルは機能的メタ認知状態の分解可能な空間を維持していることを示す。 これらの状態は、内部の活性化から線形に退避可能であり、異なる層回りのプロファイルを示す。 この結果から,ベンチマーク性能はタスク能力だけでなく,特定の機能的メタ認知状態の活性化を反映していることが示唆された。
  論文  参考訳（メタデータ） (2026-05-09T13:22:47Z)
• MirrorBench: Evaluating Self-centric Intelligence in MLLMs by Introducing a Mirror [68.92922229518848]
  心理学における古典的ミラー自己認識(MSR)テストに触発されたシミュレーションベースのベンチマークであるMirrorBenchを紹介する。 MirrorBenchはこのパラダイムを、段階的に困難なタスクの結合されたフレームワークを通じてMLLMを具現化したものに拡張している。 本研究は,心理学的パラダイムとインテリジェンスを橋渡しし,大規模モデルにおける汎用インテリジェンスの出現を評価するための原則的枠組みを提供する。
  論文  参考訳（メタデータ） (2026-04-16T08:45:34Z)
• Beyond Words: Evaluating and Bridging Epistemic Divergence in User-Agent Interaction via Theory of Mind [8.740788873949471]
  大規模言語モデル(LLM)は急速に発展し、汎用タスクと専門タスクの両方に広く応用されている。 意図や指示が不正確に伝達されるとき、彼らは依然として、真のユーザニーズを理解し、応答するのに苦労しています。
  論文  参考訳（メタデータ） (2026-02-14T16:01:59Z)
• Investigating The Functional Roles of Attention Heads in Vision Language Models: Evidence for Reasoning Modules [76.21320451720764]
  複雑なマルチモーダル質問をステップバイステップのサブクエストに分解するデータセットであるCogVisionを紹介した。 探索に基づく手法を用いて,これらの機能に特化して機能的頭部として特徴付けるアテンションヘッドを同定する。 分析の結果、これらの機能ヘッドは普遍的に疎結合であり、機能間の数や分布が異なり、相互作用や階層的な組織を仲介することがわかった。
  論文  参考訳（メタデータ） (2025-12-11T05:42:53Z)
• The Unified Cognitive Consciousness Theory for Language Models: Anchoring Semantics, Thresholds of Activation, and Emergent Reasoning [2.0800882594868293]
  統一認知意識理論(UCCT)は、これらを巨大な無意識パターンリポジトリとみなしている。 UCCTはこの過程を、事前学習で学んだ統計的事前学習と文脈駆動のターゲットパターンの間のベイズ的競争として定式化している。 我々はこの理論を、しきい値交差、モダリティ、密度距離予測力の3つの原理で基礎づける。
  論文  参考訳（メタデータ） (2025-06-02T18:12:43Z)
• Scaling and Beyond: Advancing Spatial Reasoning in MLLMs Requires New Recipes [84.1059652774853]
  MLLM(Multimodal Large Language Models)は、一般的な視覚言語タスクにおいて印象的な性能を示す。 近年の研究では、空間的推論能力の限界が明らかにされている。 この空間的推論の欠如は、MLLMが物理的世界と効果的に相互作用する能力を著しく制限する。
  論文  参考訳（メタデータ） (2025-04-21T11:48:39Z)
• Brittle Minds, Fixable Activations: Understanding Belief Representations in Language Models [9.318796743761224]
  言語モデル(LM)を評価するための心の理論(ToM)タスクへの関心が高まりつつあるが、LMが自己や他者の精神状態を内部的にどのように表現しているかについては、ほとんど分かっていない。 本研究は、異なるスケールのモデル、トレーニングレギュラー、プロンプトを探索することで、LMにおける信念表現を初めて体系的に研究するものである。 我々の実験は、モデルサイズと微調整の両方が、他者の信念に対するLMの内部表現を大幅に改善する証拠を提供する。
  論文  参考訳（メタデータ） (2024-06-25T12:51:06Z)
• Calibrating Reasoning in Language Models with Internal Consistency [18.24350001344488]
  大規模言語モデル(LLM)は、様々な推論タスクにおいて印象的な機能を示している。 LLMは、しばしば明らかな誤りと矛盾のあるテキストを生成する。 本研究では,LLMにおける内部表現のレンズによる推論について検討する。
  論文  参考訳（メタデータ） (2024-05-29T02:44:12Z)
• FANToM: A Benchmark for Stress-testing Machine Theory of Mind in Interactions [94.61530480991627]
  現在、マインド評価の理論は、本質的に相互作用性に欠ける受動的物語を用いたテストモデルに焦点を当てている。 本稿では,情報非対称な会話文脈におけるToMのストレステストを目的とした新しいベンチマークであるFANToMを紹介する。
  論文  参考訳（メタデータ） (2023-10-24T00:24:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。