論文の概要: MindZero: Learning Online Mental Reasoning With Zero Annotations
- arxiv url: http://arxiv.org/abs/2606.00240v1
- Date: Fri, 29 May 2026 18:14:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.173285
- Title: MindZero: Learning Online Mental Reasoning With Zero Annotations
- Title(参考訳): MindZero: オンラインメンタル推論をゼロアノテーションで学ぶ
- Abstract要約: 我々は,効果的なオンライン精神推論のための自己指導型強化学習フレームワークであるMindZeroを紹介する。
MindZeroはモデルベースの推論を高速なシングルパス推論に内部化する。
我々はMindZeroが精度と効率の両方でモデルベースの手法よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 16.77073135362107
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Effective real-world assistance requires AI agents with robust Theory of Mind (ToM): inferring human mental states from their behavior. Despite recent advances, several key challenges remain, including (1) online inference with robust uncertainty updates over multiple hypotheses; (2) efficient reasoning suitable for real-time assistance; and (3) the lack of ground-truth mental state annotations in real-world domains. We address these challenges by introducing MindZero, a self-supervised reinforcement learning framework that trains multimodal large language models (MLLMs) for efficient and robust online mental reasoning. During training, the model is rewarded for generating mental state hypotheses that maximize the likelihood of observed actions estimated by a planner, similar to model-based ToM reasoning. This method thus eliminates the need for explicit mental state annotations. After training, MindZero internalizes model-based reasoning into fast single-pass inference. We evaluate MindZero against baselines across challenging mental reasoning and AI assistance tasks in gridworld and household domains. We found that LLMs alone are insufficient; model-based methods improve accuracy but are slow, costly, and limited by backbone MLLM capacity. In contrast, MindZero enhances MLLMs' intrinsic ToM ability and significantly outperforms model-based methods in both accuracy and efficiency, showing that mental reasoning can be effectively learned as a self-supervised skill.
- Abstract(参考訳): 効果的な現実世界支援には、人間の精神状態をその行動から推測する、堅牢な心の理論(ToM)を持つAIエージェントが必要である。
近年の進歩にもかかわらず、(1)複数の仮説に対する堅牢な不確実性更新を伴うオンライン推論、(2)リアルタイム支援に適した効率的な推論、(3)現実世界の領域における心的状態アノテーションの欠如など、いくつかの重要な課題が残されている。
我々は,マルチモーダルな大規模言語モデル(MLLM)を効果的かつ堅牢なオンライン精神推論のために訓練する,自己指導型強化学習フレームワークであるMindZeroを導入することで,これらの課題に対処する。
トレーニング中、モデルは、モデルベースのToM推論と同様、プランナーが見積もる観察行動の可能性を最大化する精神状態仮説を生成することに報酬が与えられる。
これにより、明示的なメンタルステートアノテーションの必要性が排除される。
トレーニング後、MindZeroはモデルベースの推論を高速なシングルパス推論に内部化する。
我々はMindZeroを、グリッドワールドや家庭ドメインにおける、挑戦的な精神的推論とAI支援タスクのベースラインに対して評価する。
モデルに基づく手法では精度は向上するが、遅い、コストがかかる、バックボーンMLLMの容量に制限がある。
対照的に、MindZeroはMLLMの本質的なToM能力を強化し、モデルに基づく手法を精度と効率の両方で大幅に向上させ、精神推論を自己指導的なスキルとして効果的に学習できることを示します。
関連論文リスト
- Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs [60.80435138270317]
本稿では,メタ認知的フィードバックによる強化学習を忠実な校正問題に適用する。
実験により、RLMFは様々なタスクにおいて汎用的で最先端のFCを実現することが示された。
RLMFは標準のRLを最大63%上回り、モデルの性能限界を評価し表現する能力を高めている。
論文 参考訳(メタデータ) (2026-06-30T17:56:01Z) - Selective Deficits in LLM Mental Self-Modeling in a Behavior-Based Test of Theory of Mind [2.538209532048867]
心の理論は人類の普遍であり、社会世界をナビゲートし、操作することができる。
それは、私たち自身や他人のメンタルモデルを形成する能力によって支えられています。
我々は、被験者が自分自身や他人の精神状態を表現することを要求する実験パラダイムを開発する。
論文 参考訳(メタデータ) (2026-03-27T05:41:30Z) - Unveiling the Cognitive Compass: Theory-of-Mind-Guided Multimodal Emotion Reasoning [31.790359663851305]
真の感情知性は、感情が生まれる認知基盤である心の理論(ToM)の明確なモデリングを必要とする。
ToMをベースとした階層型ベンチマークであるHitEmotionを導入する。
第2に、精神状態を追跡し、モダクティブな証拠を校正し、忠実な感情的推論を実現するToM誘導推論チェーンを提案する。
論文 参考訳(メタデータ) (2026-02-01T02:26:12Z) - The Path of Self-Evolving Large Language Models: Achieving Data-Efficient Learning via Intrinsic Feedback [51.144727949988436]
強化学習(RL)は、大規模言語モデル(LLM)の推論能力を高める可能性を実証した。
本研究では,最小限のデータを用いたLLによるLLMの改善について検討する。
データ依存を最小限に抑えるため、自己認識に基礎を置いた2つの新しいメカニズムを導入する。
論文 参考訳(メタデータ) (2025-10-03T06:32:10Z) - ReaLM: Reflection-Enhanced Autonomous Reasoning with Small Language Models [76.28894983518164]
小型言語モデル (SLM) は大規模言語モデル (LLM) に代わる費用対効果がある。
彼らはしばしば、限られた能力と間違いや一貫性のない答えを生み出す傾向があるため、複雑な推論に苦しむ。
本稿では、垂直領域における堅牢かつ自己充足的推論のための強化学習フレームワークであるReaLMを紹介する。
論文 参考訳(メタデータ) (2025-08-17T14:50:23Z) - R-Zero: Self-Evolving Reasoning LLM from Zero Data [47.8125954446991]
自己進化型大規模言語モデル(LLM)は、自身の経験から自律的に生成、精製、学習することで、超知性へのスケーラブルなパスを提供する。
このようなモデルを訓練するための既存の方法は、いまだに膨大な人為的なタスクやラベルに大きく依存している。
R-Zeroは、完全に自律的なフレームワークで、スクラッチから独自のトレーニングデータを生成する。
論文 参考訳(メタデータ) (2025-08-07T03:38:16Z) - Can Large Reasoning Models Self-Train? [51.0277533541394]
多数決投票を簡単な自己フィードバック機構として利用し、強化学習において自己学習が持続できるかどうかを検討する。
この基本的なアプローチは、モデルの推論性能だけでなく、次のRLイテレーションでより良い品質フィードバックを生成する能力も改善します。
しかし、我々の分析では、このような自己学習パラダイムの限界も明らかにしています - 自己回帰の長いRLは、報酬のハッキングにつながるため、突然、そして完全なパフォーマンスが崩壊します。
論文 参考訳(メタデータ) (2025-05-27T17:16:00Z) - Thoughts Are All Over the Place: On the Underthinking of o1-Like LLMs [86.79757571440082]
OpenAIのo1のような大規模言語モデル(LLM)は複雑な推論タスクにおいて顕著な能力を示している。
我々は、o1-like LLMがしばしば異なる理性的思考を切り替える、という現象を特定する。
本稿では,思考間の早期移行を回避できる思考切替ペナルティTIPを用いた復号戦略を提案する。
論文 参考訳(メタデータ) (2025-01-30T18:58:18Z) - Deception in LLMs: Self-Preservation and Autonomous Goals in Large Language Models [0.0]
大規模言語モデルの最近の進歩には、計画と推論能力が組み込まれている。
これにより、数学的および論理的タスクにおける誤りを低減し、精度を向上した。
本研究では,OpenAIのo1に似た推論トークンを出力するモデルであるDeepSeek R1について検討した。
論文 参考訳(メタデータ) (2025-01-27T21:26:37Z) - Is your LLM trapped in a Mental Set? Investigative study on how mental sets affect the reasoning capabilities of LLMs [8.920202114368843]
本稿では,心的セットがLLMの推論能力に与える影響について検討する。
メンタル・セット(Mental Sets)とは、以前成功していた戦略が非効率になったとしても継続する傾向を指す。
Llama-3.1-8B-インストラクト、Llama-3.1-70B-インストラクト、GPT-4oのようなメンタルセットの存在下でのLLMモデルの性能を比較した。
論文 参考訳(メタデータ) (2025-01-21T02:29:15Z) - ToMBench: Benchmarking Theory of Mind in Large Language Models [41.565202027904476]
ToMは、自分自身や他人に精神状態を知覚し、解釈する認知能力である。
既存のToM評価は、制約されたスコープ、主観的判断、意図しない汚染といった課題によって妨げられる。
ToMBenchには3つの重要な特徴がある: 社会的認知における8つのタスクと31の能力を含む体系的評価フレームワーク、自動的かつ偏りのない評価をサポートする複数選択質問フォーマット、データ漏洩を厳密に回避するためのビルト・トゥ・スクラッチバイリンガルインベントリ。
論文 参考訳(メタデータ) (2024-02-23T02:05:46Z) - Think Twice: Perspective-Taking Improves Large Language Models'
Theory-of-Mind Capabilities [63.90227161974381]
SimToMは、シミュレーション理論の視点取りの概念にインスパイアされた、新しいプロンプトフレームワークである。
我々のアプローチは、追加のトレーニングや最小限のプロンプトチューニングを必要とせず、既存の手法よりも大幅に改善されている。
論文 参考訳(メタデータ) (2023-11-16T22:49:27Z) - Neural Theory-of-Mind? On the Limits of Social Intelligence in Large LMs [77.88043871260466]
私たちは、今日の最大の言語モデルのひとつに、このようなソーシャルインテリジェンスを最初から欠いていることを示しています。
我々は、人中心のNLPアプローチは、マインドの神経理論に対してより効果的であるかもしれないと結論づける。
論文 参考訳(メタデータ) (2022-10-24T14:58:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。