論文の概要: What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind
- arxiv url: http://arxiv.org/abs/2605.12745v1
- Date: Tue, 12 May 2026 20:49:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.685726
- Title: What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind
- Title（参考訳）: 私がどう思うか? 2次心論を用いた人間信念の考察
- Abstract要約: I-POMDPを2階の心の理論(ToM-2)の枠組みとして使用することにより、エージェントに関する誤った信念の進化をモデル化する能力を持つエージェントを提供する。
エージェントは、対話中にCBHがいつプレイされているかを検出し、それらを考慮に入れたフィードバックを適応的に生成する。
In-person user studyでは、ToM-2学習者が教師のCBHの効果を考慮し、教師の行動の情報性を大幅に向上させる方法を示している。
- 参考スコア（独自算出の注目度）: 2.8899723681039475
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discrepancies between an agent's actual knowledge and what a person thinks the agent knows can hinder interactions. If an agent could detect such discrepancies, it could provide feedback to account for them and improve current and future interactions. Using the I-POMDP as a framework for a second-order Theory of Mind (ToM-2), this work endows an agent with the ability to model the evolution of a person's erroneous beliefs about an agent and the cognitive biases and heuristics (CBH) from which they arise. In doing so, the agent can detect when CBH might be at play during an interaction and adaptively generate feedback that accounts for them. An in-person user study shows how a ToM-2 learner can account for the effects of a teacher's CBH to significantly improve the informativeness of teacher actions, and subjective results suggest people find the ToM-2 learner's feedback more useful.
- Abstract（参考訳）: エージェントの実際の知識とエージェントが知っていると考えるものとの違いは、相互作用を妨げる。
もしエージェントがそのような不一致を検知できれば、それらを考慮し、現在と将来の相互作用を改善するフィードバックを提供することができる。
I-POMDPを第2次心の理論(ToM-2)の枠組みとして使用することにより、エージェントに関する誤った信念とそれらが生み出す認知バイアスとヒューリスティックス(CBH)の進化をモデル化する能力を持つエージェントを提供する。
エージェントは、対話中にCBHがいつプレイされているかを検出し、それらを考慮に入れたフィードバックを適応的に生成する。
In-person user study is shown how a ToM-2 learner can account of the effects of a teacher's CBH to significantly improve the informationativeness of teacher actions and subjective results suggest people find the ToM-2 learner's feedback more useful。
関連論文リスト
- The Impossibility of Eliciting Latent Knowledge [13.840545605215697]
AIシステムにとって望ましい特性は、世界に対する信念を正確に報告することだ。
トレーニング中に正しいフィードバックを提供することで、開発者はエージェントに正直に質問に答えるインセンティブを与えることができる。
エージェントの振る舞いにのみ依存するフィードバックベースのトレーニング戦略はありません。
論文 参考訳（メタデータ） (2026-06-10T16:11:13Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Can you see how I learn? Human observers' inferences about Reinforcement Learning agents' learning processes [1.6874375111244329]
強化学習(RL)エージェントは、人間の観察者によって直感的に解釈できない学習行動を示すことが多い。
この研究は、エージェントの学習プロセスに対する人間の観察者の理解の要因に関するデータ駆動的な理解を提供する。
論文 参考訳（メタデータ） (2025-06-16T15:04:27Z) - Don't lie to your friends: Learning what you know from collaborative self-play [63.0121884175594]
我々は、AIエージェントが知っていることを教えるために、根本的に新しいアプローチを提案する。
我々は,集団が正解に到達して報奨を受けるマルチエージェントコラボレーションを構築した。
望ましいメタ知識は、相互作用の構造に組み込まれたインセンティブから生まれる。
論文 参考訳（メタデータ） (2025-03-18T17:53:20Z) - Large Language Models as Theory of Mind Aware Generative Agents with Counterfactual Reflection [31.38516078163367]
ToM-agentは、オープンドメインの会話相互作用において、LLMベースの生成エージェントがToMをシミュレートできるように設計されている。
ToM-Adntは、精神状態に対するエージェントの認識のエミュレーションを促進するため、精神状態からの信頼を解き放つ。
以上の結果から,ToM-agentは,意味的情緒的支援や意思決定に限らず,相手の行動の根底にある要因を把握できることが示唆された。
論文 参考訳（メタデータ） (2025-01-26T00:32:38Z) - Position: Theory of Mind Benchmarks are Broken for Large Language Models [41.832853832803046]
我々の論文は、大きな言語モデルが新しいパートナーにどのように適応するかを直接テストできないため、マインドベンチマークの大多数が壊れていると論じている。
この問題は、心の理論が人間の心の理論をテストする方法から圧倒的にインスピレーションを受けているという事実に起因している。
本稿では,精神機能理論の概念を紹介し,その行動に対する合理的な反応に従って,文脈内でエージェントに適応する能力について紹介する。
論文 参考訳（メタデータ） (2024-12-27T16:30:12Z) - Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。
この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。
実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
論文 参考訳（メタデータ） (2024-11-07T21:37:51Z) - Information Design in Multi-Agent Reinforcement Learning [61.140924904755266]
強化学習(Reinforcement Learning、RL)は、人間の幼児や動物が環境から学ぶ方法にインスパイアされている。
計算経済学の研究は、他者に直接影響を与える2つの方法を蒸留する: 有形物(機械設計)の提供と情報(情報設計)の提供である。
論文 参考訳（メタデータ） (2023-05-08T07:52:15Z) - My Actions Speak Louder Than Your Words: When User Behavior Predicts
Their Beliefs about Agents' Attributes [5.893351309010412]
行動科学は、人々が時々無関係な情報を使用することを示唆している。
この現象の例としては、人間とエージェントの相互作用においてより良い結果を経験したユーザーが、そのエージェントをより優れた能力を持ち、好意的であり、また、自身の行動の結果である、より悪い結果を経験したユーザーよりも、ポストホックアセスメントにおいてより整合性を示すと体系的に評価した。
分析の結果,モデルの拡張の必要性が示唆され,そのような偏見を考慮し,エージェントがこのようなバイアスを検知し,積極的に行動し,ユーザの類似した偏見を補正するメカニズムも説明できる。
論文 参考訳（メタデータ） (2023-01-21T21:26:32Z) - Define, Evaluate, and Improve Task-Oriented Cognitive Capabilities for
Instruction Generation Models [5.975913042883176]
最近の研究は、人間のために設計された心理学的テストを通して言語モデルの認知能力を研究する。
我々は、言語モデルがタスクを実行するために利用する人間のような認知能力であるタスク指向認知能力を定式化する。
論文 参考訳（メタデータ） (2022-12-21T04:43:19Z) - Learning Theory of Mind via Dynamic Traits Attribution [59.9781556714202]
本稿では,過去のトラジェクトリからアクターの潜在特性ベクトルを生成するニューラルToMアーキテクチャを提案する。
この特性ベクトルは、予測ニューラルネットワークの高速重み付けスキームを介して予測機構を乗法的に変調する。
実験により,高速重量はエージェントの特性をモデル化し,マインドリーディング能力を向上させるために優れた誘導バイアスを与えることが示された。
論文 参考訳（メタデータ） (2022-04-17T11:21:18Z) - An Algorithmic Theory of Metacognition in Minds and Machines [1.52292571922932]
強化学習におけるトレードオフをよく理解したメタ認知のアルゴリズム理論を提案する。
深層MACを実装することにより,機械におけるメタ認知の作り方を示す。
論文 参考訳（メタデータ） (2021-11-05T22:31:09Z) - PEBBLE: Feedback-Efficient Interactive Reinforcement Learning via
Relabeling Experience and Unsupervised Pre-training [94.87393610927812]
我々は、フィードバックと非政治学習の両方の長所を生かした、非政治的、インタラクティブな強化学習アルゴリズムを提案する。
提案手法は,従来ヒト・イン・ザ・ループ法で検討されていたよりも複雑度の高いタスクを学習可能であることを実証する。
論文 参考訳（メタデータ） (2021-06-09T14:10:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。