論文の概要: Towards properly implementing Theory of Mind in AI systems: An account of four misconceptions

• arxiv url: http://arxiv.org/abs/2503.16468v1
• Date: Fri, 28 Feb 2025 19:12:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-30 08:57:21.532609
• Title: Towards properly implementing Theory of Mind in AI systems: An account of four misconceptions
• Title（参考訳）: AIシステムにおける心の理論の適切な実装に向けて--4つの誤解から
• Authors: Ramira van der Meulen, Rineke Verbrugge, Max van Duijn,
• Abstract要約: 心の理論(ToM)に関する4つの一般的な誤解を識別する。 これらの誤解は、AIシステムを開発する際に考慮する必要がある。 誤解を議論した後、その誤解を克服するための暫定的なガイドラインを提供することで、各節を終わらせる。
• 参考スコア（独自算出の注目度）: 1.249418440326334
• License:
• Abstract: The search for effective collaboration between humans and computer systems is one of the biggest challenges in Artificial Intelligence. One of the more effective mechanisms that humans use to coordinate with one another is theory of mind (ToM). ToM can be described as the ability to `take someone else's perspective and make estimations of their beliefs, desires and intentions, in order to make sense of their behaviour and attitudes towards the world'. If leveraged properly, this skill can be very useful in Human-AI collaboration. This introduces the question how we implement ToM when building an AI system. Humans and AI Systems work quite differently, and ToM is a multifaceted concept, each facet rooted in different research traditions across the cognitive and developmental sciences. We observe that researchers from artificial intelligence and the computing sciences, ourselves included, often have difficulties finding their way in the ToM literature. In this paper, we identify four common misconceptions around ToM that we believe should be taken into account when developing an AI system. We have hyperbolised these misconceptions for the sake of the argument, but add nuance in their discussion. The misconceptions we discuss are: (1) "Humans Use a ToM Module, So AI Systems Should As Well". (2) "Every Social Interaction Requires (Advanced) ToM". (3) "All ToM is the Same". (4) "Current Systems Already Have ToM". After discussing the misconception, we end each section by providing tentative guidelines on how the misconception can be overcome.
• Abstract（参考訳）: 人間とコンピュータシステムの効果的なコラボレーションを探すことは、人工知能の最大の課題の1つだ。 人間が互いに協調するために使うより効果的なメカニズムの1つは心の理論(ToM)である。 ToMは「他人の視点を捉え、その信念、願望、意図を推定し、その行動や世界に対する態度を理解する能力」と表現できる。 適切に活用すれば、このスキルは人間とAIのコラボレーションに非常に役立ちます。 これにより、AIシステムを構築する際にToMをどのように実装するかという疑問が提起される。 人間とAIシステムは、まったく異なる働きをする。ToMは多面体の概念であり、それぞれが認知科学と発達科学のさまざまな研究伝統に根ざしている。 人工知能とコンピュータ科学の研究者たちは、ToMの文献でしばしばその方法を見つけるのに苦労している。 本稿では,AIシステムを開発する際に考慮すべき,ToMに関する4つの一般的な誤解を特定する。 私たちは議論のためにこれらの誤解を廃止しましたが、彼らの議論にニュアンスを加えました。 1) "Humans Use a ToM Module, So AI Systems Should As Well"。 2)「すべての社会的相互作用が要求される(高度な)ToM」。 原題は「All ToM is the Same」。 (4)「Current Systems Already Have ToM」。 誤解を議論した後、その誤解を克服するための暫定的なガイドラインを提供することで、各節を終わらせる。

関連論文リスト

• Aligning Generalisation Between Humans and Machines [74.120848518198]
  近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。 AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Making AI Intelligible: Philosophical Foundations [0.0]
  「AI知能の育成」は、意味のメタ物理に関する哲学的な研究がこれらの疑問に答えるのに役立つことを示している。 著者: 本書で取り上げられた質問は理論的に興味深いだけでなく、答えは実際的な意味を迫っている。
  論文  参考訳（メタデータ） (2024-06-12T12:25:04Z)
• Explainable Human-AI Interaction: A Planning Perspective [32.477369282996385]
  AIシステムは、ループ内の人間に説明可能である必要がある。 我々は、AIエージェントがメンタルモデルを使用して人間の期待に沿うか、あるいは説明的コミュニケーションを通じて期待を変更する方法について論じる。 本書の主な焦点は、協調的なシナリオであるが、同じ精神モデルが難読化や偽造にどのように使用できるかを指摘したい。
  論文  参考訳（メタデータ） (2024-05-19T22:22:21Z)
• Silico-centric Theory of Mind [0.2209921757303168]
  心の理論(りょうりょう、英: Theory of Mind、ToM)とは、信念、欲望、意図、知識などの精神状態が自分自身や他者へ帰属する能力のこと。 複数の独立したAIエージェントを持つ環境におけるToMについて検討する。
  論文  参考訳（メタデータ） (2024-03-14T11:22:51Z)
• Spontaneous Theory of Mind for Artificial Intelligence [2.7624021966289605]
  我々は、AIマインド理論(ToM)の研究・開発における原則的アプローチを論じる。 我々は、強い、あるいは一般のAISが、テキストに反応し、自発的に社会的推論を行うよう提案する。
  論文  参考訳（メタデータ） (2024-02-16T22:41:13Z)
• AI for Mathematics: A Cognitive Science Perspective [86.02346372284292]
  数学は人間によって開発された最も強力な概念体系の1つである。 AIの急速な進歩、特に大規模言語モデル(LLM)の進歩による推進により、そのようなシステム構築に対する新たな、広範な関心が生まれている。
  論文  参考訳（メタデータ） (2023-10-19T02:00:31Z)
• A Review on Objective-Driven Artificial Intelligence [0.0]
  人間は、コミュニケーションにおける文脈、ニュアンス、微妙な手がかりを理解する能力を持っている。 人間は、世界に関する論理的推論と予測を行うのに役立つ、常識的な知識の広大なリポジトリを持っています。 機械はこの本質的な理解に欠けており、人間が自明に感じる状況を理解するのに苦労することが多い。
  論文  参考訳（メタデータ） (2023-08-20T02:07:42Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• The MineRL BASALT Competition on Learning from Human Feedback [58.17897225617566]
  MineRL BASALTコンペティションは、この重要な種類の技術の研究を促進することを目的としている。 Minecraftでは、ハードコードされた報酬関数を書くのが難しいと期待する4つのタスクのスイートを設計しています。 これら4つのタスクのそれぞれについて、人間のデモのデータセットを提供するとともに、模擬学習ベースラインを提供する。
  論文  参考訳（メタデータ） (2021-07-05T12:18:17Z)
• Dark, Beyond Deep: A Paradigm Shift to Cognitive AI with Humanlike Common Sense [142.53911271465344]
  我々は、次世代のAIは、新しいタスクを解決するために、人間のような「暗黒」の常識を取り入れなければならないと論じている。 我々は、人間のような常識を持つ認知AIの5つの中核領域として、機能、物理学、意図、因果性、実用性(FPICU)を識別する。
  論文  参考訳（メタデータ） (2020-04-20T04:07:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。