論文の概要: Situated, Dynamic, and Subjective: Envisioning the Design of Theory-of-Mind-Enabled Everyday AI with Industry Practitioners
- arxiv url: http://arxiv.org/abs/2602.11342v1
- Date: Wed, 11 Feb 2026 20:24:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-13 21:07:25.527133
- Title: Situated, Dynamic, and Subjective: Envisioning the Design of Theory-of-Mind-Enabled Everyday AI with Industry Practitioners
- Title（参考訳）: Situated, Dynamic, and Subjective: Envisioning the Design of the Theory-of-Mind-Enabled Everyday AI with Industry Practitioners
- Authors: Qiaosi Wang, Jini Kim, Avanita Sharma, Alicia, Lee, Jodi Forlizzi, Hong Shen,
- Abstract要約: 心の理論(Theory of Mind、ToM)は、伝統的に人間の社会的相互作用の基本であると考えられている。
我々は、米国拠点の26人のAI実践者と共同で13回のデザインセッションを行い、デザインレコメンデーションを構想し、反映し、蒸留した。
- 参考スコア（独自算出の注目度）: 9.733525139171627
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Theory of Mind (ToM) -- the ability to infer what others are thinking (e.g., intentions) from observable cues -- is traditionally considered fundamental to human social interactions. This has sparked growing efforts in building and benchmarking AI's ToM capability, yet little is known about how such capability could translate into the design and experience of everyday user-facing AI products and services. We conducted 13 co-design sessions with 26 U.S.-based AI practitioners to envision, reflect, and distill design recommendations for ToM-enabled everyday AI products and services that are both future-looking and grounded in the realities of AI design and development practices. Analysis revealed three interrelated design recommendations: ToM-enabled AI should 1) be situated in the social context that shape users' mental states, 2) be responsive to the dynamic nature of mental states, and 3) be attuned to subjective individual differences. We surface design tensions within each recommendation that reveal a broader gap between practitioners' envisioned futures of ToM-enabled AI and the realities of current AI design and development practices. These findings point toward the need to move beyond static, inference-driven approach to ToM and toward designing ToM as a pervasive capability that supports continuous human-AI interaction loops.
- Abstract（参考訳）: 心の理論 (ToM) - 観察可能な手がかりから他人が考えていること(例えば意図)を推測する能力 - は、伝統的に人間の社会的相互作用の基本であると考えられている。
このことがAIのToM機能の構築とベンチマークの取り組みのきっかけとなったが、その能力が日々のユーザ向けAI製品やサービスの設計とエクスペリエンスにどのように変換されるのかは、ほとんど分かっていない。
私たちは26人の米国拠点のAI実践者と共同で13回のデザインセッションを行い、ToM対応の日常的なAI製品やサービスの設計推奨を構想、反映、蒸留しました。
分析の結果、関連する3つの設計推奨事項が明らかになった。ToM対応AI
1) ユーザの精神状態を形成する社会的文脈に置かれる。
2)精神状態の動的な性質に反応し、
3)主観的個人差に順応する。
実践者が想定するToM対応AIの未来と、現在のAI設計と開発プラクティスの現実の間に、より広いギャップがあることを明らかにするため、各レコメンデーションの中にデザインの緊張が浮かび上がっています。
これらの調査結果は、ToMへの静的推論駆動アプローチを超えて、継続的ヒューマンとAIのインタラクションループをサポートする広範な機能として、ToMを設計する必要性を示唆している。
関連論文リスト
- AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Towards a Practical Ethics of Generative AI in Creative Production Processes [0.0]
本稿では,Double Diamondデザインモデルのような創造的生産プロセスにおける倫理的課題に対処するための枠組みを紹介する。
我々は、美徳倫理学、デオントロジー、実用主義、契約理論、ケア倫理学、実在論の6つの主要な倫理理論を描いている。
私たちは、AIに遊び的で探索的なアプローチを採用することで、デザイナはAI技術の潜在能力を責任を持って活用できる、と論じます。
論文 参考訳（メタデータ） (2024-11-18T11:07:26Z) - Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。
このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
論文 参考訳（メタデータ） (2024-06-13T16:03:25Z) - A call for embodied AI [1.7544885995294304]
我々は、人工知能の次の基本ステップとして、エンボディードAIを提案する。
Embodied AIの範囲を広げることで、認知アーキテクチャに基づく理論的枠組みを導入する。
このフレームワークはFristonのアクティブな推論原則と一致しており、EAI開発に対する包括的なアプローチを提供する。
論文 参考訳（メタデータ） (2024-02-06T09:11:20Z) - On the Emergence of Symmetrical Reality [51.21203247240322]
物理仮想アマルガメーションの様々な形態を包含した統一表現を提供する対称現実感フレームワークを導入する。
我々は、対称現実の潜在的な応用を示すAI駆動型アクティブアシストサービスの例を提案する。
論文 参考訳（メタデータ） (2024-01-26T16:09:39Z) - Grasping AI: experiential exercises for designers [8.95562850825636]
本稿では,AIシステムにおけるインタラクション・アベイランス,ユニークなリレーショナル可能性,より広範な社会的影響を探求し,考察する手法について検討する。
比喩や制定に関する演習は、トレーニングや学習、プライバシーと同意、自律性、エージェンシーをより具体的になる。
論文 参考訳（メタデータ） (2023-10-02T15:34:08Z) - Mutual Theory of Mind for Human-AI Communication [5.969858080492586]
新たな発展により、AIシステムは人間の明示的、暗黙的な行動や口頭で、社会的手がかりを知覚し、認識し、反応することができる。
これらのAIシステムは、現在、デートプラットフォームのマッチメーカーとして機能し、学生の学習をアシスタントとして支援し、仕事のパートナーとして生産性を向上させる。
我々は,人間のコミュニケーションにおけるToMの能力に触発されたMTOM(Mutual Theory of Mind)フレームワークを提案し,この新世代のHAI研究を導く。
論文 参考訳（メタデータ） (2022-10-07T22:46:04Z) - Responsible AI Implementation: A Human-centered Framework for
Accelerating the Innovation Process [0.8481798330936974]
本稿では,人工知能(AI)の実装に関する理論的枠組みを提案する。
提案されたフレームワークは、アジャイル共同創造プロセスのための相乗的ビジネス技術アプローチを強調している。
このフレームワークは,AIの人間中心の設計とアジャイル開発を通じて,信頼の確立と維持を重視している。
論文 参考訳（メタデータ） (2022-09-15T06:24:01Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。