論文の概要: Human-Modeling in Sequential Decision-Making: An Analysis through the Lens of Human-Aware AI

• arxiv url: http://arxiv.org/abs/2405.07773v2
• Date: Mon, 15 Jul 2024 15:01:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-17 00:46:04.646139
• Title: Human-Modeling in Sequential Decision-Making: An Analysis through the Lens of Human-Aware AI
• Title（参考訳）: シーケンシャル意思決定におけるヒューマンモデリング--ヒューマン・アウェア・AIのレンズを通しての分析
• Authors: Silvia Tulli, Stylianos Loukas Vasileiou, Sarath Sreedharan,
• Abstract要約: 私たちは、人間を意識したAIシステムを構成するものの説明を提供しようとしています。 人間を意識したAIはデザイン指向のパラダイムであり、人間と対話するかもしれないモデリングの必要性に焦点を当てている。
• 参考スコア（独自算出の注目度）: 20.21053807133341
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: "Human-aware" has become a popular keyword used to describe a particular class of AI systems that are designed to work and interact with humans. While there exists a surprising level of consistency among the works that use the label human-aware, the term itself mostly remains poorly understood. In this work, we retroactively try to provide an account of what constitutes a human-aware AI system. We see that human-aware AI is a design oriented paradigm, one that focuses on the need for modeling the humans it may interact with. Additionally, we see that this paradigm offers us intuitive dimensions to understand and categorize the kinds of interactions these systems might have with humans. We show the pedagogical value of these dimensions by using them as a tool to understand and review the current landscape of work related to human-AI systems that purport some form of human modeling. To fit the scope of a workshop paper, we specifically narrowed our review to papers that deal with sequential decision-making and were published in a major AI conference in the last three years. Our analysis helps identify the space of potential research problems that are currently being overlooked. We perform additional analysis on the degree to which these works make explicit reference to results from social science and whether they actually perform user-studies to validate their systems. We also provide an accounting of the various AI methods used by these works.
• Abstract（参考訳）: ヒューマン・アウェア」は、人間と働き、対話するように設計された、特定の種類のAIシステムを記述するために使われる一般的なキーワードとなっている。 人間の認識というラベルを使う作品には驚くほどの一貫性があるが、その用語自体はほとんど理解されていない。 本研究では,人間を意識したAIシステムを構成するものについて,遡及的に考察する。 人間を意識したAIはデザイン指向のパラダイムであり、人間と対話するかもしれないモデリングの必要性に焦点を当てている。 さらに、このパラダイムは、これらのシステムが人間と持つ可能性のあるインタラクションの種類を理解し、分類するための直感的な次元を提供する。 本研究では,これらの次元の教育的価値を,人間-AIシステムに関連する作業の現在の状況を理解し,レビューするためのツールとして利用することで示す。 ワークショップの論文の範囲に合わせて、我々はレビューをシーケンシャルな意思決定を扱う論文に絞り込み、過去3年間に大規模なAIカンファレンスで発表しました。 私たちの分析は、現在見過ごされている潜在的な研究問題の空間を特定するのに役立ちます。 我々は,これらの研究が社会科学の結果に明示的に言及する程度と,実際にシステムを検証するためにユーザスタディを実施するかどうかについて,さらなる分析を行う。 また、これらの研究で使用されている様々なAI手法の会計情報も提供する。

関連論文リスト

• Aligning Generalisation Between Humans and Machines [74.120848518198]
  近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。 AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Towards Bidirectional Human-AI Alignment: A Systematic Review for Clarifications, Framework, and Future Directions [101.67121669727354]
  近年のAIの進歩は、AIシステムを意図された目標、倫理的原則、個人とグループの価値に向けて導くことの重要性を強調している。 人間のAIアライメントの明確な定義とスコープの欠如は、このアライメントを達成するための研究領域間の共同作業を妨げる、大きな障害となる。 我々は、2019年から2024年1月までに400以上の論文を体系的にレビューし、HCI(Human-Computer Interaction)、自然言語処理(NLP)、機械学習(ML)といった複数の分野にまたがって紹介する。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Explainable Human-AI Interaction: A Planning Perspective [32.477369282996385]
  AIシステムは、ループ内の人間に説明可能である必要がある。 我々は、AIエージェントがメンタルモデルを使用して人間の期待に沿うか、あるいは説明的コミュニケーションを通じて期待を変更する方法について論じる。 本書の主な焦点は、協調的なシナリオであるが、同じ精神モデルが難読化や偽造にどのように使用できるかを指摘したい。
  論文  参考訳（メタデータ） (2024-05-19T22:22:21Z)
• Modelling Human Values for AI Reasoning [2.320648715016106]
  我々は,その明示的な計算表現のために,人間の値の形式モデルを詳述する。 我々は、このモデルが、価値に対するAIベースの推論の基礎となる装置をいかに提供できるかを示す。 我々は、AIにおける人間の価値を統合し、学際的に研究するためのロードマップを提案する。
  論文  参考訳（メタデータ） (2024-02-09T12:08:49Z)
• AI for Mathematics: A Cognitive Science Perspective [86.02346372284292]
  数学は人間によって開発された最も強力な概念体系の1つである。 AIの急速な進歩、特に大規模言語モデル(LLM)の進歩による推進により、そのようなシステム構築に対する新たな、広範な関心が生まれている。
  論文  参考訳（メタデータ） (2023-10-19T02:00:31Z)
• Capturing Humans' Mental Models of AI: An Item Response Theory Approach [12.129622383429597]
  我々は、AIエージェントのパフォーマンスが、他の人間のパフォーマンスよりも平均的にはるかに良いと期待していることを示します。 以上の結果から,AIエージェントの性能は他の人間よりも平均的に有意に向上することが示唆された。
  論文  参考訳（メタデータ） (2023-05-15T23:17:26Z)
• Machine Psychology [54.287802134327485]
  我々は、心理学にインスパイアされた行動実験において、研究のための実りある方向が、大きな言語モデルに係わっていると論じる。 本稿では,本手法が表に示す理論的視点,実験パラダイム,計算解析技術について述べる。 これは、パフォーマンスベンチマークを超えた、生成人工知能(AI)のための「機械心理学」の道を開くものだ。
  論文  参考訳（メタデータ） (2023-03-24T13:24:41Z)
• A Mental-Model Centric Landscape of Human-AI Symbiosis [31.14516396625931]
  我々は、GHAI(Generalized Human-Aware Interaction)と呼ばれる、ヒューマン・アウェア・AIインタラクション・スキームの極めて一般的なバージョンを導入する。 この新しいフレームワークによって、人間とAIのインタラクションの空間で達成されたさまざまな作業が捕捉され、これらの作業によって支えられる基本的な行動パターンが特定できるかどうかを確認します。
  論文  参考訳（メタデータ） (2022-02-18T22:08:08Z)
• On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
  人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。 本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。 HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
  論文  参考訳（メタデータ） (2021-12-29T09:58:59Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)
• Human Evaluation of Interpretability: The Case of AI-Generated Music Knowledge [19.508678969335882]
  我々は、芸術と人文科学におけるAIが発見する知識/ルールを評価することに注力する。 本稿では,洗練された記号的/数値的対象として表現されたAI生成音楽理論/ルールの人間生成言語解釈を収集し,評価する実験手法を提案する。
  論文  参考訳（メタデータ） (2020-04-15T06:03:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。