論文の概要: (Ir)rationality in AI: State of the Art, Research Challenges and Open Questions

• arxiv url: http://arxiv.org/abs/2311.17165v1
• Date: Tue, 28 Nov 2023 19:01:09 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-30 23:44:53.005673
• Title: (Ir)rationality in AI: State of the Art, Research Challenges and Open Questions
• Title（参考訳）: (Ir)AIの合理性:最先端、研究課題、オープンな質問
• Authors: Olivia Macmillan-Scott and Mirco Musolesi
• Abstract要約: 合理性の概念は人工知能の分野の中心である。 有理エージェントを構成するものの統一的な定義は存在しない。 特定のシナリオで最適であることを示す不合理な行動を考える。
• 参考スコア（独自算出の注目度）: 2.9008806248012333
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The concept of rationality is central to the field of artificial intelligence. Whether we are seeking to simulate human reasoning, or the goal is to achieve bounded optimality, we generally seek to make artificial agents as rational as possible. Despite the centrality of the concept within AI, there is no unified definition of what constitutes a rational agent. This article provides a survey of rationality and irrationality in artificial intelligence, and sets out the open questions in this area. The understanding of rationality in other fields has influenced its conception within artificial intelligence, in particular work in economics, philosophy and psychology. Focusing on the behaviour of artificial agents, we consider irrational behaviours that can prove to be optimal in certain scenarios. Some methods have been developed to deal with irrational agents, both in terms of identification and interaction, however work in this area remains limited. Methods that have up to now been developed for other purposes, namely adversarial scenarios, may be adapted to suit interactions with artificial agents. We further discuss the interplay between human and artificial agents, and the role that rationality plays within this interaction; many questions remain in this area, relating to potentially irrational behaviour of both humans and artificial agents.
• Abstract（参考訳）: 合理性の概念は人工知能の分野の中心である。 人間の推論をシミュレートしたいのか、それとも境界のある最適性を達成することを目指すのかに関わらず、一般的には人工エージェントを可能な限り合理的なものにしたいと考えています。 AIにおける概念の中心性にもかかわらず、合理的なエージェントを構成するものの統一された定義は存在しない。 この記事では、人工知能における合理性と不合理性に関する調査を行い、この分野におけるオープンな疑問を取り上げます。 他の分野における合理性の理解は、人工知能、特に経済学、哲学、心理学におけるその概念に影響を与えてきた。 人工エージェントの挙動に着目し,特定のシナリオにおいて最適であることを示す不合理行動を考える。 識別と相互作用の両面で不合理なエージェントを扱うためにいくつかの方法が開発されているが、この分野での作業は限られている。 現在までに開発されている手法、すなわち敵対的シナリオは、人工エージェントとの相互作用に適合するように適応することができる。 我々はさらに,人間と人工エージェントの相互作用と,この相互作用において合理性が果たす役割について論じる。

関連論文リスト

• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• On the Emergence of Symmetrical Reality [51.21203247240322]
  物理仮想アマルガメーションの様々な形態を包含した統一表現を提供する対称現実感フレームワークを導入する。 我々は、対称現実の潜在的な応用を示すAI駆動型アクティブアシストサービスの例を提案する。
  論文  参考訳（メタデータ） (2024-01-26T16:09:39Z)
• On Computational Mechanisms for Shared Intentionality, and Speculation on Rationality and Consciousness [0.0]
  人類の特異な特質は、新しい行動、協調行動、チームワークを行う能力である。 これは、個人の頭脳間で目標、計画、アイデアを伝達し、共通の意図を生み出すことを要求する。 先行言語型計算エージェント間の共有意図性を実現するための基本的なメカニズムの必要な特性を導出する。
  論文  参考訳（メタデータ） (2023-06-03T21:31:38Z)
• Decision-Making Among Bounded Rational Agents [5.24482648010213]
  本稿では,情報理論の観点からの有界合理性の概念をゲーム理論の枠組みに導入する。 これにより、ロボットは他のエージェントの準最適動作を推論し、計算上の制約の下で行動することができる。 その結果,ロボットが他のエージェントの理性行動の異なるレベルを推論し,その計算制約の下で合理的な戦略を計算できることが実証された。
  論文  参考訳（メタデータ） (2022-10-17T00:29:24Z)
• A Cognitive Framework for Delegation Between Error-Prone AI and Human Agents [0.0]
  本研究では,認知にインスパイアされた行動モデルを用いて,人間エージェントとAIエージェントの両方の行動を予測する。 予測された振る舞いは、仲介者の使用を通じて人間とAIエージェントの制御を委譲するために使用される。
  論文  参考訳（メタデータ） (2022-04-06T15:15:21Z)
• On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
  人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。 本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。 HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
  論文  参考訳（メタデータ） (2021-12-29T09:58:59Z)
• Automated Machine Learning, Bounded Rationality, and Rational Metareasoning [62.997667081978825]
  有界合理性の観点から、自動機械学習(AutoML)と関連する問題を考察する。 リソース境界の下でアクションを取るには、エージェントがこれらのリソースを最適な方法で利用する方法を反映する必要がある。
  論文  参考訳（メタデータ） (2021-09-10T09:10:20Z)
• AGENT: A Benchmark for Core Psychological Reasoning [60.35621718321559]
  直観心理学は、観察可能な行動を駆動する隠された精神変数を推論する能力です。 他のエージェントを推論する機械エージェントに対する近年の関心にもかかわらず、そのようなエージェントが人間の推論を駆動するコア心理学の原則を学ぶか保持するかは明らかではない。 本稿では,プロシージャが生成する3dアニメーション,エージェントを4つのシナリオで構成したベンチマークを提案する。
  論文  参考訳（メタデータ） (2021-02-24T14:58:23Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)
• Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
  この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
  論文  参考訳（メタデータ） (2020-05-12T03:58:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。