論文の概要: Revisiting Rogers' Paradox in the Context of Human-AI Interaction

• arxiv url: http://arxiv.org/abs/2501.10476v1
• Date: Thu, 16 Jan 2025 17:09:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:24:57.799289
• Title: Revisiting Rogers' Paradox in the Context of Human-AI Interaction
• Title（参考訳）: 人間とAIの相互作用の文脈におけるロジャーズのパラドックスの再考
• Authors: Katherine M. Collins, Umang Bhatt, Ilia Sucholutsky,
• Abstract要約: 我々は、人間とAIの相互作用の文脈でロジャースのパラドックスを再考し、人間とAIシステムが一緒に学習する単純化されたネットワークを探索する。 我々は、単一の人間とAIのインタラクションに関わる様々な利害関係者が行うことができる戦略を考えます。
• 参考スコア（独自算出の注目度）: 18.026810528463084
• License:
• Abstract: Humans learn about the world, and how to act in the world, in many ways: from individually conducting experiments to observing and reproducing others' behavior. Different learning strategies come with different costs and likelihoods of successfully learning more about the world. The choice that any one individual makes of how to learn can have an impact on the collective understanding of a whole population if people learn from each other. Alan Rogers developed simulations of a population of agents to study these network phenomena where agents could individually or socially learn amidst a dynamic, uncertain world and uncovered a confusing result: the availability of cheap social learning yielded no benefit to population fitness over individual learning. This paradox spawned decades of work trying to understand and uncover factors that foster the relative benefit of social learning that centuries of human behavior suggest exists. What happens in such network models now that humans can socially learn from AI systems that are themselves socially learning from us? We revisit Rogers' Paradox in the context of human-AI interaction to probe a simplified network of humans and AI systems learning together about an uncertain world. We propose and examine the impact of several learning strategies on the quality of the equilibrium of a society's 'collective world model'. We consider strategies that can be undertaken by various stakeholders involved in a single human-AI interaction: human, AI model builder, and society or regulators around the interaction. We then consider possible negative feedback loops that may arise from humans learning socially from AI: that learning from the AI may impact our own ability to learn about the world. We close with open directions into studying networks of human and AI systems that can be explored in enriched versions of our simulation framework.
• Abstract（参考訳）: 人間は、実験を個々に行うことから、他人の行動を観察し再現することまで、世界について学ぶ。 異なる学習戦略には、さまざまなコストと、世界についてより深く学ぶことの可能性が伴います。 個人が学習する方法を選択すれば、人々が互いに学び合うと、集団全体の理解に影響を及ぼす可能性がある。 アラン・ロジャース(Alan Rogers)は、ダイナミックで不確実な世界の中でエージェントが個々に、あるいは社会的に学習できるネットワーク現象を研究するために、エージェントの集団シミュレーションを開発した。 このパラドックスは、何世紀にもわたって人間の行動が示唆してきた社会学習の相対的な利益を促進する要因を理解し、解明しようとする何十年もの努力を生み出した。 人間は人間から社会的に学習するAIシステムから社会的に学習できるようなネットワークモデルに何が起こるのか? 我々は、人間とAIの相互作用の文脈でロジャースのパラドックスを再考し、不確実な世界について一緒に学ぶ人間とAIシステムの単純化されたネットワークを探索する。 本稿では,社会の「協調的世界モデル」の均衡の質に及ぼすいくつかの学習戦略の影響を考察する。 我々は、人間とAIのインタラクションに関わる様々な利害関係者(人間、AIモデルビルダー、そしてインタラクションに関わる社会または規制)が行うことができる戦略について検討する。 次に、AIから社会的に学習する人間が生み出す可能性のあるネガティブなフィードバックループについて考察する。 私たちは、シミュレーションフレームワークの強化バージョンで探索可能な、人間とAIシステムのネットワークの研究へのオープンな方向を近付けています。

関連論文リスト

• Artificial Theory of Mind and Self-Guided Social Organisation [1.8434042562191815]
  人工知能(AI)が直面する課題の1つは、エージェントの集合が、単一のエージェントが到達できない目標を達成するために、どのように行動を調整するかである。 我々は、ニューラルネットワークにおける単一ニューロンの複雑さによる最近の研究に基づいて、一般的な設定での集合的知能について論じる。 社会構造が神経生理学、心理学、言語にどのように影響されているかを示す。
  論文  参考訳（メタデータ） (2024-11-14T04:06:26Z)
• Shifting the Human-AI Relationship: Toward a Dynamic Relational Learning-Partner Model [0.0]
  我々は、人間との対話から学ぶ学生に似た、AIを学習パートナーとして見ることへのシフトを提唱する。 我々は「第三の心」が人間とAIの協力関係を通して生まれることを示唆する。
  論文  参考訳（メタデータ） (2024-10-07T19:19:39Z)
• Social Learning through Interactions with Other Agents: A Survey [10.080296323732863]
  社会学習は人間の知性の発展に重要な役割を果たしている。 近年の自然言語処理(NLP)により,新たな社会学習が実現されている。 我々は,人間の模倣を反映した行動的クローニングと次点予測について考察する。
  論文  参考訳（メタデータ） (2024-07-31T16:06:34Z)
• Explainable Human-AI Interaction: A Planning Perspective [32.477369282996385]
  AIシステムは、ループ内の人間に説明可能である必要がある。 我々は、AIエージェントがメンタルモデルを使用して人間の期待に沿うか、あるいは説明的コミュニケーションを通じて期待を変更する方法について論じる。 本書の主な焦点は、協調的なシナリオであるが、同じ精神モデルが難読化や偽造にどのように使用できるかを指摘したい。
  論文  参考訳（メタデータ） (2024-05-19T22:22:21Z)
• AI-enhanced Collective Intelligence [2.5063318977668465]
  人間とAIは、人間またはAIの集団的知性を単独で超越できる補完的能力を持っている。 このレビューでは、複雑なネットワーク科学からの視点を取り入れ、人間-AI集団知能の多層表現を概念化する。 エージェントの多様性と相互作用がシステムの集合知にどのように影響するかを探求し、AIによって強化された集合知の実例を分析する。
  論文  参考訳（メタデータ） (2024-03-15T16:11:15Z)
• Human-AI Coevolution [48.74579595505374]
  Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。 本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
  論文  参考訳（メタデータ） (2023-06-23T18:10:54Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Learning to Influence Human Behavior with Offline Reinforcement Learning [70.7884839812069]
  人間の準最適性を捉える必要があるような環境での影響に焦点を当てる。 人間によるオンライン実験は安全ではない可能性があり、環境の高忠実度シミュレータを作成することは現実的ではないことが多い。 オフライン強化学習は、観察された人間・人間の行動の要素を拡張し、組み合わせることで、人間に効果的に影響を及ぼすことができることを示す。
  論文  参考訳（メタデータ） (2023-03-03T23:41:55Z)
• World Models and Predictive Coding for Cognitive and Developmental Robotics: Frontiers and Challenges [51.92834011423463]
  我々は世界モデルと予測符号化の2つの概念に焦点を当てる。 神経科学において、予測符号化は、脳がその入力を継続的に予測し、その環境における自身のダイナミクスと制御行動のモデル化に適応するように提案する。
  論文  参考訳（メタデータ） (2023-01-14T06:38:14Z)
• Human Decision Makings on Curriculum Reinforcement Learning with Difficulty Adjustment [52.07473934146584]
  我々は,カリキュラム強化学習結果を,人的意思決定プロセスから学ぶことで,難しすぎず,難しすぎるような望ましいパフォーマンスレベルに導く。 本システムは非常に並列化可能であり,大規模強化学習アプリケーションの訓練が可能となる。 強化学習性能は、人間の所望の難易度と同期してうまく調整できることが示される。
  論文  参考訳（メタデータ） (2022-08-04T23:53:51Z)
• The Short Anthropological Guide to the Study of Ethical AI [91.3755431537592]
  ショートガイドは、AI倫理と社会科学の紹介と、AIの開発に関する人類学的視点の両方を兼ね備えている。 AIシステムの社会的影響と、これらのシステムがいかにして我々の世界がどのように機能するかを再考するかについての洞察を、この分野に馴染みのない人たちに提供することを目指している。
  論文  参考訳（メタデータ） (2020-10-07T12:25:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。