Fugu-MT 論文翻訳(概要): On the Ethical Considerations of Generative Agents

論文の概要: On the Ethical Considerations of Generative Agents

arxiv url: http://arxiv.org/abs/2411.19211v1
Date: Thu, 28 Nov 2024 15:31:49 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-02 15:22:37.113715
Title: On the Ethical Considerations of Generative Agents
Title（参考訳）: 生成エージェントの倫理的考察
Authors: N'yoma Diamond, Soumya Banerjee,
Abstract要約: 本稿では, 生成剤と類似の生成ツールに関する倫理的考察を評価する文献について論じる。生成要因に関連する倫理的問題やシステム的リスクを緩和するためのガイドラインと今後の研究を提案する。
参考スコア（独自算出の注目度）: 2.4032899110671955
License:
Abstract: The Generative Agents framework recently developed by Park et al. has enabled numerous new technical solutions and problem-solving approaches. Academic and industrial interest in generative agents has been explosive as a result of the effectiveness of generative agents toward emulating human behaviour. However, it is necessary to consider the ethical challenges and concerns posed by this technique and its usage. In this position paper, we discuss the extant literature that evaluate the ethical considerations regarding generative agents and similar generative tools, and identify additional concerns of significant importance. We also suggest guidelines and necessary future research on how to mitigate some of the ethical issues and systemic risks associated with generative agents.
Abstract（参考訳）: 最近Parkらによって開発されたGenerative Agentsフレームワークは、多くの新しい技術ソリューションと問題解決アプローチを可能にした。生成剤に対する学術的・産業的な関心は、人行動のエミュレートに対する生成剤の有効性の結果として爆発的に高まっている。しかし、この技法がもたらす倫理的課題や懸念や使用法を考える必要がある。本稿では, 生成エージェントと類似の生成ツールに関する倫理的考察を考察し, 重要な懸念点について考察する。また,生成要因に関連する倫理的問題やシステム的リスクを緩和するためのガイドラインと今後の研究も提案する。

関連論文リスト

Multi-Agent Risks from Advanced AI [90.74347101431474]
先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
論文参考訳（メタデータ） (2025-02-19T23:03:21Z)
Generative AI and Information Asymmetry: Impacts on Adverse Selection and Moral Hazard [7.630624512225164]
情報非対称性は、経済市場において有害な選択とモラルハザードをもたらす。本研究では、生成人工知能(AI)が詳細な情報信号を生成する方法について検討する。ジェネレーティブAIは、有害な選択とモラルハザードを効果的に軽減し、より効率的な市場効果と社会的福祉をもたらす。
論文参考訳（メタデータ） (2025-02-18T15:48:29Z)
Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
本稿では,完全自律型AIエージェントを開発すべきではないと主張している。この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
論文参考訳（メタデータ） (2025-02-04T19:00:06Z)
Towards Human-centered Proactive Conversational Agents [60.57226361075793]
積極的システムと反応性システムの区別は、積極的システムのイニシアティブな性質にある。我々は,人間中心型PCAの3つの重要な側面,すなわち知性,適応性,市民性に関する新たな分類法を確立する。
論文参考訳（メタデータ） (2024-04-19T07:14:31Z)
An ethical study of generative AI from the Actor-Network Theory perspective [3.0224187843434]
本稿では,ChatGPTをアクターネットワーク理論の枠組みにおけるケーススタディとして分析する。本稿では,ChatGPTに関する倫理的問題に関わる翻訳のアクターとプロセスについて検討する。
論文参考訳（メタデータ） (2024-04-10T02:32:19Z)
Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
論文参考訳（メタデータ） (2024-02-06T18:54:07Z)
PsySafe: A Comprehensive Framework for Psychological-based Attack, Defense, and Evaluation of Multi-agent System Safety [70.84902425123406]
大規模言語モデル(LLM)で拡張されたマルチエージェントシステムは、集団知能において重要な能力を示す。しかし、悪意のある目的のためにこのインテリジェンスを誤用する可能性があり、重大なリスクが生じる。本研究では,エージェント心理学を基盤とした枠組み(PsySafe)を提案し,エージェントのダークパーソナリティ特性がリスク行動にどう影響するかを明らかにする。実験の結果,エージェント間の集団的危険行動,エージェントが危険な行動を行う際の自己反射,エージェントの心理的評価と危険な行動との相関など,いくつかの興味深い現象が明らかになった。
論文参考訳（メタデータ） (2024-01-22T12:11:55Z)
Ethics of Artificial Intelligence and Robotics in the Architecture, Engineering, and Construction Industry [1.1650821883155187]
本研究では,建築,工学,建設(AEC)コミュニティにおける倫理のレンズを通して,AIとロボティクスの研究を体系的にレビューする。雇用喪失、データプライバシ、データセキュリティ、データの透明性、意思決定の競合、受け入れと信頼、信頼性と安全性、監視の恐れ、責任という9つの重要な倫理的問題を特定します。
論文参考訳（メタデータ） (2023-10-09T05:17:14Z)
Ethical Considerations and Policy Implications for Large Language Models: Guiding Responsible Development and Deployment [48.72819550642584]
本稿では,コンテンツ生成における大規模言語モデル(LLM)の倫理的考察と意義について考察する。生成AIプログラムの肯定的および否定的な使用の可能性を強調し、アウトプットに責任を割り当てる際の課題を探求する。
論文参考訳（メタデータ） (2023-08-01T07:21:25Z)
Typology of Risks of Generative Text-to-Image Models [1.933681537640272]
本稿では,DALL-EやMidjourneyといった現代テキスト・画像生成モデルにかかわる直接的なリスクと害について検討する。これらのリスクの理解と治療に関する知識のギャップは,すでに解決されているものの,我々のレビューでは明らかである。データバイアスから悪意のある使用まで、22の異なるリスクタイプを特定します。
論文参考訳（メタデータ） (2023-07-08T20:33:30Z)
Beyond Fairness Metrics: Roadblocks and Challenges for Ethical AI in Practice [2.1485350418225244]
我々は,現代産業・社会利用の規模で倫理的AIを構築し,展開する上での実践的課題を概観する。我々は、倫理的AIを実際に構築するには、AIシステムの開発と展開における倫理の全体的考慮が必要であると論じる。
論文参考訳（メタデータ） (2021-08-11T18:33:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。