論文の概要: An Empirical Design Justice Approach to Identifying Ethical Considerations in the Intersection of Large Language Models and Social Robotics
- arxiv url: http://arxiv.org/abs/2406.06400v2
- Date: Wed, 12 Jun 2024 09:25:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-13 11:18:52.602887
- Title: An Empirical Design Justice Approach to Identifying Ethical Considerations in the Intersection of Large Language Models and Social Robotics
- Title（参考訳）: 大規模言語モデルと社会ロボティクスのインターセクションにおける倫理的考察の特定のための経験的デザインジャスティスアプローチ
- Authors: Alva Markelius,
- Abstract要約: 大規模言語モデル(LLM)の社会ロボティクスへの統合は、ユニークな倫理的課題と社会的影響を示す。
本研究は、これらの2つの技術の設計と開発に生じる倫理的考察を特定することを目的としている。
- 参考スコア（独自算出の注目度）: 0.31378963995109616
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The integration of Large Language Models (LLMs) in social robotics presents a unique set of ethical challenges and social impacts. This research is set out to identify ethical considerations that arise in the design and development of these two technologies in combination. Using LLMs for social robotics may provide benefits, such as enabling natural language open-domain dialogues. However, the intersection of these two technologies also gives rise to ethical concerns related to misinformation, non-verbal cues, emotional disruption, and biases. The robot's physical social embodiment adds complexity, as ethical hazards associated with LLM-based Social AI, such as hallucinations and misinformation, can be exacerbated due to the effects of physical embodiment on social perception and communication. To address these challenges, this study employs an empirical design justice-based methodology, focusing on identifying socio-technical ethical considerations through a qualitative co-design and interaction study. The purpose of the study is to identify ethical considerations relevant to the process of co-design of, and interaction with a humanoid social robot as the interface of a LLM, and to evaluate how a design justice methodology can be used in the context of designing LLMs-based social robotics. The findings reveal a mapping of ethical considerations arising in four conceptual dimensions: interaction, co-design, terms of service and relationship and evaluates how a design justice approach can be used empirically in the intersection of LLMs and social robotics.
- Abstract（参考訳）: 大規模言語モデル(LLM)の社会ロボティクスへの統合は、ユニークな倫理的課題と社会的影響を示す。
本研究は、これらの2つの技術の設計と開発に生じる倫理的考察を特定することを目的としている。
社会ロボティクスにLLMを使用することは、自然言語のオープンドメイン対話を可能にするなど、メリットを提供する可能性がある。
しかし、これらの2つの技術の交差は、誤情報、非言語的手がかり、感情的破壊、偏見に関する倫理的な懸念を引き起こす。
ロボットの身体的エンボディメントは、幻覚や誤報などのLLMベースの社会AIに関連する倫理的ハザードが、身体的エンボディメントが社会的知覚とコミュニケーションに与える影響により悪化する可能性があるため、複雑さを増す。
これらの課題に対処するために、質的な共同設計と相互作用研究を通じて社会技術的倫理的考察を識別することに焦点を当てた経験的デザインの正義に基づく方法論を用いる。
本研究の目的は,LLMのインタフェースとしてヒューマノイド社会ロボットとの共同設計とインタラクションのプロセスに関連する倫理的考察を同定し,LLMを基盤とした社会ロボティクスを設計する文脈において,デザイン正義の方法論をどのように利用できるかを評価することである。
その結果, 相互作用, 共同設計, サービス条件, 関係性という4つの概念的側面から生じる倫理的考察のマッピングが示され, LLMと社会ロボティクスの交叉において, どのようにしてデザイン正義アプローチを実証的に利用できるかが評価された。
関連論文リスト
- Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
コネクショニストと象徴的人工知能(AI)の収束を探求する記事
従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。
大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
論文 参考訳（メタデータ） (2024-07-11T14:00:53Z) - CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics [0.0]
LLMと認知エルゴノミクスを統合することは、人間とAIの相互作用における安全性、信頼性、ユーザ満足度を改善するために重要である。
現在のLLMの設計は、この統合を欠いていることが多く、結果として人間の認知能力や限界と完全に一致しない可能性がある。
論文 参考訳（メタデータ） (2024-07-03T07:59:52Z) - Addressing Social Misattributions of Large Language Models: An HCXAI-based Approach [45.74830585715129]
我々は,大規模言語モデル(LLM)における社会貢献のリスクに対処するために,社会透明性(ST)フレームワークの拡張を提案する。
LLMは、デザイナーの意図とユーザの社会的属性に対する認識のミスマッチを引き起こし、感情的な操作や危険な行動を促進するリスクを負う。
設計者やユーザによるLSMに割り当てられた特定の社会的属性を明らかにするため,第5の"W-question"によるSTフレームワークの拡張を提案する。
論文 参考訳（メタデータ） (2024-03-26T17:02:42Z) - Socially Cognizant Robotics for a Technology Enhanced Society [13.094097428580564]
我々は、技術・社会科学の手法を合成する学際的アプローチ、社会的認知ロボティクスを提唱する。
このアプローチは、AI駆動型ロボットの動作を形作る上で、ステークホルダーの参加を促進する必要性に従うものだ、と私たちは主張する。
我々は、従来の技術ベースのメトリクスと重要な、しかし難しいメトリクスのバランスをとる、社会的に認知されたロボット設計のためのベストプラクティスを開発します。
論文 参考訳（メタデータ） (2023-10-27T17:53:02Z) - Towards socially-competent and culturally-adaptive artificial agents
Expressive order, interactional disruptions and recovery strategies [0.0]
この研究の総体的目的は、人工エージェントをダイアド的相互作用よりも社会的に競争力のあるものにするための枠組みを構築することである。
本稿は,(i)社会的能力,(ii)関係的役割,(iii)近接性の3次元に焦点をあてて,この能力レベルがいかに達成されるかを強調した。
論文 参考訳（メタデータ） (2023-08-06T15:47:56Z) - Towards Ubiquitous Semantic Metaverse: Challenges, Approaches, and
Opportunities [68.03971716740823]
近年,拡張現実(AR)および仮想現実(VR)ユーザーのための没入型サイバーバーチャル体験に革命をもたらすために,ユビキタスセマンティック・メタバースが研究されている。
この調査は、ユビキタスメタバースにおける4つの基本システムコンポーネントの表現とインテリジェンスに焦点を当てる。
論文 参考訳（メタデータ） (2023-07-13T11:14:46Z) - Training Socially Aligned Language Models on Simulated Social
Interactions [99.39979111807388]
AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。
現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。
本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
論文 参考訳（メタデータ） (2023-05-26T14:17:36Z) - Ethics for social robotics: A critical analysis [8.778914180886835]
医療の実践のための社会ロボティクス開発と、これらのAIベースのシステムを制度的な医療文脈に組み込む欧州の展望は、緊急の倫理的反映を要求する。
社会ロボティクスの倫理的意味への関心が高まっているにもかかわらず、現在、社会支援ロボティクス(SAR)の中心的分野である社会支援ロボティクス(SAR)に関する議論は、不十分な倫理的アプローチに依存している。
本稿では,批判的な文献レビューの結果として確認された,この普及傾向について述べる。
論文 参考訳（メタデータ） (2022-07-25T22:18:00Z) - Data-driven emotional body language generation for social robotics [58.88028813371423]
社会ロボティクスでは、人間型ロボットに感情の身体的表現を生成する能力を与えることで、人間とロボットの相互作用とコラボレーションを改善することができる。
我々は、手作業で設計されたいくつかの身体表現から学習する深層学習データ駆動フレームワークを実装した。
評価実験の結果, 生成した表現の人間同型とアニマシーは手作りの表現と異なる認識が得られなかった。
論文 参考訳（メタデータ） (2022-05-02T09:21:39Z) - Human-Robot Collaboration and Machine Learning: A Systematic Review of
Recent Research [69.48907856390834]
人間ロボットコラボレーション(Human-robot collaboration、HRC)とは、人間とロボットの相互作用を探索する手法である。
本稿では,HRCの文脈における機械学習技術の利用に関する詳細な文献レビューを提案する。
論文 参考訳（メタデータ） (2021-10-14T15:14:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。