論文の概要: If Eleanor Rigby Had Met ChatGPT: A Study on Loneliness in a Post-LLM World

• arxiv url: http://arxiv.org/abs/2412.01617v1
• Date: Mon, 02 Dec 2024 15:39:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-04 15:51:52.194686
• Title: If Eleanor Rigby Had Met ChatGPT: A Study on Loneliness in a Post-LLM World
• Title（参考訳）: エレノア・リグビーのチャットGPT:LLM後の世界における孤独に関する研究
• Authors: Adrian de Wynter,
• Abstract要約: 孤独感は、人の精神的および身体的健康に大きな影響を及ぼす。 これまでの研究では、大きな言語モデル(LLM)が孤独を和らげる可能性があることが示唆されている。 この目的のために設計されていないため、ChatGPTのような広範なLLMの使用はより一般的であり、リスクが高いと我々は主張する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Loneliness, or the lack of fulfilling relationships, significantly impacts a person's mental and physical well-being and is prevalent worldwide. Previous research suggests that large language models (LLMs) may help mitigate loneliness. However, we argue that the use of widespread LLMs like ChatGPT is more prevalent--and riskier, as they are not designed for this purpose. To explore this, we analysed user interactions with ChatGPT, particularly those outside of its marketed use as task-oriented assistant. In dialogues classified as lonely, users frequently (37%) sought advice or validation, and received good engagement. However, ChatGPT failed in sensitive scenarios, like responding appropriately to suicidal ideation or trauma. We also observed a 35% higher incidence of toxic content, with women being 22 times more likely to be targeted than men. Our findings underscore ethical and legal questions about this technology, and note risks like radicalisation or further isolation. We conclude with recommendations for research and industry to address loneliness.
• Abstract（参考訳）: 孤独、すなわち、関係を満たすことの欠如は、人の精神的および身体的幸福に大きく影響し、世界中で普及している。 これまでの研究では、大きな言語モデル(LLM)が孤独を和らげる可能性があることが示唆されている。 しかし、ChatGPTのような広汎なLLMの使用は、この目的のために設計されていないため、より一般的でリスクが高いと論じる。 そこで我々は,ChatGPTのユーザインタラクション,特にタスク指向アシスタントとして市場に出回っているユーザインタラクションを分析した。 孤独と分類された対話では、頻繁に37%のユーザがアドバイスやバリデーションを求め、良好なエンゲージメントを得た。 しかし、ChatGPTは自殺の考えや外傷に適切に反応するなど、繊細なシナリオでは失敗した。 また,有毒物質濃度が35%高く,女性の方が男性より22倍高い傾向がみられた。 我々の発見は、この技術に関する倫理的および法的問題を強調し、過激化やさらなる孤立といったリスクに注意を払っている。 我々は、孤独に対処する研究と産業のための勧告で締めくくります。

関連論文リスト

• AI Companions Reduce Loneliness [0.5699788926464752]
  我々は、消費者に合成インタラクションパートナーを提供するように設計されたAIコンパニオンアプリケーションに焦点を当てる。 調査1と2では、消費者が孤独を和らげるためにAIコンパニオンを使用しているという示唆的な証拠が発見されている。 研究3では、AIコンパニオンが、他人と対話するだけで孤独を和らげることに成功していることがわかった。 研究4では、縦長の設計を使用して、AIが1週間にわたって一貫して孤独を和らげていることに気付きました。
  論文  参考訳（メタデータ） (2024-07-09T15:04:08Z)
• Eagle: Ethical Dataset Given from Real Interactions [74.7319697510621]
  社会的バイアス、毒性、不道徳な問題を示すChatGPTとユーザ間の実際のインタラクションから抽出されたデータセットを作成します。 我々の実験では、イーグルは、そのような倫理的課題の評価と緩和のために提案された既存のデータセットでカバーされていない相補的な側面を捉えている。
  論文  参考訳（メタデータ） (2024-02-22T03:46:02Z)
• Comprehensive Assessment of Toxicity in ChatGPT [49.71090497696024]
  本研究は,ChatGPTの毒性を指導調整データセットを用いて評価する。 創作作業のプロンプトは 有害な反応を 引き起こす確率が 2倍になる 初期の研究で設計された、故意に有害なプロンプトは、もはや有害な反応を生じさせない。
  論文  参考訳（メタデータ） (2023-11-03T14:37:53Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)
• Primacy Effect of ChatGPT [69.49920102917598]
  本稿では,ChatGPTの優位性について検討する。 実験と分析により、より信頼性の高いChatGPTベースのソリューションを構築する上で、さらなる洞察が得られればと思っています。
  論文  参考訳（メタデータ） (2023-10-20T00:37:28Z)
• Does ChatGPT have Theory of Mind? [2.3129337924262927]
  心の理論 (Theory of Mind, ToM) とは、人間の思考と意思決定を理解する能力である。 本稿では,最近のChatGPT伝統における大規模言語モデル(Large Language Models)がToMをどの程度持っているかを検討する。
  論文  参考訳（メタデータ） (2023-05-23T12:55:21Z)
• ChatGPT for Us: Preserving Data Privacy in ChatGPT via Dialogue Text Ambiguation to Expand Mental Health Care Delivery [52.73936514734762]
  ChatGPTは人間のような対話を生成する能力で人気を集めている。 データに敏感なドメインは、プライバシとデータ所有に関する懸念から、ChatGPTを使用する際の課題に直面している。 ユーザのプライバシーを守るためのテキスト曖昧化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-19T02:09:52Z)
• Towards Designing a ChatGPT Conversational Companion for Elderly People [0.0]
  高齢者のためのチャットGPTに基づく会話支援システムを提案する。 このシステムは、協力関係を提供し、孤独感や社会的孤立感の軽減に役立つように設計されている。
  論文  参考訳（メタデータ） (2023-04-18T17:24:14Z)
• Toxicity in ChatGPT: Analyzing Persona-assigned Language Models [23.53559226972413]
  大規模言語モデル(LLM)は驚くべき能力を示し、自然言語処理(NLP)コミュニティを超越した。 一般的な対話型LLMであるChatGPTの50万世代以上で毒性を系統的に評価した。 その結果,ChatGPTのシステムパラメータをペルソナに割り当てることで,世代間の毒性が著しく向上することが判明した。
  論文  参考訳（メタデータ） (2023-04-11T16:53:54Z)
• A Categorical Archive of ChatGPT Failures [47.64219291655723]
  OpenAIが開発したChatGPTは、大量のデータを使って訓練され、人間の会話をシミュレートしている。 それは、広範囲の人間の問い合わせに効果的に答える能力のために、大きな注目を集めている。 しかし、ChatGPTの失敗の包括的分析は欠落しており、これが本研究の焦点となっている。
  論文  参考訳（メタデータ） (2023-02-06T04:21:59Z)
• How Close is ChatGPT to Human Experts? Comparison Corpus, Evaluation, and Detection [8.107721810172112]
  ChatGPTは、幅広い人間の質問に効果的に反応できる。 人々はChatGPTのような大きな言語モデル(LLM)が社会に与える影響を心配し始めています。 本研究では,人間の専門家とChatGPTの双方から,数万件の比較回答を収集した。
  論文  参考訳（メタデータ） (2023-01-18T15:23:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。