論文の概要: "It's a conversation, not a quiz": A Risk Taxonomy and Reflection Tool for LLM Adoption in Public Health

• arxiv url: http://arxiv.org/abs/2411.02594v1
• Date: Mon, 04 Nov 2024 20:35:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-06 15:01:09.766019
• Title: "It's a conversation, not a quiz": A Risk Taxonomy and Reflection Tool for LLM Adoption in Public Health
• Title（参考訳）: 『会話であってクイズではない』:公衆衛生におけるLSM導入のためのリスク分類とリフレクションツール
• Authors: Jiawei Zhou, Amy Z. Chen, Darshi Shah, Laura Schwab Reese, Munmun De Choudhury,
• Abstract要約: 我々は、健康専門家や健康問題経験者と焦点を合わせ、懸念を解き放つ。 参加者の視点をリスク分類にまとめる。 この分類学は、個人の行動、人間中心のケア、情報エコシステム、技術説明責任の4つの側面を強調している。
• 参考スコア（独自算出の注目度）: 16.418366314356184
• License:
• Abstract: Recent breakthroughs in large language models (LLMs) have generated both interest and concern about their potential adoption as accessible information sources or communication tools across different domains. In public health -- where stakes are high and impacts extend across populations -- adopting LLMs poses unique challenges that require thorough evaluation. However, structured approaches for assessing potential risks in public health remain under-explored. To address this gap, we conducted focus groups with health professionals and health issue experiencers to unpack their concerns, situated across three distinct and critical public health issues that demand high-quality information: vaccines, opioid use disorder, and intimate partner violence. We synthesize participants' perspectives into a risk taxonomy, distinguishing and contextualizing the potential harms LLMs may introduce when positioned alongside traditional health communication. This taxonomy highlights four dimensions of risk in individual behaviors, human-centered care, information ecosystem, and technology accountability. For each dimension, we discuss specific risks and example reflection questions to help practitioners adopt a risk-reflexive approach. This work offers a shared vocabulary and reflection tool for experts in both computing and public health to collaboratively anticipate, evaluate, and mitigate risks in deciding when to employ LLM capabilities (or not) and how to mitigate harm when they are used.
• Abstract（参考訳）: 大規模言語モデル(LLM)の最近のブレークスルーは、異なるドメイン間でアクセス可能な情報ソースやコミュニケーションツールとして採用される可能性があるという関心と懸念の両方を引き起こしている。 リスクが高く、人口全体に影響を及ぼす公共衛生分野では、LSMを採用することは、徹底的な評価を必要とする固有の課題を提起する。 しかし、公衆衛生の潜在的なリスクを評価するための構造的アプローチは、まだ未検討のままである。 このギャップに対処するため、私たちは、ワクチン、オピオイド使用障害、親密なパートナー暴力といった高品質な情報を要求する3つの異なる、重要な公衆衛生問題に対処するため、健康専門家や健康問題経験者と焦点を合わせるグループを組織した。 リスク分類に参加者の視点を取り入れ,従来の健康コミュニケーションと並んで位置づけられると,LSMがもたらす潜在的な害を識別し,文脈的に認識する。 この分類学は、個人の行動、人間中心のケア、情報エコシステム、技術説明責任の4つの側面を強調している。 それぞれの側面について,リスクとリフレクションの問題について論じ,実践者がリスク・リフレクティブなアプローチを採用するのを支援する。 この研究は、コンピュータと公衆衛生の専門家がLLM機能(または使用しない)を採用する際のリスクを予測し、評価し、緩和するために、共有語彙とリフレクションツールを提供する。

関連論文リスト

• Generative LLM Powered Conversational AI Application for Personalized Risk Assessment: A Case Study in COVID-19 [6.367429891237191]
  大規模言語モデル(LLM)は、様々な自然言語タスクにおいて顕著な能力を示している。 本研究は,ヒトとAIの会話をストリーミングすることで,LSMを用いた新たな疾病リスク評価手法を示す。
  論文  参考訳（メタデータ） (2024-09-23T13:55:13Z)
• Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
  より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。 リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
  論文  参考訳（メタデータ） (2024-08-16T17:23:43Z)
• Risks, Causes, and Mitigations of Widespread Deployments of Large Language Models (LLMs): A Survey [0.0]
  大規模言語モデル(LLM)は、テキスト生成、要約、分類において優れた能力を持つ自然言語処理(NLP)を変革した。 彼らの普及は、学術的完全性、著作権、環境への影響、データバイアス、公正性、プライバシといった倫理的考察など、多くの課題をもたらす。 本稿は、Google Scholarから体系的に収集・合成されたこれらの主題に関する文献に関する総合的な調査である。
  論文  参考訳（メタデータ） (2024-08-01T21:21:18Z)
• A Toolbox for Surfacing Health Equity Harms and Biases in Large Language Models [20.11590976578911]
  大規模言語モデル(LLM)は、複雑な健康情報のニーズを満たすことを約束すると同時に、健康格差を悪化させる可能性がある。 エクイティ関連モデル失敗の信頼性評価は、ヘルスエクイティを促進するシステムを開発するための重要なステップである。 医学的問題に対するLLMによる長期的回答において、株式関連害を生じさせる可能性のあるバイアスを克服するためのリソースと方法論を提示する。
  論文  参考訳（メタデータ） (2024-03-18T17:56:37Z)
• Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
  大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。 彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。 本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)
• Large Language Models in Sport Science & Medicine: Opportunities, Risks and Considerations [1.0152838128195467]
  本稿では,スポーツ科学・医学における大規模言語モデル(LLM)の利用の可能性,リスク,課題について考察する。 LLMは、スポーツ医療実践者の知識を支援し、強化する可能性があり、個人化されたトレーニングプログラムの推薦を行い、発展途上国の実践者に高品質な情報を配布する可能性がある。
  論文  参考訳（メタデータ） (2023-05-05T21:20:02Z)
• Ethical and social risks of harm from Language Models [22.964941107198023]
  本稿では,大規模言語モデル(LM)に関連するリスクランドスケープの構築を支援することを目的とする。 コンピュータ科学、言語学、社会科学から多分野の専門知識と文献を参考に、幅広い確立と予測されたリスクが詳細に分析されている。
  論文  参考訳（メタデータ） (2021-12-08T16:09:48Z)
• Assessing the Severity of Health States based on Social Media Posts [62.52087340582502]
  ユーザの健康状態の重症度を評価するために,テキストコンテンツとコンテキスト情報の両方をモデル化する多視点学習フレームワークを提案する。 多様なNLUビューは、ユーザの健康を評価するために、タスクと個々の疾患の両方に効果を示す。
  論文  参考訳（メタデータ） (2020-09-21T03:45:14Z)
• Epidemic mitigation by statistical inference from contact tracing data [61.04165571425021]
  我々は,個人が感染するリスクを推定するためにベイズ推定法を開発した。 本稿では,感染防止のための検査・隔離戦略を最適化するために,確率論的リスク推定手法を提案する。 我々のアプローチは、最近接触した個人間の通信のみを必要とする、完全に分散されたアルゴリズムに変換されます。
  論文  参考訳（メタデータ） (2020-09-20T12:24:45Z)
• COVI White Paper [67.04578448931741]
  接触追跡は、新型コロナウイルスのパンデミックの進行を変える上で不可欠なツールだ。 カナダで開発されたCovid-19の公衆ピアツーピア接触追跡とリスク認識モバイルアプリケーションであるCOVIの理論的、設計、倫理的考察、プライバシ戦略について概説する。
  論文  参考訳（メタデータ） (2020-05-18T07:40:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。