論文の概要: Safety challenges of AI in medicine in the era of large language models

• arxiv url: http://arxiv.org/abs/2409.18968v2
• Date: Thu, 30 Jan 2025 08:55:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-31 15:13:23.835414
• Title: Safety challenges of AI in medicine in the era of large language models
• Title（参考訳）: 大規模言語モデルの時代における医療におけるAIの安全性の課題
• Authors: Xiaoye Wang, Nicole Xi Zhang, Hongyu He, Trang Nguyen, Kun-Hsing Yu, Hao Deng, Cynthia Brandt, Danielle S. Bitterman, Ling Pan, Ching-Yu Cheng, James Zou, Dianbo Liu,
• Abstract要約: 大規模言語モデル(LLM)は、医療従事者、患者、研究者に新たな機会を提供する。 AIとLLMはより強力になり、いくつかの医療タスクにおいて超人的パフォーマンスを達成するにつれ、その安全性に対する公衆の懸念が高まっている。 本稿では,LLM時代のAI利用の新たなリスクについて検討する。
• 参考スコア（独自算出の注目度）: 23.817939398729955
• License:
• Abstract: Recent advancements in artificial intelligence (AI), particularly in large language models (LLMs), have unlocked significant potential to enhance the quality and efficiency of medical care. By introducing a novel way to interact with AI and data through natural language, LLMs offer new opportunities for medical practitioners, patients, and researchers. However, as AI and LLMs become more powerful and especially achieve superhuman performance in some medical tasks, public concerns over their safety have intensified. These concerns about AI safety have emerged as the most significant obstacles to the adoption of AI in medicine. In response, this review examines emerging risks in AI utilization during the LLM era. First, we explore LLM-specific safety challenges from functional and communication perspectives, addressing issues across data collection, model training, and real-world application. We then consider inherent safety problems shared by all AI systems, along with additional complications introduced by LLMs. Last, we discussed how safety issues of using AI in clinical practice and healthcare system operation would undermine trust among patient, clinicians and the public, and how to build confidence in these systems. By emphasizing the development of safe AI, we believe these technologies can be more rapidly and reliably integrated into everyday medical practice to benefit both patients and clinicians.
• Abstract（参考訳）: 人工知能(AI)の最近の進歩、特に大規模言語モデル(LLM)は、医療の質と効率を高める重要な可能性を解き放っている。 自然言語を通じてAIやデータと対話する新しい方法を導入することで、LLMは医療従事者、患者、研究者に新たな機会を提供する。 しかし、AIとLLMがより強力になり、特に一部の医療タスクにおいて超人的パフォーマンスを達成するにつれ、その安全性に対する公衆の懸念が強まりつつある。 AIの安全性に関するこれらの懸念は、医学におけるAIの採用にとって最も重要な障害として現れている。 そこで本研究では,LLM時代のAI利用の新たなリスクについて検討する。 まず,LLM固有の安全性問題について,機能的・コミュニケーション的な視点から検討し,データ収集やモデルトレーニング,実世界のアプリケーションにまたがる問題に対処する。 次に、全AIシステムで共有される固有の安全性問題と、LLMが導入した追加の合併症について考察する。 最後に、臨床実習や医療システム運用においてAIを使用する際の安全性の問題が、患者、臨床医、公衆の信頼を損なうか、そして、これらのシステムに対する信頼性を高める方法について論じた。 安全なAIの開発を強調することで、これらの技術はより迅速かつ確実に日常的な医療実践に統合され、患者と臨床医の両方に利益をもたらすことができると信じています。

関連論文リスト

• Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities [61.633126163190724]
  精神病は、社会的、個人的コストがかなり高い広範囲で不安定な状態である。 近年の人工知能(AI)の進歩は、うつ病、不安障害、双極性障害、統合失調症、外傷後ストレス障害などの病態を認識し、対処するための大きな可能性を秘めている。 データセットやトレーニング済みモデルからの機密データ漏洩のリスクを含むプライバシー上の懸念は、これらのAIシステムを実際の臨床環境にデプロイする上で、依然として重要な障壁である。
  論文  参考訳（メタデータ） (2025-02-01T15:10:02Z)
• Towards Safe AI Clinicians: A Comprehensive Study on Large Language Model Jailbreaking in Healthcare [15.438265972219869]
  大規模言語モデル(LLM)は、医療アプリケーションでますます活用されている。 本研究は、6個のLDMの脆弱性を3つの高度なブラックボックスジェイルブレイク技術に系統的に評価する。
  論文  参考訳（メタデータ） (2025-01-27T22:07:52Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• A Trilogy of AI Safety Frameworks: Paths from Facts and Knowledge Gaps to Reliable Predictions and New Knowledge [0.0]
  AI安全は、AIコミュニティ内外の多くの科学者にとって重要な最前線の関心事となっている。 機械学習システムには、生存リスクから人間の存在、深い偽造、偏見まで、すぐに、長期にわたって予測されるリスクが数多く存在する。
  論文  参考訳（メタデータ） (2024-10-09T14:43:06Z)
• HAICOSYSTEM: An Ecosystem for Sandboxing Safety Risks in Human-AI Interactions [76.42274173122328]
  本稿では,多様な複雑な社会的相互作用におけるAIエージェントの安全性を調べるフレームワークであるHAICOSYSTEMを提案する。 私たちは7つの領域(医療、金融、教育など)にわたる92のシナリオに基づいて1840のシミュレーションを実行します。 我々の実験は、最先端のLSMは、プロプライエタリかつオープンソースの両方で、50%以上のケースで安全リスクを示すことを示した。
  論文  参考訳（メタデータ） (2024-09-24T19:47:21Z)
• SoK: Security and Privacy Risks of Medical AI [14.592921477833848]
  テクノロジーと医療の統合は、人工知能と機械学習を利用したソフトウェアシステムが、医療製品やサービスの不可欠なコンポーネントとなった新しい時代に幕を閉じた。 本稿では、医療におけるAI/MLアプリケーションによるセキュリティとプライバシの脅威について検討する。
  論文  参考訳（メタデータ） (2024-09-11T16:59:58Z)
• Towards Human-AI Collaboration in Healthcare: Guided Deferral Systems with Large Language Models [1.2281181385434294]
  大規模言語モデル(LLM)は、医療における様々なアプリケーションに有用な技術を提供する。 彼らの幻覚傾向は、批判的な意思決定の状況において受け入れ難い不確実性をもたらす。 人間とAIのコラボレーションは、より良い結果を得るために人間とAIの強みを組み合わせることで、この不確実性を軽減することができる。 本稿では,AIが人間の意思決定者に対してケースをデフェクトした場合にインテリジェントなガイダンスを提供する,新しいガイド付きデフェラルシステムを提案する。
  論文  参考訳（メタデータ） (2024-06-11T12:41:54Z)
• RAISE -- Radiology AI Safety, an End-to-end lifecycle approach [5.829180249228172]
  放射線学へのAIの統合は、臨床ケアの供給と効率を改善する機会をもたらす。 モデルが安全性、有効性、有効性の最高基準を満たすことに注力すべきである。 ここで提示されるロードマップは、放射線学におけるデプロイ可能で信頼性があり、安全なAIの達成を早めることを目的としている。
  論文  参考訳（メタデータ） (2023-11-24T15:59:14Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare [73.78776682247187]
  医療AIに関連する技術的、臨床的、倫理的、法的リスクに関する懸念が高まっている。 この研究は、Future-AIガイドラインを、医療における信頼できるAIツールの開発とデプロイを導くための最初の国際コンセンサスフレームワークとして説明している。
  論文  参考訳（メタデータ） (2023-08-11T10:49:05Z)
• The Role of AI in Drug Discovery: Challenges, Opportunities, and Strategies [97.5153823429076]
  この分野でのAIのメリット、課題、欠点についてレビューする。 データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
  論文  参考訳（メタデータ） (2022-12-08T23:23:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。