論文の概要: Predatory Medicine: Exploring and Measuring the Vulnerability of Medical
AI to Predatory Science
- arxiv url: http://arxiv.org/abs/2203.06245v2
- Date: Thu, 17 Mar 2022 02:33:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-19 15:34:33.348514
- Title: Predatory Medicine: Exploring and Measuring the Vulnerability of Medical
AI to Predatory Science
- Title（参考訳）: 捕食医学 : 捕食科学における医療AIの脆弱性の探索と測定
- Authors: Shalini Saini, Nitesh Saxena
- Abstract要約: PPP(Predatory Presence Publications)によるMedAIの汚染に関する最初の研究について述べる。
本研究は,(1)PubMedにおけるPPPの同定,(2)SemMedDBとKGsにおけるPPPの検証,(3)MedAI出力に対するPPPの既存の脆弱性の実証,の3つに着目した。
- 参考スコア（独自算出の注目度）: 2.8301036282344856
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical Artificial Intelligence (MedAI) for diagnosis, treatment options, and
drug development represents the new age of healthcare. The security, integrity,
and credibility of MedAI tools are paramount issues because human lives are at
stake. MedAI solutions are often heavily dependent on scientific medical
research literature as a primary data source that draws the attacker's
attention as a potential target. We present a first study of how the output of
MedAI can be polluted with Predatory Publications Presence (PPP). We study two
MedAI systems: mediKanren (disease independent) and CancerMine
(Disease-specific), which use research literature as primary data input from
the research repository PubMed, PubMed derived database SemMedDB, and NIH
translational Knowledge Graphs (KGs). Our study has a three-pronged focus: (1)
identifying the PPP in PubMed; (2) verifying the PPP in SemMedDB and the KGs;
(3) demonstrating the existing vulnerability of PPP traversing to the MedAI
output. Our contribution lies in identifying the existing PPP in the MedAI
inputs and demonstrating how predatory science can jeopardize the credibility
of MedAI solutions, making their real-life deployment questionable.
- Abstract（参考訳）: 診断、治療オプション、薬物開発のための医療人工知能(MedAI)は、医療の新しい時代を表している。
人命が危ぶまれているため、MedAIツールのセキュリティ、完全性、信頼性が最重要課題である。
MedAIソリューションは、攻撃者の注意を潜在的標的として引き出す主要なデータソースとして、科学医学研究文献に大きく依存することが多い。
本稿では,PPP(Predatory Publications Presence)を用いて,MedAIの出力を汚染する方法について検討する。
我々は,研究リポジトリPubMed,PubMed派生データベースSemMedDB,NIH翻訳知識グラフ(KGs)から,研究文献を一次データ入力として利用するMeedAIシステムについて検討した。
本研究は,(1)PubMedにおけるPPPの同定,(2)SemMedDBとKGsにおけるPPPの検証,(3)MedAI出力に対するPPPの既存の脆弱性の実証,の3つに着目した。
我々の貢献は、MedAIインプットにおける既存のPPPを特定し、捕食科学がMedAIソリューションの信頼性をいかに損なうかを示し、実際の展開を疑問視することにある。
関連論文リスト
- Rapid Biomedical Research Classification: The Pandemic PACT Advanced Categorisation Engine [10.692728349388297]
Pandemic PACTプロジェクトは、アウトブレイクの可能性のある幅広い病気の研究資金と臨床証拠を追跡し、分析することを目的としている。
本稿では,Pandemic PACT Advanced Categorisation Engine(PPACE)と関連するデータセットを紹介する。
論文 参考訳（メタデータ） (2024-07-14T05:22:53Z) - STLLaVA-Med: Self-Training Large Language and Vision Assistant for Medical Question-Answering [58.79671189792399]
STLLaVA-Medは、医療ビジュアルインストラクションデータを自動生成できるポリシーモデルを訓練するために設計されている。
STLLaVA-Medの有効性とデータ効率を3つの主要な医用視覚質問応答(VQA)ベンチマークで検証した。
論文 参考訳（メタデータ） (2024-06-28T15:01:23Z) - Capabilities of Gemini Models in Medicine [100.60391771032887]
医療専門のマルチモーダルモデルであるMed-Geminiを紹介する。
メドジェニーニを14の医療ベンチマークで評価し,その内10に新たな最先端(SoTA)性能を確立した。
我々の結果は、Med-Geminiの可能性を示唆する証拠を提供するが、より厳密な評価は実世界の展開に先立って重要である。
論文 参考訳（メタデータ） (2024-04-29T04:11:28Z) - MKA: A Scalable Medical Knowledge Assisted Mechanism for Generative
Models on Medical Conversation Tasks [3.9571320117430866]
このメカニズムは、一般的な神経生成モデルを支援し、医療会話タスクにおけるより良いパフォーマンスを達成することを目的としている。
医療固有の知識グラフは、6種類の医療関連情報を含むメカニズム内に設計されている。
評価結果は,本機構と組み合わせたモデルが,複数の自動評価指標において元の手法より優れていることを示す。
論文 参考訳（メタデータ） (2023-12-05T04:55:54Z) - Securing Biomedical Images from Unauthorized Training with Anti-Learning
Perturbation [26.81914618642174]
そこで本研究では, 生医学的データを保護するために, 不知覚だが妄想的なノイズをデータに注入することで, 生医学的データを保護する手法を提案する。
本手法は,研究コミュニティの長期的発展のために,より多くの機関にデータ提供を促すための重要なステップである。
論文 参考訳（メタデータ） (2023-03-05T03:09:03Z) - MedPerf: Open Benchmarking Platform for Medical Artificial Intelligence
using Federated Evaluation [110.31526448744096]
この可能性を解き明かすには、大規模な異種データに対して医療AIモデルの性能を測定する体系的な方法が必要である、と私たちは主張する。
MedPerfは、医療分野で機械学習をベンチマークするためのオープンフレームワークです。
論文 参考訳（メタデータ） (2021-09-29T18:09:41Z) - Discovering Drug-Target Interaction Knowledge from Biomedical Literature [107.98712673387031]
人体における薬物と標的(DTI)の相互作用は、生物医学や応用において重要な役割を担っている。
毎年何百万もの論文がバイオメディカル分野で出回っているので、文学からDTIの知識を自動的に発見することは、業界にとって急激な需要となっている。
生成的アプローチを用いて,この課題に対する最初のエンドツーエンドソリューションについて検討する。
我々はDTI三重項をシーケンスとみなし、Transformerベースのモデルを使ってエンティティや関係の詳細なアノテーションを使わずに直接生成する。
論文 参考訳（メタデータ） (2021-09-27T17:00:14Z) - Fairness via AI: Bias Reduction in Medical Information [3.254836540242099]
本稿では,医学教育,社会学,反人種差別主義の洞察に触発された,AIによるフェアネスの新たな枠組みを提案する。
我々はAIを用いて、社会の少数派を不均等に傷つける偏見、有害、および/または偽の健康情報を研究、検出、緩和することを提案する。
論文 参考訳（メタデータ） (2021-09-06T01:39:48Z) - MIMO: Mutual Integration of Patient Journey and Medical Ontology for
Healthcare Representation Learning [49.57261599776167]
本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
論文 参考訳（メタデータ） (2021-07-20T07:04:52Z) - BiteNet: Bidirectional Temporal Encoder Network to Predict Medical
Outcomes [53.163089893876645]
本稿では,患者の医療旅行におけるコンテキスト依存と時間的関係を捉える,新たな自己注意機構を提案する。
エンド・ツー・エンドの双方向時間エンコーダネットワーク(BiteNet)が患者の旅路の表現を学習する。
実世界のEHRデータセットを用いた2つの教師付き予測と2つの教師なしクラスタリングタスクにおける手法の有効性を評価した。
論文 参考訳（メタデータ） (2020-09-24T00:42:36Z) - Digital personal health libraries: a systematic literature review [15.392783869176778]
本稿では,デジタル・パーソナル・ヘルス・ライブラリ(PHL)の開発に関する最近の文献について述べる。
多様な臨床専門分野における消費者健康情報学の潜在的な応用に関する洞察を提供する。
論文 参考訳（メタデータ） (2020-06-21T01:11:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。