論文の概要: From Safety Documentation to Safety Knowledge Support: An Evidence-Grounded LLM Framework for Medical Devices
- arxiv url: http://arxiv.org/abs/2608.12025v1
- Date: Wed, 12 Aug 2026 13:05:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.587911
- Title: From Safety Documentation to Safety Knowledge Support: An Evidence-Grounded LLM Framework for Medical Devices
- Title（参考訳）: 安全文書化から安全知識支援へ:医療機器用ELMフレームワーク
- Abstract要約: 医療機器は、よりソフトウェア集約的で、コネクテッドで、AI対応になっている。
本稿では,本研究の中心的課題は安全テキスト生成ではなく,ソースリンク型安全知識支援であると主張している。
デバイスアーティファクト、制御された知識記憶と検索、メソッド固有の候補安全項目の生成、批評と不確実性チェック、および専門家レビューを記録したエビデンスグラウンドフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.5039813366558304
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical devices are becoming more software-intensive, connected, and AI-enabled. Their development requires risk-management evidence aligned with ISO 14971 and, for software, IEC 62304. This evidence must be kept consistent across requirements, design decisions, software changes, verification results, complaints, and post-market data. These tasks are costly and depend on scarce safety and domain experts. Large language models (LLMs) may reduce parts of this effort because medical-device safety work is highly document-based. However, current LLM-based safety-engineering studies often address isolated methods, rely on generic prompting or public examples, and provide limited support for source links, traceability, uncertainty handling, lifecycle updates, and recorded expert review. This limits their use in regulated medical-device development. This paper argues that the central research problem is not safety-text generation, but source-linked safety-knowledge support. We propose an evidence-grounded framework that connects device artifacts, controlled knowledge storage and retrieval, method-specific generation of candidate safety items, critique and uncertainty checks, and recorded expert review. The framework prepares, links, checks, and updates candidate safety artifacts for expert decision-making. It does not decide whether a device is safe and does not provide regulatory approval. We also outline an evaluation strategy using non-public or newly built medical-device case studies and expert reference analyses to assess coverage, correctness, relevance, traceability, duplicate rate, unsupported claims, and review effort.
- Abstract（参考訳）: 医療機器は、よりソフトウェア集約的で、コネクテッドで、AI対応になっている。
それらの開発にはISO 14971およびIEC 62304に準拠したリスク管理の証拠が必要である。
この証拠は、要件、設計決定、ソフトウェア変更、検証結果、苦情、および市場後のデータに一貫性を持たなければならない。
これらのタスクは費用がかかり、安全とドメインの専門家の不足に依存します。
大きな言語モデル(LLM)は、医療機器の安全作業がドキュメントベースであるため、この作業の一部を削減できる可能性がある。
しかし、現在のLLMベースの安全工学の研究は、しばしば孤立した手法に対処し、一般的なプロンプトやパブリックな例に依存し、ソースリンク、トレーサビリティ、不確実性処理、ライフサイクル更新、記録された専門家レビューを限定的にサポートする。
これにより、規制された医療デバイス開発における使用が制限される。
本稿では,本研究の中心的課題は安全テキスト生成ではなく,ソースリンク型安全知識支援であると主張している。
デバイスアーティファクト、制御された知識記憶と検索、メソッド固有の候補安全項目の生成、批評と不確実性チェック、および専門家レビューを記録したエビデンスグラウンドフレームワークを提案する。
フレームワークは、専門家の意思決定のために、候補となる安全アーティファクトを準備し、リンクし、チェックし、更新する。
デバイスが安全かどうかを判断せず、規制当局の承認も提供しない。
また,非公開ないし新たに構築された医療機器ケーススタディと専門家による基準分析を用いて,カバレッジ,正確性,妥当性,トレーサビリティ,重複率,クレーム,レビュー作業の評価戦略を概説した。
関連論文リスト
- Supporting Cybersecurity Risk Management for Medical Devices via the SECUMAN Ontology and Shapes [0.7388859384645264]
SECUMANは、医療機器のサイバーセキュリティリスク管理ドキュメントを表現し、分析する。
セキュリティリスクコンテキスト、アセスメント、コントロール対策、残留リスク評価をモデル化するための、OWLベースの形式的な語彙を提供する。
自動ファーストパス検証、トレーサビリティ、サイバーセキュリティと安全リスク管理ドキュメントの統合をサポートする。
論文 参考訳（メタデータ） (2026-08-01T14:55:48Z) - DeepSight: An All-in-One LM Safety Toolkit [49.27916339801296]
我々は,新たな安全性評価・診断統合パラダイムを実践する,オープンソースのプロジェクトであるDeepSightを提案する。
DeepSightは低コストで再現性があり、効率的で、スケーラブルな大規模モデル安全性評価プロジェクトであり、評価ツールキットDeepSafeと診断ツールキットDeepScanで構成されている。
タスクとデータプロトコルを統一することにより、2つのステージ間の接続を構築し、安全評価をブラックボックスからホワイトボックスのインサイトに変換する。
論文 参考訳（メタデータ） (2026-02-12T15:43:14Z) - Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - A Practical Framework for Evaluating Medical AI Security: Reproducible Assessment of Jailbreaking and Privacy Vulnerabilities Across Clinical Specialties [11.500745861209774]
医学大言語モデル (LLMs) は、様々な専門分野にまたがる臨床上の意思決定支援のために、ますます普及している。
既存のセキュリティベンチマークでは、GPUクラスタ、商用APIアクセス、保護されたヘルスデータが必要になる。
本稿では,現実的な資源制約下での医療AIセキュリティを評価するための,実用的で完全に再現可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-12-09T02:28:15Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - Physical and Software Based Fault Injection Attacks Against TEEs in Mobile Devices: A Systemisation of Knowledge [5.6064476854380825]
Trusted Execution Environments (TEE) は、現代のセキュアコンピューティングの重要なコンポーネントである。
機密データを保護し、セキュアな操作を実行するために、プロセッサに分離されたゾーンを提供する。
その重要性にもかかわらず、TEEは障害注入(FI)攻撃に対してますます脆弱である。
論文 参考訳（メタデータ） (2024-11-22T11:59:44Z) - The Last Decade in Review: Tracing the Evolution of Safety Assurance
Cases through a Comprehensive Bibliometric Analysis [7.431812376079826]
安全保証は、自動車、航空宇宙、原子力など、様々な分野において最重要事項である。
安全保証ケースを使用することで、生成されたシステム機能の正しさを検証することができ、システム障害を防止することができる。
論文 参考訳（メタデータ） (2023-11-13T17:34:23Z) - Detecting Misuse of Security APIs: A Systematic Review [5.329280109719902]
セキュリティアプリケーションプログラミングインターフェース(API)は、ソフトウェアセキュリティの確保に不可欠である。
彼らの誤用は脆弱性を導入し、深刻なデータ漏洩と重大な財務損失につながる可能性がある。
本研究は,セキュリティAPIの誤用検出に関する文献を精査し,この重要な領域を包括的に理解する。
論文 参考訳（メタデータ） (2023-06-15T05:53:23Z) - Foveate, Attribute, and Rationalize: Towards Physically Safe and
Trustworthy AI [76.28956947107372]
包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。
安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。
実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
論文 参考訳（メタデータ） (2022-12-19T17:51:47Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳（メタデータ） (2020-10-19T13:09:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。