論文の概要: Designing Safety-Constrained LLM Systems for Public Health Information Access
- arxiv url: http://arxiv.org/abs/2607.13038v1
- Date: Thu, 11 Jun 2026 21:06:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-19 21:54:20.40682
- Title: Designing Safety-Constrained LLM Systems for Public Health Information Access
- Title（参考訳）: 公衆衛生情報アクセスのための安全制約LLMシステムの設計
- Abstract要約: 公衆衛生情報アクセスのための安全制約付き大言語モデル(LLM)システムの設計と実装について述べる。
ドメイン制限付き検索拡張生成(RAG)、厳密な境界強制、監視とコンプライアンスのための包括的な監査ログを統合した多層アーキテクチャを提案する。
その結果、安全性の制約、信頼性の高いリソース基盤、安定したシステム性能の一貫性が示され、平均応答時間は5.3秒である。
- 参考スコア（独自算出の注目度）: 7.505217332626521
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present the design and implementation of a safety constrained large language model (LLM) system for public health information access, focusing on maternal and child health (MCH) resource navigation. While LLM based systems offer flexible and natural interfaces for information retrieval, their deployment in healthcare contexts introduces risks related to safety, trust, and uncontrolled generation. This work explores practical design patterns for constraining LLM behavior in safety critical environments. We introduce a multi-layered architecture that integrates domain-restricted retrieval augmented generation (RAG), strict boundary enforcement to prevent medical advice, anonymous multiuser session management, and comprehensive audit logging for monitoring and compliance. A key aspect of the design is a controlled data pipeline that grounds all responses in curated public health resources, avoiding reliance on the model pretrained medical knowledge. We implement the system in a real world public health setting and conduct scenario-based validation across in scope, out of scope, and emergency queries. Results show consistent enforcement of safety constraints, reliable resource grounding, and stable system performance, with an average response time of 5.3 seconds. Beyond the specific application, we discuss design trade offs and lessons learned in balancing safety, usability, and system flexibility. Our findings provide practical guidance for deploying LLM based systems in healthcare and other domains where strict information boundaries and accountability are required.
- Abstract（参考訳）: 本稿では、母子保健(MCH)リソースナビゲーションに着目し、公衆衛生情報アクセスのための安全制約付き大言語モデル(LLM)システムの設計と実装について述べる。
LLMベースのシステムは、情報検索のためのフレキシブルで自然なインターフェースを提供するが、医療環境への展開は、安全性、信頼、制御不能な生成に関連するリスクを導入する。
本研究は, 安全クリティカル環境におけるLCMの挙動を制約する実用的な設計パターンについて検討する。
本稿では、ドメイン制限付き検索拡張生成(RAG)、厳格な境界強制による医療アドバイスの防止、匿名マルチユーザセッション管理、監視とコンプライアンスのための総合的な監査ログを統合した多層アーキテクチャを提案する。
デザインの重要な側面は、管理されたデータパイプラインで、治療済みの公衆衛生リソースにすべてのレスポンスを基盤として、事前訓練された医療知識への依存を避ける。
実際の公衆衛生設定でシステムを実装し,スコープ内,スコープ外,緊急問合せのシナリオベースの検証を行う。
その結果、安全性の制約、信頼性の高いリソース基盤、安定したシステム性能の一貫性が示され、平均応答時間は5.3秒である。
特定のアプリケーション以外にも、安全、ユーザビリティ、システムの柔軟性のバランスをとる上で学んだ設計上のトレードオフや教訓について論じる。
本研究は,厳密な情報境界と説明責任が要求される医療およびその他の領域にLCMベースのシステムを展開するための実践的ガイダンスを提供する。
関連論文リスト
- Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability [65.56750741053266]
大規模言語モデル(LLM)は、誤情報をコンテンツ中心の問題からより広範なエコシステムレベルのセキュリティ課題に転換した。
本稿では,これらのリスクと防御を統一する役割層フレームワークを提案する。
この役割はLLMを攻撃者、ディフェンダー、検証システムの脆弱なコンポーネントとして特徴づけ、層次元はコンテンツ、社会的コンテキスト、エビデンス環境、検証をカバーしている。
論文 参考訳（メタデータ） (2026-07-11T17:04:17Z) - SoK: Privacy-aware LLM in Healthcare: Threat Model, Privacy Techniques, Challenges and Recommendations [0.6533091401094101]
大きな言語モデル(LLM)は、臨床的な意思決定を支援し、患者のケアを強化するために、医療においてますます採用されている。
この研究は、データ前処理、ファインチューニング、推論という3つの中核LSMフェーズにわたる進化する脅威の展望を、現実的な医療環境の中で検証する。
我々は、各フェーズにおける敵、能力、攻撃面を特徴付ける詳細な脅威モデルを提示し、既存のプライバシ保護技術(PPT)がこれらの脆弱性を緩和しようとしているかを体系化する。
論文 参考訳（メタデータ） (2026-01-15T02:28:57Z) - Safely Learning Controlled Stochastic Dynamics [61.82896036131116]
システム力学の安全な探索と効率的な推定を可能にする手法を提案する。
学習後、学習モデルはシステムのダイナミクスの予測を可能にし、任意の制御の安全性検証を可能にする。
我々は、真の力学のソボレフ正則性を高めることにより、安全性と適応学習率の向上を理論的に保証する。
論文 参考訳（メタデータ） (2025-06-03T11:17:07Z) - LLM Agents Should Employ Security Principles [60.03651084139836]
本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。
AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
論文 参考訳（メタデータ） (2025-05-29T21:39:08Z) - LLM-Based Human-Agent Collaboration and Interaction Systems: A Survey [34.275920463375684]
大規模言語モデル(LLM)は、完全に自律的なエージェントの構築への関心が高まっている。
LLM-HASは、システムの性能、信頼性、安全性を高めるために、人為的な情報、フィードバック、制御をエージェントシステムに組み込む。
本稿は, LLM-HASの総合的かつ構造化された最初の調査である。
論文 参考訳（メタデータ） (2025-05-01T08:29:26Z) - Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。
本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
論文 参考訳（メタデータ） (2025-01-09T03:59:10Z) - Guiding IoT-Based Healthcare Alert Systems with Large Language Models [22.54714587190204]
医療アラートシステム(HAS)は、人工知能(AI)、IoT(Internet of Things)技術の進歩、健康意識の向上など、急速に進化している。
パーソナライズされたヘルスアラートの正確さと、リソースに制約されたHAS環境における厳格なプライバシー保護のバランス。
本稿では,Large Language Models (LLM) をHASに組み込んだ一様フレームワーク LLM-HAS を導入し,その精度を大幅に向上させ,ユーザのプライバシーを確保し,パーソナライズされたヘルスサービスを強化する。
論文 参考訳（メタデータ） (2024-08-23T13:55:36Z) - Current state of LLM Risks and AI Guardrails [0.0]
大規模言語モデル(LLM)はますます洗練され、安全性と信頼性が最優先されるセンシティブなアプリケーションに広くデプロイされるようになる。
これらのリスクは、LSMを望ましい行動と整合させ、潜在的な害を軽減するために、"ガードレール"の開発を必要とする。
本研究は,LLMの展開に伴うリスクを調査し,ガードレールの実装とモデルアライメント技術に対する現在のアプローチを評価する。
論文 参考訳（メタデータ） (2024-06-16T22:04:10Z) - Trustworthy and Practical AI for Healthcare: A Guided Deferral System with Large Language Models [1.2281181385434294]
大規模言語モデル(LLM)は、医療における様々なアプリケーションに有用な技術を提供する。
彼らの幻覚化傾向と既存のプロプライエタリなシステムへの依存は、批判的な意思決定に関する環境に課題をもたらす。
本稿では,障害分類のための医療報告を同時に解析し,ヒトへの知的な指導による不確実な予測を推論する新しいHAICガイド型deferralシステムを提案する。
論文 参考訳（メタデータ） (2024-06-11T12:41:54Z) - Empowering Autonomous Driving with Large Language Models: A Safety Perspective [82.90376711290808]
本稿では,Large Language Models (LLM) の自律運転システムへの統合について検討する。
LLMは行動計画におけるインテリジェントな意思決定者であり、文脈的安全学習のための安全検証シールドを備えている。
適応型LLM条件モデル予測制御(MPC)と状態機械を用いたLLM対応対話型行動計画スキームという,シミュレーション環境における2つの重要な研究について述べる。
論文 参考訳（メタデータ） (2023-11-28T03:13:09Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Towards Compliant Data Management Systems for Healthcare ML [6.057289837472806]
我々は、ソースからストレージまで、ヘルスケアにおける機械学習プロジェクト内のデータフローがどのようにトレーニングアルゴリズムなどに使われるのかをレビューする。
私たちの目標は、プロジェクトのライフサイクル全体にわたって、マシンやユーザ間で機密データを検知し、追跡するツールを設計することにあります。
この領域の難しさを示すソリューションのプロトタイプを構築します。
論文 参考訳（メタデータ） (2020-11-15T15:27:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。