論文の概要: CG-Probes: Recovering Guardrail Directions from Patient Query Embeddings
- arxiv url: http://arxiv.org/abs/2609.31062v1
- Date: Fri, 25 Sep 2026 10:01:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.332856
- Title: CG-Probes: Recovering Guardrail Directions from Patient Query Embeddings
- Title（参考訳）: CG-Probes:患者クエリの埋め込みからガードレールの方向を復元する
- Abstract要約: 患者向けAIアシスタントは、患者に貴重なサポートを提供するが、入ってくるクエリは医療リスクを引き起こす可能性がある。
我々は、腫瘍学者と共同で、医学的緊急性、心理的緊急性、トピック感受性の3つの習慣的リスク軸を定義している。
本稿では,クエリの埋め込みからリスクを測定するために,臨床ガードレールプローブ(CG-Probes)を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Patient-facing AI assistants promise valuable support to patients, but incoming queries can pose medical risks. To create guardrails, we work with oncologists to define three ordinal risk axes: Medical Urgency, Psychological Urgency, and Topic Sensitivity. We propose Clinical Guardrail Probes (CG-Probes) to measure the risks from query embeddings. We probe for each axis in the normalized embedding space of frozen embedders via the difference-in-means method, treating each axis as a potential linear direction. To train the probes, we cluster 79,658 Czech oncology search queries with BERTopic and use these clusters to generate pairs of queries with contrastive risk levels via few-shot prompting. We evaluate the approach on 200 queries (90 real, 110 synthetic), each graded by two oncologists, against two open-weight LLMs and a frontier LLM. We find that urgency-based axes are recoverable as linear directions, and the probes are competitive with open-weight LLMs (no significant differences in quadratic-weighted kappa) at a fraction of the latency. Each axis yields a scalar score that clinicians can inspect and use to set escalation thresholds. The pipeline requires only search logs, axis definitions, and black-box access to the embedding model, suggesting transferability across healthcare domains. Robust validation on new queries and axes remains future work.
- Abstract（参考訳）: 患者向けAIアシスタントは、患者に貴重なサポートを提供するが、入ってくるクエリは医療リスクを引き起こす可能性がある。
ガードレールを作成するために、私たちは腫瘍学者と協力して、医学的緊急、心理学的緊急、およびトピック感受性という3つの習慣的リスク軸を定義します。
本稿では,クエリの埋め込みからリスクを測定するために,臨床ガードレールプローブ(CG-Probes)を提案する。
本研究では, 凍結埋込材の正規化空間における各軸を差分法により探索し, それぞれの軸を電位線形方向として扱う。
プローブのトレーニングには、BERTopicを使って79,658のチェコのオンコロジー検索クエリをクラスタ化し、これらのクラスタを使用して、数発のプロンプトを通じて、対照的なリスクレベルを持つクエリのペアを生成しました。
我々は,200のクエリ(90のリアル,110の合成)に対するアプローチを,オープンウェイトLLMとフロンティアLLMに対して,それぞれ2人の腫瘍学者によって評価した。
切迫軸は線形方向として復元可能であり,プローブは開重み付きLLM(二次重み付きカッパに有意差はない)と競合する。
各軸は、臨床医が検査し、エスカレーション閾値を設定するために使用できるスカラースコアを得る。
パイプラインは、検索ログ、軸の定義、埋め込みモデルへのブラックボックスアクセスのみを必要とし、医療ドメイン間の転送可能性を提案する。
新しいクエリとxに対するロバストな検証は、今後も継続される。
関連論文リスト
- Case2Flow: Bridging Patient Cases and Guideline Flowcharts through Multimodal Retrieval [65.99409194536337]
Case2Flowは、患者に対して最も関連性の高いガイドラインフローチャートを取得するために設計されたタスクである。
FlowAtlasは、2,080の医療ガイドラインから抽出された202のフローチャートのキュレートコーパスである。
CRISPは、非形式的パッチを抑えることで遅延相互作用検索を鋭くする訓練不要スコアリング手法である。
論文 参考訳（メタデータ） (2026-08-26T21:27:22Z) - Beyond Scalar Scores: Exploring LLM-based Metrics for Clinical Significance Evaluation in Radiology Reports [49.5225801722164]
既存のメトリクスは、医学的に根拠のないスカラーにレポートの品質を低下させることによって、この要件を曖昧にしている。
テストベッドとしてReEvalMedベンチマークを用いて,この境界について検討し,計量レベルの臨床的意義を評価する。
論文 参考訳（メタデータ） (2026-06-17T08:10:30Z) - Agentic AI-based Framework for Mitigating Premature Diagnostic Handoff and Silent Hallucination in Healthcare Applications [17.69274632062373]
オープンエンドの会話エージェントは、早期診断ハンドオフとサイレントな臨床幻覚という、2つの重要な障害モードを伴いがちである。
LLM-as-a-judge'のルーティングを決定論的オーケストレーション制約に置き換えることで、両方の問題に対処するマルチエージェントフレームワークを提案する。
本稿では,150症例を対象に,ラマ3.1-70b-インストラクトモデルを用いたシミュレートされた患者エージェントを用いたシステムの評価を行った。
論文 参考訳（メタデータ） (2026-06-16T15:39:19Z) - Exploiting Longitudinal Context in Clinician-Verified Interactive Lesion Tracking [2.597191216052101]
エンドツーエンドのトラッカーは高い自動化を実現しますが、サイレントトラッキングの失敗を修正する機会はありません。
臨床医は,ベースライン病変の出現とともにモデルが活用する登録提案プロンプトを検証する。
提案手法は,完全自動と検証されたトラッキング設定の両方において,先行作業よりも優れる。
論文 参考訳（メタデータ） (2026-05-22T00:37:49Z) - Neuro-Oracle: A Trajectory-Aware Agentic RAG Framework for Interpretable Epilepsy Surgical Prognosis [4.726777092009554]
トラジェクトリベースの分類器は、シングルポイントのResNet-50ベースラインで0.793に対して0.834から0.905のAUC値を達成する。
i) 3Dシームスコントラストエンコーダを用いたコンパクトな512次元トラジェクトリベクトルへの術前MRI変化の除去、(ii)近辺探索による人口アーカイブからの歴史的に類似した外科的トラジェクトリの検索、(iii)定量化を用いて検索された証拠に基づいた自然言語的予後を合成する3段階のフレームワークであるEmphNeuro-Oracleを提案する。
論文 参考訳（メタデータ） (2026-04-10T21:47:25Z) - Representation-Level Adversarial Regularization for Clinically Aligned Multitask Thyroid Ultrasound Assessment [7.520393692451524]
甲状腺超音波検査は、甲状腺結節を検査し、生検が保証されているかどうかを判定するための第一線検査である。
放射線学者は、計測のための結節輪郭と、超音波検査基準に基づくTI-RADSリスクカテゴリの2つの出力を生成する。
単一モデルで結節マスクとTI-RADSのカテゴリを共同で予測する,臨床ガイド付きマルチタスクフレームワークを開発した。
論文 参考訳（メタデータ） (2026-03-22T07:14:43Z) - Benchmarking Egocentric Clinical Intent Understanding Capability for Medical Multimodal Large Language Models [48.95516224614331]
MedGaze-Benchは、臨床医の視線を認知的カーソルとして活用し、手術、緊急シミュレーション、診断解釈における意図的理解を評価する最初のベンチマークである。
本ベンチマークでは,解剖学的構造の視覚的均一性,臨床における時間・因果依存性の厳格化,安全プロトコルへの暗黙の順守という3つの基本的な課題に対処する。
論文 参考訳（メタデータ） (2026-01-11T02:20:40Z) - Grounded by Experience: Generative Healthcare Prediction Augmented with Hierarchical Agentic Retrieval [29.377256313893934]
大規模言語モデル(LLM)は、豊富なパラメトリック知識に基づいて、医療の予測を強化するための有望な道を提供する。
LLMは、組み込み知識の信頼性とカバレッジに制限があるため、事実的不正確な傾向にある。
GHARは,医療におけるサブモジュール間の協調をいつ取得するか,どのように最適化するかを同時に解決する下線構造下線下線下線RAGフレームワークである。
論文 参考訳（メタデータ） (2025-11-17T12:15:46Z) - A Novel Attention-Augmented Wavelet YOLO System for Real-time Brain Vessel Segmentation on Transcranial Color-coded Doppler [49.03919553747297]
我々は,脳動脈を効率よく捉えることができるAIを利用したリアルタイムCoW自動分割システムを提案する。
Transcranial Color-coded Doppler (TCCD) を用いたAIによる脳血管セグメンテーションの事前研究は行われていない。
提案したAAW-YOLOは, 異方性および対側性CoW容器のセグメンテーションにおいて高い性能を示した。
論文 参考訳（メタデータ） (2025-08-19T14:41:22Z) - Towards Regulatory-Confirmed Adaptive Clinical Trials: Machine Learning Opportunities and Solutions [59.28853595868749]
本研究は,全人口と低給付人口の規制制約と治療方針値を統合した将来の臨床試験の新たな2つの目的を紹介する。
我々は、第III相臨床試験を設計するための新しい枠組みであるRFAN(Randomize First Augment Next)を定式化する。
我々のフレームワークは、標準的なランダム化コンポーネントと適応コンポーネントから構成されており、臨床試験中に患者を効率よく安全に獲得し、患者を治療アームに割り当てることを目的としている。
論文 参考訳（メタデータ） (2025-03-12T10:17:54Z) - A Deep Learning Approach to Predicting Collateral Flow in Stroke
Patients Using Radiomic Features from Perfusion Images [58.17507437526425]
側方循環は、血流を妥協した領域に酸素を供給する特殊な無酸素流路から生じる。
実際のグレーティングは主に、取得した画像の手動検査によって行われる。
MR灌流データから抽出した放射線学的特徴に基づいて,脳卒中患者の側方血流低下を予測するための深層学習手法を提案する。
論文 参考訳（メタデータ） (2021-10-24T18:58:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。