論文の概要: Inhibitory Attention for Clinical Long-Context Reasoning: Characterizing and Mitigating Lost-in-the-Middle Effects in EHR Processing
- arxiv url: http://arxiv.org/abs/2608.20348v1
- Date: Mon, 15 Jun 2026 16:26:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.275496
- Title: Inhibitory Attention for Clinical Long-Context Reasoning: Characterizing and Mitigating Lost-in-the-Middle Effects in EHR Processing
- Title（参考訳）: 慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期における慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期における慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期における慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期慢性期における慢性期
- Abstract要約: 大規模言語モデルは、失われた中間子(LitM)効果を示す。
臨床的には、これは良心的ではない。メモの中の最も連続した事実は、その中心に置かれる。
我々は、この問題をCLitM問題と呼び、MedAlignを用いた最初の体系的特徴を与え、文脈選択戦略を治療として比較する。
- 参考スコア（独自算出の注目度）: 0.6768558752130311
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Electronic health records now routinely exceed 100,000 tokens per patient. Yet large language models exhibit the lost-in-the-middle (LitM) effect: information near the center of a long context is retrieved less reliably than information near the edges. In clinical use this is not benign: the single most consequential fact in a note can sit at its center. We term this the clinical lost-in-the-middle (CLitM) problem, give its first systematic characterization using MedAlign, and compare context-selection strategies as remedies. Across 2,196 instruction-response pairs and six language models, we observe a 21.9 percentage-point gap between peak accuracy (59.5%, 95% CI [46.3, 71.0], 20-30% decile) and trough accuracy (37.6% [23.2, 52.5] at 70-80%); 67.8% of reference answers fall between the 10th and 90th percentiles of the EHR timeline, inside the CLitM trough. We introduce Query-Conditioned Clinical Suppression (QCCS), a lightweight query-conditioned selection gate, and evaluate it against BM25, BM25 with section-header filtering, dense retrieval, and cross-encoder reranking (N=83 held-out instructions). With Qwen2.5-7B-Instruct (16k context), QCCS outperforms all five comparators under LLM-as-judge scoring: for middle-position instructions QCCS reaches 16.7% versus BM25 3.3%, cross-encoder 0.0%, dense 0.0%, and full context 6.7%; overall QCCS reaches 25.3% versus at most 3.6% for retrieval-only comparators. This advantage is not explained by retrieval recall: at k=20, BM25 retrieves the gold evidence sentence in 98.8% of instructions (QCCS 34.9%), yet retrieval arms stay at most 2.6% accurate even when they retrieve it, whereas QCCS reaches 25.0% even when it does not. In this proof-of-concept evaluation, query-aligned context selection predicts EHR instruction-following accuracy better than gold-sentence retrieval recall.
- Abstract（参考訳）: 現在、電子カルテは患者1人当たり10万枚を超えている。
しかし、大きな言語モデルはミドル・イン・ザ・ミドル(LitM)効果を示しており、長いコンテキストの中心付近の情報はエッジ付近の情報よりも信頼性が低い。
臨床的には、これは良心的ではない。メモの中の最も連続した事実は、その中心に置かれる。
我々は、この問題をCLitM問題と呼び、MedAlignを用いた最初の体系的特徴を与え、文脈選択戦略を治療として比較する。
2,196対の命令応答対と6つの言語モデルにまたがって、ピーク精度(59.5%、95% CI [46.3, 71.0]、20-30% deile)とトラフ精度(37.6% [23.2, 52.5]、70-80%)の21.9ポイントの差を観察した。
本稿では,軽量なクエリ条件選択ゲートであるQCCS(Query-Conditioned Clinical Suppression)を導入し,セクションヘッダフィルタリング,高密度検索,クロスエンコーダリグレード(N=83のホールドアウト命令)によるBM25,BM25と比較した。
QCCSはLLM-as-judgeのスコアで5つのコンパレータを上回り、中位の命令ではQCCSが16.7%、BM25.3%、クロスエンコーダが0.0%、密な0.0%、フルコンテキストが6.7%、全体のQCCSが25.3%、検索専用コンパレータが3.6%である。
k=20では、BM25は98.8%の命令(QCCS 34.9%)で金の証拠を回収するが、検索アームは回収しても2.6%は正確であり、QCCSは25.0%に達する。
この概念実証評価において、クエリ整合コンテキスト選択は、ゴールド文検索のリコールよりもEHR命令追従精度がよいと予測する。
関連論文リスト
- Annotated Surrogate Retrieval for Polish Statutory Law [0.0]
本稿では,文書代理法に基づくポーランド法典の検索方法のファミリについて述べる。
ASCRはサロゲートカスケードであり、ASCR-Hはそのカスケードに密度の高いリストを融合させ、DTFは言語モデルの両方のステージを3つの語彙と密度の高いレトリバーで置き換える。
2024年と2025年のポーランドの弁護士試験と法律顧問試験の300問に対して,これら3項目について,語彙,密集度,融解度,融解度と4つの基準値とを比較検討した。
論文 参考訳（メタデータ） (2026-08-31T15:05:00Z) - Benchmarking Open-Source Speech Emotion Recognition in Naturalistic Mandarin Spine Clinic Consultations: A Pilot Validation Study [5.110846032142439]
音声感情認識(SER)は、臨床診断における受動的影響モニタリングを可能にする。
我々は,3つのオープンソースSERモデルを,自然主義的スピン・クリニック音声における研究者合意基準と比較した。
高いインターモデル(90.8%)にもかかわらず、全てのモデルはサッド、フィア、アンガー、ニュートラル、サプライズドをほぼゼロにリコールした。
論文 参考訳（メタデータ） (2026-08-24T13:36:23Z) - A Pathology Foundation Model for Gastric Cancer with Real-World Validation [47.19073124722865]
本稿では,実世界評価と臨床dEcision支援のための,胃科固有の基礎モデルであるGRACEについて述べる。
GRACEは, 症例37,493例のHE-stained whole-slide画像を中心に, 48,364例の多施設で開発された。
高齢の病理医に非劣性パフォーマンスを維持するように調整された場合、AI支援のワークフローは萎縮の60.7%、腸転移の82.7%をトリアージする可能性がある。
論文 参考訳（メタデータ） (2026-06-03T12:18:06Z) - When Chain-of-Thought Backfires: Evaluating Prompt Sensitivity in Medical Language Models [2.064612766965483]
MedMCQA(4,183質問)とPubMedQA(1,000質問)でMedGemma(4Bおよび27Bパラメータ)を評価する。
実験の結果,いくつかの知見が得られた。
論文 参考訳（メタデータ） (2026-03-26T23:04:20Z) - From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。
商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。
低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
論文 参考訳（メタデータ） (2026-03-02T13:02:13Z) - PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology [48.732366302949515]
大規模言語モデル(LLM)は、標準化された検査において専門家レベルの性能を達成したが、複数の選択精度は現実の臨床的有用性や安全性を十分に反映していない。
我々は、未確認患者の質問に対して、専門家のルーブリックを作成するための、ループ内人間パイプラインを開発した。
LLM-as-a-judge フレームワークを用いて,22のプロプライエタリおよびオープンソース LLM の評価を行い,臨床完全性,事実精度,Web-search 統合について検討した。
論文 参考訳（メタデータ） (2026-03-02T00:50:39Z) - Mechanistically Guided LoRA Improves Paraphrase Consistency in Medical Vision-Language Models [2.064612766965483]
医療ビジョンランゲージモデルでは、同じ臨床的疑問の言い換えに対して、異なるイエスまたはノーの回答を与えることができる。
PSF-Med Sadanandan と Behzadan (2025) を用いて MedGemma-4B でこれを研究した。
パラフレーズ整合性と解答精度のバランスをとるために,ローランド適応 (LoRA) アダプタを併用して微調整する。
論文 参考訳（メタデータ） (2026-02-24T23:30:50Z) - Beyond Long Context: When Semantics Matter More than Tokens [0.0]
Electronic Health Recordsは、FHIR DocumentReferenceリソースにエンコードされたbase64アタッチメントとして、臨床ドキュメントを保存している。
Lopezらによって導入されたクリニカルエンティティ拡張検索(CLEAR)法は、エンティティ認識検索を使用している。
CLEARは58.3%の勝利率を達成し、平均的な意味的類似度は0.878であり、幅広いコンテキスト処理よりも78%少ないトークンを使用した。
論文 参考訳（メタデータ） (2025-10-29T16:41:44Z) - MedOmni-45°: A Safety-Performance Benchmark for Reasoning-Oriented LLMs in Medicine [69.08855631283829]
我々は,操作的ヒント条件下での安全性能トレードオフの定量化を目的としたベンチマークであるMed Omni-45 Degreesを紹介する。
6つの専門分野にまたがる1,804の推論に焦点を当てた医療質問と3つのタスクタイプが含まれており、その中にはMedMCQAの500が含まれる。
結果は、モデルが対角線を超えることなく、一貫した安全性と性能のトレードオフを示す。
論文 参考訳（メタデータ） (2025-08-22T08:38:16Z) - An Agentic System for Rare Disease Diagnosis with Traceable Reasoning [69.46279475491164]
大型言語モデル(LLM)を用いた最初のまれな疾患診断エージェントシステムであるDeepRareを紹介する。
DeepRareは、まれな疾患の診断仮説を分類し、それぞれに透明な推論の連鎖が伴う。
このシステムは2,919の疾患に対して異常な診断性能を示し、1013の疾患に対して100%の精度を達成している。
論文 参考訳（メタデータ） (2025-06-25T13:42:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。