Fugu-MT 論文翻訳(概要): Clinical Concept Centers in LLMs

論文の概要: Clinical Concept Centers in LLMs

arxiv url: http://arxiv.org/abs/2610.02829v2
Date: Mon, 05 Oct 2026 06:20:29 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-07 04:43:28.535851
Title: Clinical Concept Centers in LLMs
Title（参考訳）: LLMのコンセプトセンター
Abstract要約: テストした11のオープンモデルの潜在領域に、専用の臨床コンセプトセンターがあります。これらのコンセプトセンターは解釈可能であり、整列した臨床物語のみを発射し、制約された設定とオープンな設定の両方において、意味的かつ因果的にモデルの振る舞いを駆動する。
参考スコア（独自算出の注目度）: 4.543691080854043
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large language models are increasingly used in clinical settings. However, research into the reliability and performance of these models has focused almost entirely on the language substrate, scoring what the model says. Mechanistic interpretability has found that the latent space carries a higher fidelity of representation than the text: internal representations not only encode substantially more than the output verbalizes, but the stated reasoning also systematically omits features that causally drive the answer. An evaluation of model behavior in terms of mechanistic interpretability has not been explored in clinical decision support. In this work, we extend behavioral evaluation into the latent space and ask whether clinical concepts exist as locatable, causally used representations inside open-weight LLMs. We find dedicated clinical concept centers in the latent space of all eleven open models we test. These concept centers are interpretable, firing only on their aligned clinical narratives, and meaningfully and causally drive model behavior in both constrained and open-ended settings. They are not just analytical representations, but circuits that can be utilized in clinical practice, and we explore their use from the perspective of both evaluation and performance. From the evaluation standpoint, models stay internally coherent and keep using the relevant concept centers even under adversarial role-based priming, while aligned priming improves downstream clinical performance. From a performance perspective, we simulate realistic deployment settings and find that steering models along these centers leads to meaningful downstream improvements. Finally, we conduct a blinded clinician validation and find the activation and usage of these concept centers predicts clinicians preferences.
Abstract（参考訳）: 大規模な言語モデルは、臨床現場での使用が増えている。しかしながら、これらのモデルの信頼性と性能に関する研究は、ほぼ完全に言語基板に焦点を合わせ、モデルが言っていることを評価する。機械論的解釈可能性 (Mechanistic interpretability) は、潜在空間はテキストよりも表現の忠実度が高いことを発見した:内部表現は出力の動詞化よりもかなり多くエンコードするだけでなく、記述された推論は、答えを因果的に駆動する特徴を体系的に省略する。メカニスティック・インタプリタビリティの観点からのモデル行動の評価は,臨床診断支援では行われていない。本研究は, 行動評価を潜在空間に拡張し, オープンウェイトLSM内の因果的表現として, 臨床概念が存在するかどうかを問うものである。テストした11のオープンモデルの潜在領域に、専用の臨床コンセプトセンターがあります。これらのコンセプトセンターは解釈可能であり、整列した臨床物語のみを発射し、制約された設定とオープンな設定の両方において、意味的かつ因果的にモデルの振る舞いを駆動する。これらは単なる分析的表現ではなく、臨床実践に利用できる回路であり、評価と性能の両面からそれらの利用を探求する。評価の観点からは、モデルは内部的に一貫性を維持し、敵対的な役割に基づくプライミングの下でも関連するコンセプトセンターを使い続ける一方で、アライメントプライミングは下流の臨床的パフォーマンスを向上させる。パフォーマンスの観点からは、現実的なデプロイメント設定をシミュレートして、これらの中心に沿ったステアリングモデルが、意味のある下流の改善につながることを見つけます。最後に,視覚障害者の診察を行い,これらの概念センターの活性化と利用が臨床医の嗜好を予測する。

関連論文リスト

Analyzing and Improving Fine-grained Preference Optimization in Medical LVLMs [53.697403481143404]
LVLM(Large Vision-Language Models)は、医用画像処理タスクにおいて強力なパフォーマンスを実現している。しかし、実際の不整合、視力の低下、臨床的に有意義なフィードバックによる不一致が続く傾向にある。
論文参考訳（メタデータ） (2026-06-10T18:35:36Z)
Learning from Noisy Prompts: Saliency-Guided Prompt Distillation for Robust Segmentation with SAM [46.344226429758606]
Segment Anything Model (SAM)は強力なゼロショット機能を提供するが、弱い、汎用的でノイズの多いプロンプトの下で崩壊し、実際の臨床を支配している。 SPDは、信頼できないキューを堅牢なガイダンスに変換する、塩分誘導型プロンプト蒸留フレームワークである。 SPDは、既存のSAM適応を一貫して上回り、リージョンベースとバウンダリベースの両方で大きな利益をもたらす。
論文参考訳（メタデータ） (2026-04-25T14:09:11Z)
A Practical Guide Towards Interpreting Time-Series Deep Clinical Predictive Models: A Reproducibility Study [13.086799883102634]
本稿では,様々な臨床予測タスクとモデルアーキテクチャの相互解釈可能性の評価を行う。本分析により,モデル予測を忠実に解釈する手法として,適切に活用した場合の注意が極めて効率的であることが判明した。いくつかの解釈可能性アプローチは信頼できないので信頼できない。
論文参考訳（メタデータ） (2026-03-25T21:33:56Z)
Clinical Cognition Alignment for Gastrointestinal Diagnosis with Multimodal LLMs [63.535652574541764]
MLLM(Multimodal Large Language Models)は医用画像解析において顕著な可能性を示した。消化器内視鏡におけるそれらの応用は、現在、2つの重要な限界によって妨げられている。本稿では,これらの課題に対処する新しい臨床認知アライメント(CogAlign)フレームワークを提案する。
論文参考訳（メタデータ） (2026-03-21T07:47:37Z)
ClinCoT: Clinical-Aware Visual Chain-of-Thought for Medical Vision Language Models [24.19721015692576]
そこで我々は,ClinCoTを提案することで,好みの最適化を応答レベルの補正から視覚駆動推論へ変換する。 ClinCoTは,従来の嗜好に基づくアライメント手法と比較して,事実上のグラウンド化を一貫して改善し,優れた性能を実現することを示す。
論文参考訳（メタデータ） (2026-03-01T14:15:54Z)
AgentsEval: Clinically Faithful Evaluation of Medical Imaging Reports via Multi-Agent Reasoning [73.50200033931148]
本稿では,放射線科医の協調診断ワークフローをエミュレートしたマルチエージェントストリーム推論フレームワークであるAgensEvalを紹介する。評価プロセスを基準定義、エビデンス抽出、アライメント、一貫性スコアなどの解釈可能なステップに分割することで、AgensEvalは明確な推論トレースと構造化された臨床フィードバックを提供する。実験結果から,AgensEvalは,言い換え,意味的,スタイリスティックな摂動の下でも頑健な臨床的整合性,意味的忠実性,解釈可能な評価を提供することが示された。
論文参考訳（メタデータ） (2026-01-23T11:59:13Z)
Benchmarking Egocentric Clinical Intent Understanding Capability for Medical Multimodal Large Language Models [48.95516224614331]
MedGaze-Benchは、臨床医の視線を認知的カーソルとして活用し、手術、緊急シミュレーション、診断解釈における意図的理解を評価する最初のベンチマークである。本ベンチマークでは,解剖学的構造の視覚的均一性,臨床における時間・因果依存性の厳格化,安全プロトコルへの暗黙の順守という3つの基本的な課題に対処する。
論文参考訳（メタデータ） (2026-01-11T02:20:40Z)
Simulating Viva Voce Examinations to Evaluate Clinical Reasoning in Large Language Models [51.91760712805404]
大規模言語モデル(LLM)におけるシーケンシャルな臨床推論を評価するためのベンチマークであるVivaBenchを紹介する。本データセットは,医療訓練における(口頭)検査をシミュレートする対話的シナリオとして構成された1762名の医師による臨床ヴィグネットから構成される。本分析では,臨床における認知的誤りを反映するいくつかの障害モードを同定した。
論文参考訳（メタデータ） (2025-10-11T16:24:35Z)
Interpretable Clinical Classification with Kolgomorov-Arnold Networks [70.72819760172744]
Kolmogorov-Arnold Networks (KAN) は、透明で象徴的な表現を通じて固有の解釈能力を提供する。 Kansは、組み込みの患者レベルの洞察、直感的な可視化、最寄りの患者の検索をサポートする。これらの結果は、カンを、臨床医が理解し、監査し、行動できる信頼できるAIへの有望なステップと位置づけている。
論文参考訳（メタデータ） (2025-09-20T17:21:58Z)
Language Model Training Paradigms for Clinical Feature Embeddings [1.4513150969598638]
言語モデルのための自己教師型トレーニングパラダイムを用いて,高品質な臨床機能埋め込みを学習する。教師なし次元縮小技術を用いて学習者の埋め込みを可視化し,先行臨床知識と高度に整合性を観察する。
論文参考訳（メタデータ） (2023-11-01T18:23:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。