論文の概要: Benchmarking and Mitigate Psychological Sycophancy in Medical Vision-Language Models

• arxiv url: http://arxiv.org/abs/2509.21979v1
• Date: Fri, 26 Sep 2025 07:02:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-29 20:57:54.255085
• Title: Benchmarking and Mitigate Psychological Sycophancy in Medical Vision-Language Models
• Title（参考訳）: 医用視覚言語モデルにおける心理症状のベンチマークと緩和
• Authors: Zikun Guo, Xinyue Xu, Pei Xiang, Shu Yang, Xin Han, Di Wang, Lijie Hu,
• Abstract要約: 視覚言語モデルは、しばしば、証拠に基づく推論よりも、社会的手がかりや認識された権威を記述したユーザーとの整合性に優先順位を付ける、幻想的行動を示す。 本研究は, 新規な臨床評価基準を用いて, 医用視覚質問応答における臨床症状について検討した。
• 参考スコア（独自算出の注目度）: 21.353225217216252
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision language models(VLMs) are increasingly integrated into clinical workflows, but they often exhibit sycophantic behavior prioritizing alignment with user phrasing social cues or perceived authority over evidence based reasoning. This study evaluate clinical sycophancy in medical visual question answering through a novel clinically grounded benchmark. We propose a medical sycophancy dataset construct from PathVQA, SLAKE, and VQA-RAD stratified by different type organ system and modality. Using psychologically motivated pressure templates including various sycophancy. In our adversarial experiments on various VLMs, we found that these models are generally vulnerable, exhibiting significant variations in the occurrence of adversarial responses, with weak correlations to the model accuracy or size. Imitation and expert provided corrections were found to be the most effective triggers, suggesting that the models possess a bias mechanism independent of visual evidence. To address this, we propose Visual Information Purification for Evidence based Response (VIPER) a lightweight mitigation strategy that filters non evidentiary content for example social pressures and then generates constrained evidence first answers. This framework reduces sycophancy by an average amount outperforming baselines while maintaining interpretability. Our benchmark analysis and mitigation framework lay the groundwork for robust deployment of medical VLMs in real world clinician interactions emphasizing the need for evidence anchored defenses.
• Abstract（参考訳）: ヴィジュアル言語モデル(VLM)は、ますます臨床ワークフローに統合されているが、彼らはしばしば、社会的手がかりや証拠に基づく推論に対する認知的な権威をユーザの表現と一致させることを優先して、サイコファンティックな行動を示す。 本研究は, 新規な臨床評価基準を用いて, 医用視覚質問応答における臨床症状について検討した。 そこで我々は,PathVQA,SLAKE,VQA-RADを,異なるタイプの臓器系とモダリティで成層した医療用サイコファシーデータセットを提案する。 様々なサイコファンシーを含む心理的に動機付けられた圧力テンプレートを使用する。 種々のVLMの対向実験において,これらのモデルは一般に脆弱であり,対向応答の発生に有意なばらつきを示し,モデルの精度やサイズに弱い相関関係が認められた。 シミュレーションと専門家による補正は最も効果的なトリガーであることが判明し、モデルが視覚的証拠とは無関係にバイアス機構を持っていることが示唆された。 そこで本稿では,例えば社会的圧力などの非明らかなコンテンツをフィルタリングし,制約付きエビデンスファーストの回答を生成する軽量な緩和戦略として,視覚情報浄化による証拠ベース応答(VIPER)を提案する。 このフレームワークは、解釈可能性を維持しながら、平均的な平均的なベースライン性能により、サイコフィナンシーを低下させる。 我々のベンチマーク分析と緩和フレームワークは、実世界における医療用VLMの堅牢な展開の基盤を築き、証拠の固定された防御の必要性を強調した。

関連論文リスト

• EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
  医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。 ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。 医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
  論文  参考訳（メタデータ） (2025-09-24T14:09:55Z)
• Automated Clinical Problem Detection from SOAP Notes using a Collaborative Multi-Agent LLM Architecture [8.072932739333309]
  我々は,このギャップに対処するために,臨床相談チームをモデル化する共同マルチエージェントシステム(MAS)を導入する。 このシステムは、SOAPノートの主観的(S)および目的的(O)セクションのみを分析することによって、臨床上の問題を特定する。 マネージャエージェントは、階層的で反復的な議論に従事し、合意に達するために、動的に割り当てられた専門家エージェントのチームを編成する。
  論文  参考訳（メタデータ） (2025-08-29T17:31:24Z)
• GEMeX-ThinkVG: Towards Thinking with Visual Grounding in Medical VQA via Reinforcement Learning [50.94508930739623]
  医学的視覚的質問応答は、医学的イメージに基づいた自然言語的質問にモデルで答えることによって、臨床的な意思決定を支援することを目的としている。 現状の手法は, 信頼性の限界や解釈可能性の低下に悩まされており, 臨床医や患者がモデル生成の回答を理解し, 信頼する能力が損なわれている。 この研究はまず、回答生成を中間的推論ステップに分解するThinking with Visual Groundingデータセットを提案する。 本稿では,強化学習のための新たな報奨機構を導入し,モデル推論プロセスと最終解の整合性を改善した。
  論文  参考訳（メタデータ） (2025-06-22T08:09:58Z)
• DeVisE: Behavioral Testing of Medical Large Language Models [14.832083455439749]
  DeVisEは、きめ細かい臨床的理解を求めるための行動テストフレームワークである。 我々はMIMIC-IVからICU排出音符のデータセットを構築した。 汎用型および医療用微調整型にまたがる5種類のLSMについて検討した。
  論文  参考訳（メタデータ） (2025-06-18T10:42:22Z)
• SURE-VQA: Systematic Understanding of Robustness Evaluation in Medical VQA Tasks [2.033441577169909]
  VLM(Vision-Language Models)は、VQA(Visual Question Answering)のような医療タスクにおいて大きな可能性を秘めている。 目に見えないデータに対する分散シフトに対する堅牢性は、安全なデプロイメントにとって重要な関心事です。 私たちは、現在の落とし穴を克服する3つの重要な要件を中心に、SURE-VQAと呼ばれる新しいフレームワークを紹介します。
  論文  参考訳（メタデータ） (2024-11-29T13:22:52Z)
• Sycophancy in Vision-Language Models: A Systematic Analysis and an Inference-Time Mitigation Framework [18.54098084470481]
  本稿では,視覚言語ベンチマーク間のサイコフィナンシーを分析し,推論時間緩和フレームワークを提案する。 我々のフレームワークは、中立なプロンプトの性能を維持しながら、評価されたすべてのモデルでサイコフィナンシーを効果的に軽減します。
  論文  参考訳（メタデータ） (2024-08-21T01:03:21Z)
• Robust and Interpretable Medical Image Classifiers via Concept Bottleneck Models [49.95603725998561]
  本稿では,自然言語の概念を用いた堅牢で解釈可能な医用画像分類器を構築するための新しいパラダイムを提案する。 具体的には、まず臨床概念をGPT-4から検索し、次に視覚言語モデルを用いて潜在画像の特徴を明示的な概念に変換する。
  論文  参考訳（メタデータ） (2023-10-04T21:57:09Z)
• Bayesian Networks for the robust and unbiased prediction of depression and its symptoms utilizing speech and multimodal data [65.28160163774274]
  我々は,抑うつ,抑うつ症状,および,胸腺で収集された音声,表情,認知ゲームデータから得られる特徴の関連性を把握するためにベイズ的枠組みを適用した。
  論文  参考訳（メタデータ） (2022-11-09T14:48:13Z)
• Proactive Pseudo-Intervention: Causally Informed Contrastive Learning For Interpretable Vision Models [103.64435911083432]
  PPI(Proactive Pseudo-Intervention)と呼ばれる新しい対照的な学習戦略を提案する。 PPIは、因果関係のない画像の特徴を保護するために積極的に介入する。 また,重要な画像画素を識別するための,因果的に通知された新たなサリエンスマッピングモジュールを考案し,モデル解釈の容易性を示す。
  論文  参考訳（メタデータ） (2020-12-06T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。