論文の概要: The Impact of Ideological Discourses in RAG: A Case Study with COVID-19 Treatments

• arxiv url: http://arxiv.org/abs/2603.14838v1
• Date: Mon, 16 Mar 2026 05:32:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-17 16:19:36.069224
• Title: The Impact of Ideological Discourses in RAG: A Case Study with COVID-19 Treatments
• Title（参考訳）: RAGにおけるイデオロギー的談話の影響 : 新型コロナウイルス治療を事例として
• Authors: Elmira Salari, Maria Claudia Nunes Delfino, Hazem Amamou, José Victor de Souza, Shruti Kshirsagar, Alan Davoust, Anderson Avila,
• Abstract要約: 本稿では,検索したイデオロギーテキストが大規模言語モデル(LLM)の出力に及ぼす影響について検討する。 当コーパスは, 議論の的, 支持された治療に関する論議を要約した1,117の学術論文に基づいている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper studies the impact of retrieved ideological texts on the outputs of large language models (LLMs). While interest in understanding ideology in LLMs has recently increased, little attention has been given to this issue in the context of Retrieval-Augmented Generation (RAG). To fill this gap, we design an external knowledge source based on ideological loaded texts about COVID-19 treatments. Our corpus is based on 1,117 academic articles representing discourses about controversial and endorsed treatments for the disease. We propose a corpus linguistics framework, based on Lexical Multidimensional Analysis (LMDA), to identify the ideologies within the corpus. LLMs are tasked to answer questions derived from three identified ideological dimensions, and two types of contextual prompts are adopted: the first comprises the user question and ideological texts; and the second contains the question, ideological texts, and LMDA descriptions. Ideological alignment between reference ideological texts and LLMs' responses is assessed using cosine similarity for lexical and semantic representations. Results demonstrate that LLMs' responses based on ideological retrieved texts are more aligned with the ideology encountered in the external knowledge, with the enhanced prompt further influencing LLMs' outputs. Our findings highlight the importance of identifying ideological discourses within the RAG framework in order to mitigate not just unintended ideological bias, but also the risks of malicious manipulation of such models.
• Abstract（参考訳）: 本稿では,検索したイデオロギーテキストが大規模言語モデル(LLM)の出力に与える影響について検討する。 LLMにおけるイデオロギーの理解への関心は近年高まっているが、レトリーバル強化世代(RAG)の文脈では、この問題にはほとんど関心が寄せられていない。 このギャップを埋めるために、新型コロナウイルス治療に関するイデオロギー的なテキストに基づく外部知識ソースを設計する。 当コーパスは, 議論の的, 支持された治療に関する論議を要約した1,117の学術論文に基づいている。 コーパス内のイデオロギーを特定するために,Lexical Multidimensional Analysis (LMDA)に基づくコーパス言語フレームワークを提案する。 LLMは3つの識別されたイデオロギー的次元から導かれる質問に答えることが義務付けられており、第1はユーザ質問とイデオロギー的テキスト、第2は質問、イデオロギー的テキスト、LMDA記述を含む2種類の文脈的プロンプトが採用されている。 参照イデオロギーテキストとLLMの応答のイデオロギー的アライメントは,語彙的および意味的表現のコサイン類似性を用いて評価される。 その結果, LLMの応答は, 外部知識に現れるイデオロギーとより一致しており, LLMの出力にさらに影響を与えることが示唆された。 本研究は,意図しないイデオロギーバイアスを緩和するために,RAGフレームワーク内でイデオロギー的言説を識別することが重要であること,また,そのようなモデルに対する悪意的な操作のリスクも浮き彫りにしている。

関連論文リスト

• Understanding Textual Capability Degradation in Speech LLMs via Parameter Importance Analysis [54.53152524778821]
  言語モデル(LLM)への音声の統合は、その能力を大幅に拡張したが、多くの場合、中核となるテキスト能力の弱さを犠牲にしている。 本稿では,パラメータ重要度推定に基づく分析フレームワークを提案する。 レイヤワイズ学習率スケジューリングとローランド適応(LoRA)の2つの緩和戦略について検討する。 実験結果から,両手法は完全な微調整よりもテキスト能力の維持が良好であるとともに,下流の質問応答性能も向上していることがわかった。
  論文  参考訳（メタデータ） (2025-09-28T09:04:40Z)
• Decoding the Mind of Large Language Models: A Quantitative Evaluation of Ideology and Biases [0.276240219662896]
  大規模言語モデル(LLM)を評価するための新しいフレームワークを提案する。 このフレームワークをChatGPTとGeminiに適用することにより、LLMは一般的に多くのトピックについて一貫した意見を保っているが、そのイデオロギーはモデルや言語によって異なることがわかった。 どちらのモデルも問題のある偏見、非倫理的または不公平な主張を示しており、社会に悪影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2025-05-18T00:52:06Z)
• Probing the Subtle Ideological Manipulation of Large Language Models [0.3745329282477067]
  大規模言語モデル (LLM) は自然言語処理に変化をもたらしたが、イデオロギー操作への感受性に懸念が持たれている。 本稿では,イデオロギー的QA,ステートメントランキング,マニフェスト・クローゼ完了,議会法案理解などのタスクを通じて,多様なイデオロギー的位置を反映する新しいマルチタスクデータセットを提案する。 以上の結果から,微調整によりニュアンス的なイデオロギー的アライメントが著しく向上する一方,明示的なプロンプトは軽微な改善しか得られないことが示唆された。
  論文  参考訳（メタデータ） (2025-04-19T13:11:50Z)
• Talking Point based Ideological Discourse Analysis in News Events [62.18747509565779]
  本稿では,イデオロギー的談話分析理論をモチベーションとして,実世界の出来事に関するニュース記事を分析する枠組みを提案する。 我々のフレームワークは,話題のトピックとともに,エンティティ,役割,メディアフレーム間の相互作用を捉えた,会話ポイントという関係構造を用いたニュース記事を表現している。 我々は,人間の検証によって補足されたイデオロギーや分派的分類タスクを通じて,これらの視点を自動で生成するフレームワークの能力を評価する。
  論文  参考訳（メタデータ） (2025-04-10T02:52:34Z)
• Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Categorical Syllogisms Revisited: A Review of the Logical Reasoning Abilities of LLMs for Analyzing Categorical Syllogism [62.571419297164645]
  本稿では,分類的シロジズムを解析するための大規模言語モデルの論理的推論能力に関する先行研究を体系的に概説する。 まず、純粋に論理的な観点から分類的シロジズムの可能なバリエーションについて検討する。 次に、既存のデータセットでテストされた基本的な設定(ムードとフィギュア)を調べます。
  論文  参考訳（メタデータ） (2024-06-26T21:17:20Z)
• Measurement in the Age of LLMs: An Application to Ideological Scaling [1.9413548770753526]
  本稿では,大規模言語モデル(LLM)を用いて,社会科学的測定タスクに固有の概念的乱雑を探索する。 我々は、議員とテキストの両方のイデオロギー的尺度を引き出すために、LLMの顕著な言語的流布に依存している。
  論文  参考訳（メタデータ） (2023-12-14T18:34:06Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。