論文の概要: On Epistemic Diversity in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.04835v1
• Date: Fri, 04 Sep 2026 07:49:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:23.963544
• Title: On Epistemic Diversity in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける疫学的多様性について
• Abstract要約: 大きな言語モデル(LLM)は、質問に答えたり、説明したり、教えたり、質問をサポートするためにますます使われています。 認識の多様性は,LLMが知識集約的なタスクを支援するために使用される設定において有用な評価指標である,と我々は主張する。
• 参考スコア（独自算出の注目度）: 4.782109253713878
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly used not only to retrieve information, but to answer questions, explain, teach, and support inquiry. In such settings, evaluation cannot be exhausted by accuracy or alignment alone. A system may give a correct answer while still narrowing users' access %to knowledge. to alternative valid answers, explanations, or reasoning routes. Drawing on the broader notion of epistemic diversity in philosophy and social epistemology, we formalize it in the context of LLMs as the range of valid answers, explanations, and reasoning routes that an LLM exposes to users. We argue that epistemic diversity is a useful evaluation dimension for settings where LLMs are used to support knowledge-intensive tasks. We propose a preliminary framework for conceptualizing and measuring epistemic diversity in LLMs, and operationalize it in two domains. We find that frontier LLMs often exhibit epistemic narrowness, repeatedly collapsing large valid answer spaces onto small canonical subsets. These findings suggest that LLM evaluation should move beyond accuracy-oriented paradigms and treat epistemic diversity as an important dimension of model capability.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、情報検索だけでなく、質問に答え、説明し、教え、調査を支援するためにも使われるようになっている。 このような設定では、精度やアライメントだけで評価を消耗することはできない。 システムは、ユーザーの知識へのアクセスを1%制限しながら、正しい答えを与えることができる。 有効な答えや説明 推論の道程を 決めることができます 哲学・社会認識学における疫学の多様性というより広い概念に基づいて,LLMがユーザに提示する有効な回答,説明,推論経路の範囲として,LLMの文脈で定式化する。 認識の多様性は,LLMが知識集約的なタスクを支援するために使用される設定において有用な評価指標である,と我々は主張する。 LLMの上皮多様性を概念化し,測定するための予備的枠組みを提案し,それを2つの領域で運用する。 We found that frontier LLMs showed epistemic narrowness, repeatsing large valid answer space to small canonical subsets。 これらの結果から, LLM評価は, 精度指向のパラダイムを超えて, てんかんの多様性をモデル能力の重要な次元として扱うべきであることが示唆された。

関連論文リスト

• Surrogate modeling for interpreting black-box LLMs in medical predictions [8.695036823219393]
  大規模言語モデル(LLM)は、パラメータ内の広範囲の現実世界の知識を符号化するが、そのブラックボックスの性質は、この符号化のメカニズムと範囲を曖昧にしている。 LLM符号化知識を定量的に説明する代理モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-22T08:26:23Z)
• Alignment Revisited: Are Large Language Models Consistent in Stated and Revealed Preferences? [5.542420010310746]
  批判的だが、未調査の問題は、LLMが明記した嗜好と明らかにした嗜好との潜在的な相違である。 この研究は正式に定義され、この選好偏差を測定する方法を提案する。 我々の研究は、LDMをサービス、特に人間と直接対話するサービスに統合するために不可欠です。
  論文  参考訳（メタデータ） (2025-05-31T23:38:48Z)
• From Promising Capability to Pervasive Bias: Assessing Large Language Models for Emergency Department Triage [6.135648377533492]
  大規模言語モデル (LLM) は, 臨床診断支援において有望であるが, トライアージへの応用は未定である。 救急部門トリアージにおけるLCMの能力について,2つの重要な側面を通して体系的に検討した。 我々は、継続した事前学習からテキスト内学習、機械学習アプローチまで、複数のLCMベースのアプローチを評価した。
  論文  参考訳（メタデータ） (2025-04-22T21:11:47Z)
• Disparities in LLM Reasoning Accuracy and Explanations: A Case Study on African American English [66.97110551643722]
  本研究では,Large Language Models (LLMs) 推論タスクにおける方言の相違について検討する。 LLMは、AAE入力に対するより正確な応答とより単純な推論チェーンと説明を生成する。 これらの知見は、LLMの処理方法と異なる言語品種の理由の体系的差異を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-03-06T05:15:34Z)
• Understanding the Relationship between Prompts and Response Uncertainty in Large Language Models [55.332004960574004]
  大規模言語モデル(LLM)は意思決定に広く使用されているが、特に医療などの重要なタスクにおける信頼性は十分に確立されていない。 本稿では,LSMが生成する応答の不確実性が,入力プロンプトで提供される情報とどのように関連しているかを検討する。 本稿では,LLMが応答を生成する方法を説明し,プロンプトと応答の不確実性の関係を理解するためのプロンプト応答の概念モデルを提案する。
  論文  参考訳（メタデータ） (2024-07-20T11:19:58Z)
• Crafting Interpretable Embeddings by Asking LLMs Questions [89.49960984640363]
  大規模言語モデル(LLM)は、自然言語処理タスクの増大に対して、テキスト埋め込みを急速に改善した。 質問応答埋め込み (QA-Emb) を導入し, 各特徴がLLMに対して質問された質問に対する回答を表す。 我々はQA-Embを用いて、言語刺激に対するfMRIボクセル応答を予測するための解釈可能なモデルを柔軟に生成する。
  論文  参考訳（メタデータ） (2024-05-26T22:30:29Z)
• FAC$^2$E: Better Understanding Large Language Model Capabilities by Dissociating Language and Cognition [56.76951887823882]
  大規模言語モデル(LLM)は、主に様々なテキスト理解および生成タスクにおける全体的なパフォーマンスによって評価される。 FAC$2$E, FAC$2$Eについて述べる。
  論文  参考訳（メタデータ） (2024-02-29T21:05:37Z)
• Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。 自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。 これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
  論文  参考訳（メタデータ） (2024-01-30T17:38:54Z)
• From Understanding to Utilization: A Survey on Explainability for Large Language Models [27.295767173801426]
  この調査は、Large Language Models (LLMs) における説明可能性の向上を示唆している。 主に、トレーニング済みの Transformer ベースの LLM に重点を置いています。 説明可能性の活用を考える際に、モデル編集、制御生成、モデル拡張に集中するいくつかの魅力的な方法を検討する。
  論文  参考訳（メタデータ） (2024-01-23T16:09:53Z)
• Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
  大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。 自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。 本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
  論文  参考訳（メタデータ） (2023-12-26T07:24:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。