論文の概要: Toward a Gricean Retreat: Probing LLMs for Knowledge Boundaries and Referent Specificity
- arxiv url: http://arxiv.org/abs/2608.13484v1
- Date: Thu, 13 Aug 2026 17:13:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.613208
- Title: Toward a Gricean Retreat: Probing LLMs for Knowledge Boundaries and Referent Specificity
- Title（参考訳）: 霊長類の再処理に向けて:知識境界と参照特異性のためのLLMの探索
- Authors: Dananjay Srinivas, Saksham Khatwani, Maria Pacheco,
- Abstract要約: 我々は、この失敗をGriceanレンズを通してフレーム化し、参照者について不確実な協調話者は、特異性階層を後退させる。
i) 参照が知識境界内にあるかどうかを符号化し、(ii) 参照が生成しようとしている参照の特異性を予測しているか?
両者の答えはYesだが、2つの信号は世代ごとに一致しない。
- 参考スコア（独自算出の注目度）: 1.316161674114921
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When asked about entities outside their knowledge boundary, LLMs routinely fabricate plausible-sounding details rather than backing off to safer, more general claims. We frame this failure through a Gricean lens: a cooperative speaker who is uncertain about a referent retreats up the specificity hierarchy, trading informativeness for truthfulness. We ask whether LLMs have the ingredients to perform this retreat. Using a T-REx-based benchmark that varies entity familiarity and referent specificity, we probe models to answer two questions: (i) do their activations encode whether a referent falls inside the knowledge boundary, and (ii) do they anticipate the specificity of the referent they are about to generate? We find that the answer to both is yes, but the two signals are not reconciled in generation. Models overwhelmingly prefer specific referents even when the entity is unknown to them, and do so even when offered correct generic alternatives. The substrate for a Gricean retreat is present, but the policy that would act on it is not. We position our findings as a first step toward Gricean alignment, training or steering objectives that couple knowledge-boundary awareness to referent-specificity during generation.
- Abstract（参考訳）: 知識境界の外のエンティティについて尋ねると、LSMは安全、より一般的な主張に背を向けるのではなく、プラウジブルな音の細部を日常的に作っている。
我々は、この失敗をGriceanレンズを通してフレーム化します。参照者について不確実な共同話者は、特異性階層を後退させ、真偽の情報を交換します。
LLMには、この撤退を行うための材料があるかどうかを問う。
T-RExベースのベンチマークを用いて、エンティティの親しみやすさと参照特異性を変化させる。
一 参照者が知識境界内に該当するか否かをコードし、かつ、そのアクティベーションを行うこと。
二 作成しようとしている参考人の特異性を予見しているか。
両方の答えはイエスであるが、2つの信号は世代ごとに一致しない。
モデルは、エンティティが未知であっても、特定の参照を圧倒的に好んでおり、正しいジェネリック代替を提供するときでさえそうする。
グリシアン撤退の基盤は存在するが、それを実行する政策はそうではない。
本研究は, 世代ごとの知識境界認識と参照特異度を関連づけた, グレースアライメント, トレーニング, ステアリング目標に向けた第一歩として位置づける。
関連論文リスト
- Can We Trust a Black-box LLM? LLM Untrustworthy Boundary Detection via Bias-Diffusion and Multi-Agent Reinforcement Learning [22.559085865596728]
大きな言語モデル(LLM)は、さまざまなトピックに関する質問に答える能力が高いことを示している。
LLMはバイアスのある、イデオロギー化された、あるいは誤ったレスポンスを生成し、どのトピックが信頼できるかを明確に理解していない場合、アプリケーションを制限する。
本稿では,GMRL-BDと命名された新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-04-07T06:24:01Z) - Knowledge Boundary Discovery for Large Language Models [1.9967734396620447]
大規模言語モデル(LLM)の知識境界を探索する強化学習に基づくフレームワークを提案する。
知識境界は, LLMが自信を持って解答できる質問(知識境界)と, 解答できない質問(知識境界)の2種類を自動生成することによって定義する。
KBD が LLM の知識境界を検出するためには,非自明な解答や解答不能な質問を自動的に見つけ出す必要がある。
論文 参考訳（メタデータ） (2026-01-14T02:19:13Z) - Privacy-protected Retrieval-Augmented Generation for Knowledge Graph Question Answering [23.54009294783401]
プライバシ保護されたRAGシナリオを初めて検討し、そこでは、KGのエンティティがLLMに対して匿名である。
本稿では,関係中心の抽象化と構造指向の抽象化戦略を含む新しいARoGフレームワークを提案する。
論文 参考訳（メタデータ） (2025-08-12T09:38:21Z) - Automatically Advancing LLM Expertise in Technology Judgment [1.1269582666887323]
大規模言語モデル(LLM)は、科学、工学、革新のための中核的なツールになりつつある。
ますます難しい問題に答えられるという印象的な能力にもかかわらず、LLMが新しい課題に直面する際に真に自分の知識を使うかどうかは不明だ。
我々は、2015年以降の1300万のコンピュータサイエンス特許ペアのベンチマークを評価し、密度の高い技術ジャーゴンと戦略的に複雑な書き込みを特徴とする。
LLMはベンチマークに失敗することが多く、セマンティックに類似した特許の識別に苦慮している。
論文 参考訳（メタデータ） (2025-05-18T15:04:02Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:15:56Z) - Untangle the KNOT: Interweaving Conflicting Knowledge and Reasoning Skills in Large Language Models [51.72963030032491]
大規模言語モデル(LLM)の知識文書は、時代遅れや誤った知識のためにLLMの記憶と矛盾する可能性がある。
我々は,知識紛争解決のための新しいデータセットKNOTを構築した。
論文 参考訳（メタデータ） (2024-04-04T16:40:11Z) - ThinkNote: Enhancing Knowledge Integration and Utilization of Large Language Models via Constructivist Cognition Modeling [55.21641515545307]
大規模言語モデル(LLM)は、幅広いNLPタスクにおいて強力なパフォーマンスを示している。
それらはしばしば、不慣れな外部情報に晒されたとき、最適でない行動と矛盾を示す。
本稿では,LLMの外部知識活用を促進する新しいフレームワークであるThinkNoteを提案する。
論文 参考訳（メタデータ） (2024-02-21T06:04:53Z) - A Glitch in the Matrix? Locating and Detecting Language Model Grounding with Fakepedia [57.31074448586854]
大規模言語モデル(LLM)は、そのコンテキストで提供される新しい情報を引き出すという印象的な能力を持つ。
しかし、この文脈的基盤のメカニズムはいまだに不明である。
本稿では,Fakepedia を用いたグラウンドディング能力の研究手法を提案する。
論文 参考訳（メタデータ） (2023-12-04T17:35:42Z) - The ART of LLM Refinement: Ask, Refine, and Trust [85.75059530612882]
ART: Ask, Refine, and Trust と呼ばれる改良目標を用いた推論を提案する。
LLMがいつその出力を洗練すべきかを決めるために必要な質問を尋ねる。
自己補充ベースラインよりも+5ポイントの性能向上を達成する。
論文 参考訳（メタデータ） (2023-11-14T07:26:32Z) - Intuitive or Dependent? Investigating LLMs' Behavior Style to
Conflicting Prompts [9.399159332152013]
本研究では,Large Language Models (LLM) の動作を,内部記憶と競合するプロンプトに直面する場合の挙動について検討する。
これにより、LLMの意思決定機構を理解し、検索強化生成(RAG)のような現実世界のアプリケーションにも役立つ。
論文 参考訳（メタデータ） (2023-09-29T17:26:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。