論文の概要: Rhetorical Questions in LLM Representations: A Linear Probing Study
- arxiv url: http://arxiv.org/abs/2604.14128v2
- Date: Tue, 21 Apr 2026 23:20:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:10.249474
- Title: Rhetorical Questions in LLM Representations: A Linear Probing Study
- Title（参考訳）: LLM表現における修辞的疑問--線形探索研究
- Authors: Louie Hong Yao, Vishesh Anand, Yuan Zhuang, Tianyu Jiang,
- Abstract要約: 談話文脈の異なる2つのソーシャルメディアデータセット上の線形プローブを用いて,LLM表現の修辞的質問を解析する。
我々は、修辞的な信号が早く出現し、最後に残った表現によって最も安定的に捉えられることを発見した。
- 参考スコア（独自算出の注目度）: 5.165491129638819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Rhetorical questions are asked not to seek information but to persuade or signal stance. How large language models internally represent them remains unclear. We analyze rhetorical questions in LLM representations using linear probes on two social-media datasets with different discourse contexts, and find that rhetorical signals emerge early and are most stably captured by last-token representations. Rhetorical questions are linearly separable from information-seeking questions within datasets, and remain detectable under cross-dataset transfer, reaching AUROC around 0.7-0.8. However, we demonstrate that transferability does not simply imply a shared representation. Probes trained on different datasets produce different rankings when applied to the same target corpus, with overlap among the top-ranked instances often below 0.2. Qualitative analysis shows that these divergences correspond to distinct rhetorical phenomena: some probes capture discourse-level rhetorical stance embedded in extended argumentation, while others emphasize localized, syntax-driven interrogative acts. Together, these findings suggest that rhetorical questions in LLM representations are encoded by multiple linear directions emphasizing different cues, rather than a single shared direction.
- Abstract（参考訳）: 修辞的な質問は、情報を求めるのではなく、説得や姿勢の伝達を求められる。
言語モデルが内部的にどの程度大きいかは、いまだに不明である。
我々は,LLM表現における修辞的質問を2つのソーシャル・メディア・データセット上の線形プローブを用いて分析し,修辞的信号が早期に出現し,最後に得られた表現によって最も安定に捉えられることを発見した。
修辞的な質問はデータセット内の情報探索質問から線形に分離可能であり、データセット間の転送で検出可能であり、AUROCは約0.7-0.8に達する。
しかし、転送性は単に共有表現を意味するものではないことを実証する。
異なるデータセットでトレーニングされたプローブは、同じターゲットコーパスに適用された場合、異なるランキングを生成する。
定性的分析は、これらの発散は異なる修辞現象に対応していることを示している: あるプローブは、拡張された議論に埋め込まれた談話レベルの修辞的姿勢を捉え、他のプローブは局所的で構文駆動の尋問的行為を強調している。
これらの結果から,LLM表現における修辞的疑問は,単一の共有方向ではなく,異なる手がかりを強調する複数の線形方向によって符号化されていることが示唆された。
関連論文リスト
- Prompt-Response Semantic Divergence Metrics for Faithfulness Hallucination and Misalignment Detection in Large Language Models [0.0]
本稿では, 忠実な幻覚を検出するための新しい枠組みであるセマンティック・ディバージェンス・メトリックス(SDM)を紹介する。
プロンプトと応答間のトピック共起のヒートマップは、ユーザとマシンの対話の定量的な2次元可視化と見なすことができる。
論文 参考訳（メタデータ） (2025-08-13T20:55:26Z) - ELOQ: Resources for Enhancing LLM Detection of Out-of-Scope Questions [52.33835101586687]
本研究では,検索した文書が意味的に類似しているように見えるスコープ外質問について検討するが,答えるために必要な情報がない。
本稿では,閉経後の文書から多様なスコープ外質問を自動的に生成するための,幻覚に基づくELOQを提案する。
論文 参考訳（メタデータ） (2024-10-18T16:11:29Z) - Towards Reliable and Factual Response Generation: Detecting Unanswerable
Questions in Information-Seeking Conversations [16.99952884041096]
生成的AIモデルは、そのようなシステムに対するユーザの信頼を損なう可能性のある幻覚の課題に直面します。
本稿では,まずコーパス内の関連するパスを識別し,最後にシステム応答にまとめる2段階のプロセスとして,会話情報探索の問題にアプローチする。
具体的には,文レベル分類器を用いて解答の有無を判定し,これらの予測を文レベルに集約し,最後に最終解答可能性推定値に到達する。
論文 参考訳（メタデータ） (2024-01-21T10:15:36Z) - Distributed Marker Representation for Ambiguous Discourse Markers and
Entangled Relations [50.31129784616845]
我々は、無制限の談話マーカーデータと潜在談話感覚を利用して分散マーカ表現(DMR)を学習する。
提案手法は,対話マーカー間の複雑なあいまいさや絡み合いや,手動で定義した談話関係を理解する上でも有用である。
論文 参考訳（メタデータ） (2023-06-19T00:49:51Z) - An Information-Theoretic Analysis of Self-supervised Discrete
Representations of Speech [17.07957283733822]
我々は,各音韻カテゴリーを離散単位上の分布として表現する情報理論フレームワークを開発した。
本研究は,音素分布のエントロピーが下層の音声の変動を反映していることを示す。
本研究は, 直接・一対一対応の欠如を裏付けるものであるが, 音韻カテゴリーと離散単位との間には, 興味深い, 間接的な関係があることを見出した。
論文 参考訳（メタデータ） (2023-06-04T16:52:11Z) - Using Natural Language Explanations to Rescale Human Judgments [81.66697572357477]
大規模言語モデル(LLM)を用いて順序付けアノテーションと説明を再スケールする手法を提案する。
我々は、アノテータのLikert評価とそれに対応する説明をLLMに入力し、スコア付けルーリックに固定された数値スコアを生成する。
提案手法は,合意に影響を及ぼさずに生の判断を再スケールし,そのスコアを同一のスコア付けルーリックに接する人間の判断に近づける。
論文 参考訳（メタデータ） (2023-05-24T06:19:14Z) - Syntactic Perturbations Reveal Representational Correlates of
Hierarchical Phrase Structure in Pretrained Language Models [22.43510769150502]
文レベルの構文のどの側面がベクターベースの言語表現によってキャプチャされるのかは、完全には分かっていない。
このプロセスでは,トランスフォーマーが文のより大きな部分の層に感性を持たせることが示され,階層的な句構造が重要な役割を果たしている。
論文 参考訳（メタデータ） (2021-04-15T16:30:31Z) - Did they answer? Subjective acts and intents in conversational discourse [48.63528550837949]
英会話の複数の主観的かつ主観的な解釈を含む最初の対話データセットを提示する。
意見の相違が曖昧であることを示し、異なる文脈要因についてより深く理解する必要がある。
論文 参考訳（メタデータ） (2021-04-09T16:34:19Z) - Multi-Stage Conversational Passage Retrieval: An Approach to Fusing Term
Importance Estimation and Neural Query Rewriting [56.268862325167575]
マルチステージアドホックIRシステムにクエリ再構成を組み込んだ会話経路検索(ConvPR)に取り組む。
本稿では,1項の重要度推定と2項のニューラルクエリ書き換えという2つの手法を提案する。
前者に対しては、周波数に基づく信号を用いて会話コンテキストから抽出した重要な用語を用いて会話クエリを拡張する。
後者では,会話クエリを,事前訓練されたシーケンス列列列モデルを用いて,自然な,スタンドアロンの,人間の理解可能なクエリに再構成する。
論文 参考訳（メタデータ） (2020-05-05T14:30:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。