論文の概要: Interpretable Text Embeddings Based on Hierarchical Questions
- arxiv url: http://arxiv.org/abs/2611.06402v1
- Date: Wed, 04 Nov 2026 12:05:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.102282
- Title: Interpretable Text Embeddings Based on Hierarchical Questions
- Title(参考訳): 階層的質問に基づく解釈可能なテキスト埋め込み
- Abstract要約: 本稿では,テキスト埋め込みのための階層型質問構築手法を提案する。
階層が深まるにつれて、質問はより具体化され、その数が増加する。
限られた数の質問しか得られない場合、より浅いレベルの質問はより高いタスク性能を達成する傾向にあることがわかった。
- 参考スコア(独自算出の注目度): 6.888911557760832
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: QA-based text embeddings represent texts as vectors consisting of 1/0 answers to yes/no questions. Although these embeddings provide detailed information for interpretation and achieve high task performance, they often require humans to examine a large number of questions. Furthermore, the relationship between the number of questions and the appropriate level of question granularity has not been sufficiently studied. To address these challenges, we propose a method for constructing hierarchical questions for text embeddings. As the hierarchy deepens, questions become more specific and their number increases. During interpretation, we reduce the number of questions that humans need to examine by replacing questions at deeper levels with aligned questions at shallower levels. The question hierarchy is constructed through recursive clustering, contrastive prompting, and question alignment. Experimental results on general-purpose tasks show that our method improves interpretability while maintaining task performance. It is also found that, when only a limited number of questions are available, questions at shallower levels tend to achieve higher task performance than those at deeper levels, even with the same number of questions.
- Abstract(参考訳): QAベースのテキスト埋め込みは、イエス/ノー質問に対する1/0回答からなるベクトルとしてテキストを表現する。
これらの埋め込みは、解釈のための詳細な情報を提供し、高いタスク性能を達成するのに、しばしば人間が大量の質問を調べる必要がある。
さらに,質問数と適切な質問粒度の関係について十分な研究がなされていない。
これらの課題に対処するために,テキスト埋め込みのための階層的な質問を構築する手法を提案する。
階層が深まるにつれて、質問はより具体化され、その数が増加する。
解釈の間、より深いレベルの質問をより浅いレベルの質問に置き換えることで、人間が調べる必要がある質問の数を減らす。
質問階層は再帰的クラスタリング、対照的なプロンプト、質問アライメントによって構成される。
汎用タスクに対する実験結果から,本手法はタスク性能を維持しながら解釈性を向上することが示された。
また、限られた数の質問しか得られない場合、より浅いレベルの質問は、同じ数の質問であっても、より深いレベルの質問よりも高いタスク性能を達成する傾向にあることも判明した。
関連論文リスト
- Multimodal QUD: Inquisitive Questions from Scientific Figures [63.41049609329304]
我々は、科学的論文に携わるときに人間が生み出す疑問の深さに達する質問を生成する。
我々は、QUDの言語理論をテキストのみからマルチモーダルに拡張する。
MQUD上でのVLMの微調整により、一般的な低レベルの視覚的質問からコンテンツ固有のグラウンドへとモデルをシフトすることを示す。
論文 参考訳(メタデータ) (2026-04-26T14:25:23Z) - How to Engage Your Readers? Generating Guiding Questions to Promote Active Reading [60.19226384241482]
教科書や科学論文から10Kのインテキスト質問のデータセットであるGuidingQを紹介した。
言語モデルを用いてこのような質問を生成するための様々なアプローチを探索する。
我々は、そのような質問が読解に与える影響を理解するために、人間の研究を行う。
論文 参考訳(メタデータ) (2024-07-19T13:42:56Z) - Qsnail: A Questionnaire Dataset for Sequential Question Generation [76.616068047362]
質問紙作成作業に特化して構築された最初のデータセットについて述べる。
我々はQsnailの実験を行い、その結果、検索モデルと従来の生成モデルが与えられた研究トピックや意図と完全に一致していないことが明らかとなった。
チェーン・オブ・シークレット・プロンプトと微調整による改善にもかかわらず、言語モデルによるアンケートは、人間の手書きのアンケートには及ばない。
論文 参考訳(メタデータ) (2024-02-22T04:14:10Z) - Answering Ambiguous Questions with a Database of Questions, Answers, and
Revisions [95.92276099234344]
ウィキペディアから生成される曖昧な質問のデータベースを利用して、あいまいな質問に答えるための新しい最先端技術を提案する。
提案手法は,リコール対策で15%,予測出力から不明瞭な質問を評価する尺度で10%向上する。
論文 参考訳(メタデータ) (2023-08-16T20:23:16Z) - Keeping the Questions Conversational: Using Structured Representations
to Resolve Dependency in Conversational Question Answering [26.997542897342164]
本稿では,中間表現を会話の手がかりとして捉え,生成するための新しいフレームワークCONVSR(CONVQA using Structured Representations)を提案する。
我々はQuACとCANARDのデータセット上でモデルをテストし、提案するフレームワークが標準的な質問書き直しモデルよりも優れたF1スコアを達成できることを実験結果により示す。
論文 参考訳(メタデータ) (2023-04-14T13:42:32Z) - Inquisitive Question Generation for High Level Text Comprehension [60.21497846332531]
InQUISITIVEは、文書を読みながら19K質問を抽出するデータセットである。
我々は,読者が情報を求めるための実践的な戦略に携わることを示す。
我々は, GPT-2に基づく質問生成モデルを評価し, 妥当な質問を生成することができることを示す。
論文 参考訳(メタデータ) (2020-10-04T19:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。