論文の概要: Sensitivity-Aware Retrieval-Augmented Intent Clarification

• arxiv url: http://arxiv.org/abs/2603.06025v1
• Date: Fri, 06 Mar 2026 08:21:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-09 13:17:45.380973
• Title: Sensitivity-Aware Retrieval-Augmented Intent Clarification
• Title（参考訳）: 感性に配慮した検索型インテントの明確化
• Authors: Maik Larooij,
• Abstract要約: 会話型検索システムでは、重要な要素は複雑なクエリの背後にある意図を判断し、明確化することである。 我々は,探索探索のパラダイムに照らして,ユーザが選択,探索,検索の反復的かつ進化的なプロセスを通じて,視覚的あるいは意識的なニーズを形式化されたものに転換する意図を明確にする。 本研究の課題は,1) 攻撃モデルの定義,2) 検索レベルでの感度に配慮した防御設計,3) 保護レベルとシステムの実用性との間のトレードオフを測定する評価手法の開発,の3段階で解決することを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In conversational search systems, a key component is to determine and clarify the intent behind complex queries. We view intent clarification in light of the exploratory search paradigm, where users, through an iterative, evolving process of selection, exploration and retrieval, transform a visceral or conscious need into a formalized one. Augmenting the clarification component with a retrieval step (retrieval-augmented intent clarification) can seriously enhance clarification performance, especially in domains where Large Language Models (LLMs) lack parametric knowledge. However, in more sensitive domains, such as healthcare, government (e.g. FOIA search) or legal contexts, the retrieval database may contain sensitive information that needs protection. In this paper, we explore the research challenge of developing a retrieval-augmented conversational agent that can act as a mediator and gatekeeper for the sensitive collection. To do that, we also need to know what we are protecting and against what. We propose to tackle this research challenge in three steps: 1) define an attack model, 2) design sensitivity-aware defenses on the retrieval level and 3) develop evaluation methods to measure the trade-off between the level of protection and the system's utility.
• Abstract（参考訳）: 会話型検索システムでは、重要な要素は複雑なクエリの背後にある意図を判断し、明確化することである。 我々は,探索探索のパラダイムに照らして,ユーザが選択,探索,検索の反復的かつ進化的なプロセスを通じて,視覚的あるいは意識的なニーズを形式化されたものに転換する意図を明確にする。 特にLLM(Large Language Models)がパラメトリック知識を欠いている領域では、検索ステップによる明確化コンポーネントの強化(検索対象の明確化)により、明確化性能が著しく向上する可能性がある。 しかし、医療、政府(例えば、FOIA検索)、法的文脈など、より機密性の高いドメインでは、検索データベースは保護を必要とする機密情報を含む可能性がある。 本稿では,センシティブコレクションの仲介者およびゲートキーパーとして機能する検索増強型対話エージェントの開発に向けた研究課題について検討する。 そのためには,自分たちが何を保護し,何に反対しているのかを知ることも必要です。 我々は,この研究課題に3つのステップで取り組むことを提案する。 1)攻撃モデルを定義する。 2)検索レベルと設計感度に配慮した防御 3)保護レベルとシステムの実用性との間のトレードオフを測定するための評価方法を開発する。

関連論文リスト

• AdaSearch: Balancing Parametric Knowledge and Search in Large Language Models via Reinforcement Learning [61.974530499621274]
  検索への過度な依存は、ノイズや悪意のあるコンテンツに対する不必要なコストとリスクをもたらす。 本稿では,探索を起動するか否かの判断から問題を解き放つ2段階の結果駆動型RLフレームワークを提案する。 AdaSearchは知識境界認識を大幅に改善し、不要な検索コールを削減し、タスクパフォーマンスを強く保ち、透明性と解釈可能な意思決定行動を提供する。
  論文  参考訳（メタデータ） (2025-12-18T18:50:01Z)
• Large model retrieval enhancement framework for construction site risk identification [13.937158723906876]
  本研究では,大規模言語モデル(LLM)を微調整を必要とせずに拡張する検索拡張フレームワークを提案する。 提案手法は外部知識を統合し,プロンプトチューニングにより類似事例を検索する。 実地データに基づいて評価した結果,GLM-4Vの精度は50%に向上し,ベースラインよりも35.49%向上した。
  論文  参考訳（メタデータ） (2025-08-04T05:28:58Z)
• From Objects to Events: Unlocking Complex Visual Understanding in Object Detectors via LLM-guided Symbolic Reasoning [71.41062111470414]
  現在のオブジェクト検出器は、エンティティのローカライゼーションと分類において優れているが、イベント認識機能には固有の制限がある。 本稿では,単なるオブジェクト認識以上の標準オブジェクト検出能力を,複雑なイベント理解に拡張する新しいフレームワークを提案する。 私たちの重要なイノベーションは、高価なタスク固有のトレーニングを必要とせずに、オブジェクト検出とイベント理解のセマンティックなギャップを埋めることです。
  論文  参考訳（メタデータ） (2025-02-09T10:30:54Z)
• Illusions of Relevance: Using Content Injection Attacks to Deceive Retrievers, Rerankers, and LLM Judges [52.96987928118327]
  検索,リランカー,大型言語モデル(LLM)の埋め込みモデルは,コンテンツインジェクション攻撃に対して脆弱であることがわかった。 主な脅威は,(1) 意味不明な内容や有害な内容の挿入,(2) 関連性を高めるために,問合せ全体あるいはキークエリ用語の挿入,の2つである。 本研究は, 注射内容の配置や関連物質と非関連物質とのバランスなど, 攻撃の成功に影響を与える要因を系統的に検討した。
  論文  参考訳（メタデータ） (2025-01-30T18:02:15Z)
• Corpus-informed Retrieval Augmented Generation of Clarifying Questions [23.123116796159717]
  本研究では,Web検索のための質問を明確化するコーパスを生成するモデルを開発することを目的とする。 現在のデータセットでは、探索意図は主にコーパスによって支持されており、トレーニングと評価の両方に問題がある。 本稿では,検索コーパスと基礎的真理を整合させるデータセット拡張手法を提案する。
  論文  参考訳（メタデータ） (2024-09-27T09:20:42Z)
• Exposing Query Identification for Search Transparency [69.06545074617685]
  本稿では,検索システムの2つのクラスにおいて,クエリとドキュメントの役割を逆転させることにより,検索タスクとしてのEQIの実現可能性について検討する。 本研究では,クエリのランク付けの質を評価するための評価基準を導出するとともに,近似EQIの様々な実践的側面に着目した経験的分析を行う。
  論文  参考訳（メタデータ） (2021-10-14T20:19:27Z)
• Sensitive Information Detection: Recursive Neural Networks for Encoding Context [0.20305676256390928]
  機密情報の漏洩は非常にコストがかかる可能性がある。 感度情報を検出するための簡易で脆いルールセットは、実際の感度情報のごく一部しか見つからないことを示す。 我々は,ラベル付き事例へのアクセスのみを前提とした,機密情報検出手法の新たなファミリーを開発する。
  論文  参考訳（メタデータ） (2020-08-25T07:49:46Z)
• Multi-Stage Conversational Passage Retrieval: An Approach to Fusing Term Importance Estimation and Neural Query Rewriting [56.268862325167575]
  マルチステージアドホックIRシステムにクエリ再構成を組み込んだ会話経路検索(ConvPR)に取り組む。 本稿では,1項の重要度推定と2項のニューラルクエリ書き換えという2つの手法を提案する。 前者に対しては、周波数に基づく信号を用いて会話コンテキストから抽出した重要な用語を用いて会話クエリを拡張する。 後者では,会話クエリを,事前訓練されたシーケンス列列列モデルを用いて,自然な,スタンドアロンの,人間の理解可能なクエリに再構成する。
  論文  参考訳（メタデータ） (2020-05-05T14:30:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。