論文の概要: RoTRAG: Rule of Thumb Reasoning for Conversation Harm Detection with Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2604.17301v1
• Date: Sun, 19 Apr 2026 07:35:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.449895
• Title: RoTRAG: Rule of Thumb Reasoning for Conversation Harm Detection with Retrieval-Augmented Generation
• Title（参考訳）: RoTRAG:Retrieval-Augmented Generationを用いた会話ハーム検出のためのThumb Reasoningのルール
• Authors: Juhyeon Lee, Wonduk Seo, Junseo Koh, Seunghyun Lee, Haihua Chen, Yi Bu,
• Abstract要約: RoTRAGは,ルール・オブ・トムブ(RoTs)という,簡潔な人間の道徳規範を取り入れた検索拡張フレームワークである 各ターンに対して、RoTRAGは関連するRoTを外部コーパスから取り出し、ターンレベルの推論と最終重大度分類の明確な規範的証拠として使用する。 ProsocialDialog と Safety Reasoning Multi Turn Dialogue の実験は、RoTRAG が競争ベースラインよりも害分類と重大度推定の両方を一貫して改善していることを示している。
• 参考スコア（独自算出の注目度）: 5.988201449696967
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Detecting harmful content in multi turn dialogue requires reasoning over the full conversational context rather than isolated utterances. However, most existing methods rely mainly on models internal parametric knowledge, without explicit grounding in external normative principles. This often leads to inconsistent judgments in socially nuanced contexts, limited interpretability, and redundant reasoning across turns. To address this, we propose RoTRAG, a retrieval augmented framework that incorporates concise human written moral norms, called Rules of Thumb (RoTs), into LLM based harm assessment. For each turn, RoTRAG retrieves relevant RoTs from an external corpus and uses them as explicit normative evidence for turn level reasoning and final severity classification. To improve efficiency, we further introduce a lightweight binary routing classifier that decides whether a new turn requires retrieval grounded reasoning or can reuse existing context. Experiments on ProsocialDialog and Safety Reasoning Multi Turn Dialogue show that RoTRAG consistently improves both harm classification and severity estimation over competitive baselines, with an average relative gain of around 40% in F1 across benchmark datasets and an average relative reduction of 8.4% in distributional error, while reducing redundant computation without sacrificing performance.
• Abstract（参考訳）: マルチターン対話における有害な内容の検出には、孤立した発話ではなく、会話のコンテキスト全体を推論する必要がある。 しかし、既存のほとんどの手法は、外的規範的原理を明確に基礎づけることなく、主に内部パラメトリック知識のモデルに依存している。 これはしばしば、社会的に曖昧な文脈における矛盾した判断、限定的な解釈可能性、ターン間の冗長な推論につながる。 そこで本研究では,ルール・オブ・サンプ(RoTs)と呼ばれる簡潔な人間の道徳規範をLLMに基づく害評価に組み込んだ検索拡張フレームワークであるRoTRAGを提案する。 各ターンに対して、RoTRAGは関連するRoTを外部コーパスから取り出し、ターンレベルの推論と最終重大度分類の明確な規範的証拠として使用する。 効率を向上させるために、新しいターンが検索基盤の推論を必要とするか、既存のコンテキストを再利用できるかを判断する軽量なバイナリルーティング分類器も導入する。 ProsocialDialog と Safety Reasoning Multi Turn Dialogue の実験では、RoTRAG は競合ベースラインに対する害分類と重大度推定の両方を一貫して改善し、ベンチマークデータセット全体の F1 の平均相対的な増加は 40%、分散エラーの平均相対的な減少は 8.4% であり、性能を犠牲にすることなく冗長な計算を削減している。

関連論文リスト

• Hit-RAG: Learning to Reason with Long Contexts via Preference Alignment [97.55382322103986]
  Hit-RAGは認知的ボトルネックを解決するために設計された多段階の優先順位調整フレームワークである。 本手法は,3つの異なる段階を通じて外部証拠の利用を体系的に改善する。
  論文  参考訳（メタデータ） (2026-03-07T04:05:27Z)
• Reasoning-Augmented Representations for Multimodal Retrieval [27.4146940988752]
  Universal Multimodal Retrieval (UMR) は、テキストと視覚を横断する任意の検索を求める。 画像が“サイレント”なエビデンスを持ち、クエリがキーセマンティクスを暗黙的に残す場合、単一の埋め込みパスは理由と圧縮の両方でなければならない。 本稿では、検索前の推論を外部化することで、これらの役割を分離するデータ中心のフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-06T19:01:54Z)
• From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG [65.0203623486525]
  大規模言語モデル(LLM)は、医学的質問応答において高い推論能力を示す。 幻覚や時代遅れの知識を生み出す傾向は、医療分野において重大なリスクをもたらす。 既存の手法はノイズの多いトークンレベルの信号に依存しており、複雑な推論に必要なマルチラウンドの改良は欠如している。
  論文  参考訳（メタデータ） (2026-02-06T08:25:30Z)
• Reasoning While Asking: Transforming Reasoning Large Language Models from Passive Solvers to Proactive Inquirers [41.58256327940237]
  Proactive Interactive Reasoningは、大規模言語モデルからProactive Inquirerに変換する。 PIRは、ユーザと直接対話することで、前提レベルと意図レベルの不確実性を目標とします。 数学的推論、コード生成、文書編集の実験は、PIRが強いベースラインを一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2026-01-29T18:56:12Z)
• Thinking Forward and Backward: Multi-Objective Reinforcement Learning for Retrieval-Augmented Reasoning [137.33138614095435]
  Retrieval-augmented Generation (RAG) は、大規模言語モデルにおける幻覚の緩和に有効であることが証明されている。 近年、検索に基づく対話をRAGに組み込んで、リアルタイム検索による反復推論を可能にしている。 提案するBi-RARは,各中間ステップを前方方向と後方方向の両方で共同で評価する,新たな検索拡張推論フレームワークである。
  論文  参考訳（メタデータ） (2025-11-12T08:29:39Z)
• Decomposed Reasoning with Reinforcement Learning for Relevance Assessment in UGC Platforms [30.51899823655511]
  Retrieval-augmented Generation (RAG)は、ユーザ生成コンテンツプラットフォームにおいて重要な役割を果たす。 1)RAGシナリオにおけるユーザフィードバックの少なさによる曖昧なユーザ意図,2)非公式言語や非構造化言語によって導入された相当なノイズ。
  論文  参考訳（メタデータ） (2025-08-04T15:14:09Z)
• Resisting Contextual Interference in RAG via Parametric-Knowledge Reinforcement [9.66890519317288]
  Retrieval-augmented Generation (RAG)は、知識集約的なタスクのパフォーマンスを向上させるが、間違った、無関係、あるいは、検索されたテキストの矛盾によって脱線することができる。 本稿では,大規模言語モデルにパラメトリック知識を用いた強化学習フレームワークであるKnowledgeable-R1を提案する。
  論文  参考訳（メタデータ） (2025-06-05T15:34:15Z)
• T2I-Eval-R1: Reinforcement Learning-Driven Reasoning for Interpretable Text-to-Image Evaluation [60.620408007636016]
  T2I-Eval-R1は,大まかな品質スコアのみを用いて,オープンソースのMLLMを訓練する新しい強化学習フレームワークである。 提案手法では,グループ相対政策最適化を命令調整プロセスに統合し,スカラースコアと解釈可能な推論チェーンの両方を生成する。
  論文  参考訳（メタデータ） (2025-05-23T13:44:59Z)
• Negotiated Reasoning: On Provably Addressing Relative Over-Generalization [49.5896371203566]
  過度に一般化することは認知科学における厄介な問題であり、人々は過去の経験のために過度に慎重になる可能性がある。 マルチエージェント強化学習(MARL)のエージェントも、人々が行うように相対的な過剰一般化(RO)に悩まされ、準最適協力に固執している。 近年, エージェントに対する推論能力の割り当てはアルゴリズム的にも経験的にもROを緩和できることが示されたが, ROの理論的理解は乏しい。
  論文  参考訳（メタデータ） (2023-06-08T16:57:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。