論文の概要: Implicit Minor Detection from Multi-Turn Dialogue in High-Risk AI Interactions: A Constrained Self-Evolving LLM Harness

• arxiv url: http://arxiv.org/abs/2610.38546v1
• Date: Wed, 28 Oct 2026 09:46:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-03 10:14:02.640507
• Title: Implicit Minor Detection from Multi-Turn Dialogue in High-Risk AI Interactions: A Constrained Self-Evolving LLM Harness
• Title（参考訳）: ハイリスクAIインタラクションにおけるマルチタスク対話からのインシシットマイナー検出:制約付き自己進化型LDMのハーネス
• Abstract要約: リスクの高いテキストインタラクションでは、現在の話者がマイナーかどうかを推定する必要がある。 リスクの高いユーザ属性推論タスクとして、弱いアイデンティティ情報の下で暗黙的なマイナー検出を定式化する。
• 参考スコア（独自算出の注目度）: 23.31244636708179
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In high-risk text interactions, a system may need to estimate whether the current speaker is likely to be a minor before applying age-conditioned safeguards. Many text-based dialogue systems lack strong identity signals such as account information, verified identity, facial data, or device data, and must rely on weak cues that emerge across multiple turns. We formulate implicit minor detection under weak identity information as a high-risk user-attribute inference task and propose a constrained framework comprising a large language model, a Harness, and a Maker-Checker protocol. The framework controls when inference is invoked, requires structured dialogue-linked evidence, and subjects validation-selected Harness revisions to version-level review. On a controlled Chinese benchmark comprising 8,328 multi-turn dialogues, our method improves average precision and minor-class F1 by 7.60 and 6.37 percentage points, respectively, over direct inference using the same LLM family.
• Abstract（参考訳）: リスクの高いテキストインタラクションでは、システムは年齢条件付きセーフガードを適用する前に、現在の話者がマイナーかどうかを見積もる必要がある。 多くのテキストベースの対話システムは、アカウント情報、認証されたアイデンティティ、顔データ、デバイスデータなどの強力なアイデンティティ信号がなく、複数のターンにまたがって現れる弱いキューに依存しなければならない。 本稿では,リスクの高いユーザ属性推論タスクとして,弱いアイデンティティ情報の下で暗黙的なマイナー検出を定式化し,大規模言語モデル,Harness,Maker-Checkerプロトコルからなる制約付きフレームワークを提案する。 このフレームワークは、推論が呼び出されたときに制御し、構造化された対話リンクエビデンスを必要とし、対象がバリデーション選択されたHarnessをバージョンレベルのレビューに修正する。 8,328のマルチターン対話からなる制御された中国語のベンチマークでは,同じLLMファミリを用いた直接推論により,平均精度とマイナークラスF1を7.60ポイント,6.37ポイント向上させる。

関連論文リスト

• Enhancing Operational Safety via Agentic Dialogue Hazard Identification Analysis [3.799062340436994]
  HAZDIALは,構造化エージェント対話・マルチエージェント・マルチターンインタラクションがNLPに基づくハザード識別の質を向上させるかどうかを調査するフレームワークである。 この研究は対話システム、マルチエージェント推論、AI安全性の交差点を前進させ、対話駆動型ハザード分析の実証的な証拠を提供する。
  論文  参考訳（メタデータ） (2026-06-02T15:54:51Z)
• Character Beyond Speech: Leveraging Role-Playing Evaluation in Audio Large Language Models via Reinforcement Learning [57.22705949022221]
  RoleJudgeは、音声大言語モデルを利用して、音声と文字のアライメントを評価する評価フレームワークである。 連鎖推論アノテーションを付加した最初の音声ロールプレイング評価データセットであるRoleChatを紹介する。
  論文  参考訳（メタデータ） (2026-04-15T12:39:03Z)
• Membership Inference for Contrastive Pre-training Models with Text-only PII Queries [8.524434324715857]
  UMID(Unimodal Membership Inference Detector)は、テキストのみの監査フレームワークである。 多様なCLIPおよびCLAPアーキテクチャによる実験により、UMIDは以前のMIAよりも有効性と効率を著しく向上することが示された。
  論文  参考訳（メタデータ） (2026-03-15T04:53:39Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Teaching Language Models To Gather Information Proactively [53.85419549904644]
  大規模言語モデル(LLM)は、ますます協力的なパートナーとして機能することが期待されている。 本研究では,アクティブな情報収集という新たなタスクパラダイムを導入する。 キー情報をマスキングする、部分的に特定された現実世界のタスクを生成するスケーラブルなフレームワークを設計する。 このセットアップの中核となるイノベーションは、真に新しい暗黙のユーザー情報を引き出す質問に報酬を与える、強化された微調整戦略です。
  論文  参考訳（メタデータ） (2025-07-28T23:50:09Z)
• Say It Another Way: Auditing LLMs with a User-Grounded Automated Paraphrasing Framework [17.91981142492207]
  本稿では,ユーザ行動に根ざした制御されたフレーズを生成するフレームワークであるAUGMENTを紹介する。 AUGMENTは言語的に情報を得た規則を活用し、命令の順守、意味的類似性、リアリズムのチェックを通じて品質を強制する。 ケーススタディでは、制御されたパラフレーズは、制約のない変動の下で隠されたままの系統的な弱点を明らかにする。
  論文  参考訳（メタデータ） (2025-05-06T14:17:30Z)
• SafeDialBench: A Fine-Grained Safety Benchmark for Large Language Models in Multi-Turn Dialogues with Diverse Jailbreak Attacks [90.41592442792181]
  大規模言語モデル(LLM)の安全性を評価するための詳細なベンチマーク SafeDialBench を提案する。 具体的には,6つの安全次元を考慮した2階層型階層型安全分類法を設計し,22の対話シナリオの下で中国語と英語の双方で4000以上のマルチターン対話を生成する。 特に,LLMの革新的なアセスメントフレームワークを構築し,安全でない情報を検出し,処理し,ジェイルブレイク攻撃時の一貫性を維持する。
  論文  参考訳（メタデータ） (2025-02-16T12:08:08Z)
• PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded Dialogue Systems [59.1250765143521]
  現在の知識接地対話システムは、生成された応答を人間に好まれる品質に合わせるのに失敗することが多い。 我々は,世代別再描画フレームワークであるPolseed & Informed Candidate Scoring (PICK)を提案する。 対話履歴に関連性を維持しつつ,より忠実な応答を生成するためのPICKの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-19T08:27:09Z)
• A Controllable Model of Grounded Response Generation [122.7121624884747]
  現在のエンドツーエンドのニューラルネットワークモデルは、応答生成プロセスにセマンティックコントロールを課す柔軟性を本質的に欠いている。 我々は制御可能な接地応答生成(CGRG)と呼ばれるフレームワークを提案する。 このフレームワークを用いることで、会話のようなRedditデータセットでトレーニングされた、新しいインダクティブアテンション機構を備えたトランスフォーマーベースのモデルが、強力な生成ベースラインを上回っていることを示す。
  論文  参考訳（メタデータ） (2020-05-01T21:22:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。