論文の概要: Using In-Context Learning to Improve Dialogue Safety

• arxiv url: http://arxiv.org/abs/2302.00871v3
• Date: Sun, 22 Oct 2023 19:28:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-25 13:45:24.821343
• Title: Using In-Context Learning to Improve Dialogue Safety
• Title（参考訳）: インコンテキスト学習による対話の安全性向上
• Authors: Nicholas Meade, Spandana Gella, Devamanyu Hazarika, Prakhar Gupta, Di Jin, Siva Reddy, Yang Liu, Dilek Hakkani-T\"ur
• Abstract要約: チャットボットからの応答のバイアスや毒性を低減するための検索手法について検討する。 コンテキスト内学習を使用して、モデルをより安全な世代に向けて操る。 本手法は,トレーニングを必要とせず,強いベースラインと競合する。
• 参考スコア（独自算出の注目度）: 45.303005593685036
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While large neural-based conversational models have become increasingly proficient dialogue agents, recent work has highlighted safety issues with these systems. For example, these systems can be goaded into generating toxic content, which often perpetuates social biases or stereotypes. We investigate a retrieval-based method for reducing bias and toxicity in responses from chatbots. It uses in-context learning to steer a model towards safer generations. Concretely, to generate a response to an unsafe dialogue context, we retrieve demonstrations of safe responses to similar dialogue contexts. We find our method performs competitively with strong baselines without requiring training. For instance, using automatic evaluation, we find our best fine-tuned baseline only generates safe responses to unsafe dialogue contexts from DiaSafety 4.04% more than our approach. Finally, we also propose a re-ranking procedure which can further improve response safeness.
• Abstract（参考訳）: 大規模なニューラルベースの対話型モデルでは,対話エージェントの習熟度が高まっているが,近年の研究では,これらのシステムに対する安全性の問題が強調されている。 例えば、これらのシステムは有害なコンテンツを生成し、しばしば社会的バイアスやステレオタイプを持続させる。 チャットボットからの応答のバイアスと毒性を低減させる検索ベース手法について検討した。 コンテキスト内学習を使用して、モデルをより安全な世代に向けて操る。 具体的には,安全でない対話コンテキストに対する応答を生成するために,類似した対話コンテキストに対する安全な応答のデモンストレーションを検索する。 本手法は,トレーニングを必要とせず,強いベースラインと競合する。 例えば、自動評価を用いて、最高の微調整ベースラインは、DiaSafety 4.04%以上の安全でない対話コンテキストに対してのみ安全な応答を生成する。 最後に,応答の安全性をさらに向上させるための再ランキング手順を提案する。

関連論文リスト

• GrounDial: Human-norm Grounded Safe Dialog Response Generation [39.55597493155821]
  本稿では,コモンセンス社会ルールに対する応答を微調整を必要とせずに基礎づけることにより,応答安全性を実現するGrounDialを提案する。 In-context LearningとHuman-norm-guided Decoding of GrounDialのハイブリッドアプローチにより、追加のデータやチューニングなしに、応答を定量的かつ質的に安全にすることができる。
  論文  参考訳（メタデータ） (2024-02-14T06:25:50Z)
• Improving Dialog Safety using Socially Aware Contrastive Learning [8.503001932363704]
  対人・カジュアル・ダイアログの文脈における社会性について検討する。 これらの問題に対処するための2段階の微調整プロセスを提案する。 私たちは、Moral Integrity Corpus(MIC)やProsocialDialogといったデータセットを活用することで、社会行動を統合するベースモデルをトレーニングします。
  論文  参考訳（メタデータ） (2024-02-01T09:24:33Z)
• PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded Dialogue Systems [59.1250765143521]
  現在の知識接地対話システムは、生成された応答を人間に好まれる品質に合わせるのに失敗することが多い。 我々は,世代別再描画フレームワークであるPolseed & Informed Candidate Scoring (PICK)を提案する。 対話履歴に関連性を維持しつつ,より忠実な応答を生成するためのPICKの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-19T08:27:09Z)
• Learn What NOT to Learn: Towards Generative Safety in Chatbots [40.8106410437709]
  正負の学習信号と負の学習信号の両方から学習することで一般化を高めるために、対照的な損失を生かした「LOT」(Learn NOT to)という新しいフレームワークを提案する。 LOTは毒性を最大4倍に減らし、ベースラインモデルに比べて4倍から6倍のエンゲージネスとフラエンシを達成している。
  論文  参考訳（メタデータ） (2023-04-21T18:59:06Z)
• DialGuide: Aligning Dialogue Model Behavior with Developer Guidelines [48.780256371992515]
  本稿では,自然言語規則を用いた対話モデル行動制御フレームワークであるDialGuideを紹介する。 我々のデータセットは,ニワトリと安全という2つの領域にまたがる,10,737の正と15,467の負の対話コンテキスト応答ギデリン三重項を含む。
  論文  参考訳（メタデータ） (2022-12-20T18:57:18Z)
• Towards Robust Online Dialogue Response Generation [62.99904593650087]
  これは、トレーニングと実世界のテストの相違によって引き起こされる可能性がある、と私たちは主張する。 本稿では, 発話レベルサンプリングと半発話レベルサンプリングの両方からなる階層的サンプリング手法を提案する。
  論文  参考訳（メタデータ） (2022-03-07T06:51:41Z)
• On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark [42.322782754346406]
  本研究では,人間とロボットの対話に特有の不安全行動の把握を目的とした対話安全のための分類法を提案する。 DiaSafetyは6つの安全でないカテゴリのデータセットで、リッチなコンテキストに敏感なアンセーフな例をコンパイルします。 実験により、既存の発話レベルの安全ツールが我々のデータセットで破滅的に失敗することが示された。
  論文  参考訳（メタデータ） (2021-10-16T04:17:12Z)
• Retrieval-Free Knowledge-Grounded Dialogue Response Generation with Adapters [52.725200145600624]
  軽量アダプタで事前学習した言語モデルに事前知識を注入し、検索プロセスをバイパスする KnowExpert を提案する。 実験結果から,KnowExpertは検索ベースラインと相容れない性能を示した。
  論文  参考訳（メタデータ） (2021-05-13T12:33:23Z)
• Saying No is An Art: Contextualized Fallback Responses for Unanswerable Dialogue Queries [3.593955557310285]
  ほとんどの対話システムは、ランク付けされた応答を生成するためのハイブリッドアプローチに依存している。 ユーザクエリに対して文脈的に認識された応答を生成するニューラルネットワークを設計する。 我々の単純なアプローチでは、依存関係解析のルールと、質問応答ペアの合成データに基づいて微調整されたテキストからテキストへの変換を行う。
  論文  参考訳（メタデータ） (2020-12-03T12:34:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。