論文の概要: ProsocialDialog: A Prosocial Backbone for Conversational Agents

• arxiv url: http://arxiv.org/abs/2205.12688v1
• Date: Wed, 25 May 2022 11:48:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-26 14:36:52.740590
• Title: ProsocialDialog: A Prosocial Backbone for Conversational Agents
• Title（参考訳）: ProsocialDialog:会話エージェントのための社会的バックボーン
• Authors: Hyunwoo Kim, Youngjae Yu, Liwei Jiang, Ximing Lu, Daniel Khashabi, Gunhee Kim, Yejin Choi, Maarten Sap
• Abstract要約: ProsocialDialogは、対話エージェントに社会規範に従って問題コンテンツに応答するように教える最初の大規模対話データセットである。 ProsocialDialogは、人間とAIのコラボレーションフレームワークで作られ、58Kの対話と331Kの発話、160KのRoT、および497Kの対話安全ラベルで構成されている。 本データセットでは,対話型安全性検出モジュールであるCanaryを導入し,会話コンテキストを指定したRoTを生成するとともに,社会的にインフォームドされた対話エージェントであるProstを導入する。
• 参考スコア（独自算出の注目度）: 104.92776607564583
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Most existing dialogue systems fail to respond properly to potentially unsafe user utterances by either ignoring or passively agreeing with them. To address this issue, we introduce ProsocialDialog, the first large-scale multi-turn dialogue dataset to teach conversational agents to respond to problematic content following social norms. Covering diverse unethical, problematic, biased, and toxic situations, ProsocialDialog contains responses that encourage prosocial behavior, grounded in commonsense social rules (i.e., rules-of-thumb, RoTs). Created via a human-AI collaborative framework, ProsocialDialog consists of 58K dialogues, with 331K utterances, 160K RoTs, and 497K dialogue safety labels accompanied by free-form rationales. With this dataset, we introduce a dialogue safety detection module, Canary, capable of generating RoTs given conversational context, and a socially-informed dialogue agent, Prost. Empirical results show that Prost generates more socially acceptable dialogues compared to other state-of-the-art language and dialogue models in both in-domain and out-of-domain settings. Additionally, Canary effectively guides conversational agents and off-the-shelf language models to generate significantly more prosocial responses. Our work highlights the promise and importance of creating and steering conversational AI to be socially responsible.
• Abstract（参考訳）: 既存の対話システムは、無視するか、受動的に同意することで、潜在的に安全でないユーザの発話に適切に応答できない。 この問題に対処するため,社会規範に従う問題コンテンツに対応するための対話エージェントを指導する,最初の大規模マルチターン対話データセットであるProsocialDialogを紹介した。 多様な非倫理的、問題があり、偏見があり、有害な状況をカバーするProsocialDialogは、コモンセンスな社会ルール(すなわちRoTs)に基づく、社会行動を促進する反応を含んでいる。 ProsocialDialogは、人間とAIのコラボレーションフレームワークで作られ、58Kの対話と331Kの発話、160KのRoT、そして497Kの対話安全ラベルで構成されている。 本データセットでは,対話型安全性検出モジュールであるCanaryを導入し,会話コンテキストを指定したRoTを生成するとともに,対話エージェントであるProstを導入する。 実験の結果、prostはドメイン内とドメイン外の両方において、他の最先端言語や対話モデルに比べて社会的に受け入れられる対話を生成することがわかった。 加えて、カナリアは会話エージェントとオフザシェルフ言語モデルを効果的にガイドし、より社会的な反応を生成する。 私たちの仕事は、社会的責任を持つための会話AIの作成と運営の約束と重要性を強調します。

関連論文リスト

• Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
  多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。 この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。 実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-11-07T21:37:51Z)
• Let's Go Real Talk: Spoken Dialogue Model for Face-to-Face Conversation [55.043492250775294]
  本稿では,新しい対面音声対話モデルを提案する。 ユーザ入力から音声視覚音声を処理し、応答として音声視覚音声を生成する。 また,最初の大規模マルチモーダル音声対話コーパスであるMultiDialogを紹介する。
  論文  参考訳（メタデータ） (2024-06-12T04:48:36Z)
• Improving Dialog Safety using Socially Aware Contrastive Learning [8.503001932363704]
  対人・カジュアル・ダイアログの文脈における社会性について検討する。 これらの問題に対処するための2段階の微調整プロセスを提案する。 私たちは、Moral Integrity Corpus(MIC)やProsocialDialogといったデータセットを活用することで、社会行動を統合するベースモデルをトレーニングします。
  論文  参考訳（メタデータ） (2024-02-01T09:24:33Z)
• SocialDial: A Benchmark for Socially-Aware Dialogue Systems [45.3266270265532]
  中国社会文化を基盤とした初の社会認識対話コーパス「SocialDial」を提示する。 SocialDialは2つの部分から構成される:2人の話者間の1,563のマルチターン対話と、ChatGPTによって生成された4,870の合成会話である。 人間のコーパスには5つの社会的規範があり、合計で14のサブカテゴリがある。
  論文  参考訳（メタデータ） (2023-04-24T11:55:22Z)
• Grounding in social media: An approach to building a chit-chat dialogue model [9.247397520986999]
  豊かな人間のような会話能力を持つオープンドメイン対話システムを構築することは、言語生成における根本的な課題の1つである。 知識に基づく対話生成に関する現在の研究は、主にウィキペディアのような事実に基づく構造化知識ソースを法人化または検索することに焦点を当てている。 本手法は,ソーシャルメディア上での人間の反応行動の模倣によって,システムの生会話能力を向上させることを目的とした,より広範かつシンプルなアプローチである。
  論文  参考訳（メタデータ） (2022-06-12T09:01:57Z)
• Converse -- A Tree-Based Modular Task-Oriented Dialogue System [99.78110192324843]
  Converseは柔軟なツリーベースのモジュラータスク指向対話システムである。 Converseは、他のオープンソースの対話フレームワークと比較してユニークな機能である、タスク依存とタスク切り替えをサポートしている。
  論文  参考訳（メタデータ） (2022-03-23T04:19:05Z)
• UniDS: A Unified Dialogue System for Chit-Chat and Task-oriented Dialogues [59.499965460525694]
  上記の2つのスキルを備えた統合対話システム(UniDS)を提案する。 我々は、チャットとタスク指向の対話の両方に対応可能な統合対話データスキーマを設計する。 我々は、事前訓練されたチャット対話モデルから混合対話データでUniDSを訓練する。
  論文  参考訳（メタデータ） (2021-10-15T11:56:47Z)
• Saying No is An Art: Contextualized Fallback Responses for Unanswerable Dialogue Queries [3.593955557310285]
  ほとんどの対話システムは、ランク付けされた応答を生成するためのハイブリッドアプローチに依存している。 ユーザクエリに対して文脈的に認識された応答を生成するニューラルネットワークを設計する。 我々の単純なアプローチでは、依存関係解析のルールと、質問応答ペアの合成データに基づいて微調整されたテキストからテキストへの変換を行う。
  論文  参考訳（メタデータ） (2020-12-03T12:34:22Z)
• Will I Sound Like Me? Improving Persona Consistency in Dialogues through Pragmatic Self-Consciousness [62.55060760615656]
  一貫性に対処する最近のモデルは、しばしば追加の自然言語推論(NLI)ラベルでトレーニングするか、あるいは一貫性を維持するためにトレーニングされた追加モジュールを生成エージェントにアタッチする。 社会的認知と実用性に触発されて、私たちは既存の対話エージェントに、想像上のリスナーを通して、公的な自己意識を持たせました。 我々のアプローチは、Rational Speech Actsフレームワークに基づいて、会話エージェントに矛盾の発声を控えるように強制することができる。
  論文  参考訳（メタデータ） (2020-04-13T08:16:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。