論文の概要: Assessing Political Prudence of Open-domain Chatbots

• arxiv url: http://arxiv.org/abs/2106.06157v1
• Date: Fri, 11 Jun 2021 04:03:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-14 14:35:40.990566
• Title: Assessing Political Prudence of Open-domain Chatbots
• Title（参考訳）: オープンドメインチャットボットの政治的慎重性評価
• Authors: Yejin Bang, Nayeon Lee, Etsuko Ishii, Andrea Madotto, Pascale Fung
• Abstract要約: 責任ある、非党派的で安全な行動方法で政治的に敏感なコンテンツを扱うことは、オープンドメインチャットボットにとって不可欠である。 現在、政治的感受性を扱う主なアプローチは、そのようなトピックが検出されたときに単に変更することである。 政治の熟達度を評価するための指標のグループを提案する。
• 参考スコア（独自算出の注目度）: 36.07912225791336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Politically sensitive topics are still a challenge for open-domain chatbots. However, dealing with politically sensitive content in a responsible, non-partisan, and safe behavior way is integral for these chatbots. Currently, the main approach to handling political sensitivity is by simply changing such a topic when it is detected. This is safe but evasive and results in a chatbot that is less engaging. In this work, as a first step towards a politically safe chatbot, we propose a group of metrics for assessing their political prudence. We then conduct political prudence analysis of various chatbots and discuss their behavior from multiple angles through our automatic metric and human evaluation metrics. The testsets and codebase are released to promote research in this area.
• Abstract（参考訳）: 政治的に敏感なトピックは、依然としてオープンドメインチャットボットにとって課題である。 しかし、政治的に敏感なコンテンツを責任ある、非党派的で安全な行動で扱うことは、これらのチャットボットにとって不可欠である。 現在、政治的感受性を扱う主なアプローチは、そのようなトピックが検出されたときに単に変更することである。 これは安全だが回避的であり、エンゲージメントの低いチャットボットになる。 本研究は,政治的に安全なチャットボットへの第一歩として,その政治的思慮を評価するための指標群を提案する。 次に、さまざまなチャットボットの政治的プレデンス分析を行い、自動測定と人的評価のメトリクスを通して、様々な角度からの行動について議論する。 テストセットとコードベースは、この分野の研究を促進するためにリリースされている。

関連論文リスト

• Understanding Multi-Turn Toxic Behaviors in Open-Domain Chatbots [8.763670548363443]
  新しい攻撃である毒物ボットは、多ターン会話において有毒な反応を生成するために開発された。 有害なボットは、産業と研究者の両方が会話における有害な反応を検出し緩和する方法を開発するために使用できる。
  論文  参考訳（メタデータ） (2023-07-14T03:58:42Z)
• Demonstrations of the Potential of AI-based Political Issue Polling [0.0]
  そこで我々は,ChatGPTから人間ライクなサーベイ応答を抽出するための迅速なエンジニアリング手法を開発した。 我々は大規模な実験を行い、人間の調査よりもはるかに低コストで何千ものシミュレーションされた応答を問い合わせる。 ChatGPTは,様々な政策問題について,世論の平均レベルと分布の両方を予測するのに有効である。 しかし、人口レベルでの違いを予想することは成功していない。
  論文  参考訳（メタデータ） (2023-07-10T12:17:15Z)
• Appropriateness is all you need! [0.12891210250935148]
  AIアプリケーションを"安全"にしようとする試みは、許容可能な使用に対する主要なあるいは唯一の規範的要件として、安全対策の開発につながった。 このアプローチは、私たちが"セーフティ・ノルマティビティ"と呼んでいるもので、チャットGPTがこれまでに引き起こした課題の解決に限られています。
  論文  参考訳（メタデータ） (2023-04-27T22:21:52Z)
• Neural Generation Meets Real People: Building a Social, Informative Open-Domain Dialogue Agent [65.68144111226626]
  Chirpy Cardinalは、情報と会話の両方をねらっている。 ユーザーとボットの両方を交互に会話に駆り立てる。 Chirpy Cardinalは、Alexa Prize Socialbot Grand Challengeで9つのボットのうち2位にランクインした。
  論文  参考訳（メタデータ） (2022-07-25T09:57:23Z)
• EmpBot: A T5-based Empathetic Chatbot focusing on Sentiments [75.11753644302385]
  共感的会話エージェントは、議論されていることを理解しているだけでなく、会話相手の暗黙の感情も認識すべきである。 変圧器事前学習言語モデル(T5)に基づく手法を提案する。 本研究では,自動計測と人的評価の両方を用いて,情緒的ダイアログデータセットを用いたモデルの評価を行った。
  論文  参考訳（メタデータ） (2021-10-30T19:04:48Z)
• CheerBots: Chatbots toward Empathy and Emotionusing Reinforcement Learning [60.348822346249854]
  本研究では,複数の共感型チャットボットがユーザの暗黙の感情を理解し,複数の対話のターンに対して共感的に応答する枠組みを提案する。 チャットボットをCheerBotsと呼びます。CheerBotsは検索ベースまたは生成ベースで、深い強化学習によって微調整されます。 共感的態度で反応するため,CheerBotsの学習支援としてシミュレーションエージェントである概念人間モデルを開発し,今後のユーザの感情状態の変化を考慮し,共感を喚起する。
  論文  参考訳（メタデータ） (2021-10-08T07:44:47Z)
• Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn Chatbot Responding with Intention [55.77218465471519]
  本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。 我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。 本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
  論文  参考訳（メタデータ） (2021-03-30T15:24:37Z)
• CASS: Towards Building a Social-Support Chatbot for Online Health Community [67.45813419121603]
  CASSアーキテクチャは高度なニューラルネットワークアルゴリズムに基づいている。 ユーザーからの新たな入力を処理し、さまざまなレスポンスを生成することができる。 フォローアップフィールド実験により、CASSは感情的支援を求める個々のメンバーを支援するのに有用であることが証明された。
  論文  参考訳（メタデータ） (2021-01-04T05:52:03Z)
• Personalized Chatbot Trustworthiness Ratings [19.537492400265577]
  我々は、各問題に対する個別の格付けモジュールに依存するチャットボットのためのパーソナライズされた格付け手法を構想する。 この方法は、特定の信頼問題とは独立しており、集計手順にパラメトリックである。
  論文  参考訳（メタデータ） (2020-05-13T22:42:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。