論文の概要: The R-U-A-Robot Dataset: Helping Avoid Chatbot Deception by Detecting User Questions About Human or Non-Human Identity

• arxiv url: http://arxiv.org/abs/2106.02692v1
• Date: Fri, 4 Jun 2021 20:04:33 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-15 09:21:58.885215
• Title: The R-U-A-Robot Dataset: Helping Avoid Chatbot Deception by Detecting User Questions About Human or Non-Human Identity
• Title（参考訳）: R-U-A-Robotデータセット:人間や非人間の身元に関するユーザーの質問を検知することで、チャットボットの誤認を避ける
• Authors: David Gros, Yu Li, Zhou Yu
• Abstract要約: システムデザイナがシステムに対して,その人間以外のアイデンティティを確認できるようにする方法を理解することを目的としている。 ロボットの意図にまつわる2500以上のフレーズを集めていますか? 分類器を比較して、意図を認識し、精度/リコールとモデルの複雑さのトレードオフについて議論する。
• 参考スコア（独自算出の注目度）: 41.43519695929595
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Humans are increasingly interacting with machines through language, sometimes in contexts where the user may not know they are talking to a machine (like over the phone or a text chatbot). We aim to understand how system designers and researchers might allow their systems to confirm its non-human identity. We collect over 2,500 phrasings related to the intent of ``Are you a robot?". This is paired with over 2,500 adversarially selected utterances where only confirming the system is non-human would be insufficient or disfluent. We compare classifiers to recognize the intent and discuss the precision/recall and model complexity tradeoffs. Such classifiers could be integrated into dialog systems to avoid undesired deception. We then explore how both a generative research model (Blender) as well as two deployed systems (Amazon Alexa, Google Assistant) handle this intent, finding that systems often fail to confirm their non-human identity. Finally, we try to understand what a good response to the intent would be, and conduct a user study to compare the important aspects when responding to this intent.
• Abstract（参考訳）: 人間は言語を通して機械と対話し、時にはユーザーが機械と話していることを知らない状況(電話やテキストチャットボットなど)で会話するようになる。 システムデザイナや研究者が、システムに対して人間以外のアイデンティティを確認できるようにする方法を理解することを目指している。 我々は『あなたはロボット?』の意図に関連する2500以上のフレーズを集めている。 2500以上の逆選択された発話と組み合わせて、システムが非人間であることを確認するだけで不十分か不流動である。 分類器を比較して意図を認識し、精度/リコールとモデルの複雑さのトレードオフについて議論する。 このような分類器は、望ましくない偽装を避けるためにダイアログシステムに統合できる。 次に、生成研究モデル(blender)と2つのデプロイされたシステム(amazon alexa、google assistant)の両方が、この意図をどのように処理するかを調べ、システムがしばしば、非人間的アイデンティティの確認に失敗することを発見します。 最後に、意図に対する良い反応が何であるかを理解し、この意図に反応する際の重要な側面を比較するためにユーザー研究を実施します。

関連論文リスト

• Revisiting Proprioceptive Sensing for Articulated Object Manipulation [1.4772379476524404]
  位置制御ロボットとパラレルグリップを併用し,プロトリオセプティヴセンシングを用いてキャビネットを開くシステムを構築した。 我々はこのシステムの質的評価を行い、グリップとハンドリングの間のスリップが性能を制限することを発見した。 音声で操作するオブジェクト操作システムにおいて、私たちは接触中にプロトロセプティブな情報をもっと活用すべきなのか、それとも複雑さを追加する価値がないのか、視覚だけで管理できるのか、という疑問が浮かび上がってくる。
  論文  参考訳（メタデータ） (2023-05-16T16:31:10Z)
• The System Model and the User Model: Exploring AI Dashboard Design [79.81291473899591]
  高度なAIシステムは、他の複雑なデバイスと同じようにダッシュボードを持つべきだ、と私たちは主張する。 多くのシステムにおいて、最も重要な2つのモデルはユーザーとシステム自体のものであると推測する。 これら2つのモデルを識別し、解釈し、表示する方法を見つけることは、AIのためのインターフェース研究のコア部分であるべきです。
  論文  参考訳（メタデータ） (2023-05-04T00:22:49Z)
• Open-World Object Manipulation using Pre-trained Vision-Language Models [72.87306011500084]
  ロボットが人からの指示に従うためには、人間の語彙の豊かな意味情報を繋げなければならない。 我々は、事前学習された視覚言語モデルを利用して、オブジェクト識別情報を抽出するシンプルなアプローチを開発する。 実際の移動マニピュレータにおける様々な実験において、MOOはゼロショットを様々な新しいオブジェクトカテゴリや環境に一般化する。
  論文  参考訳（メタデータ） (2023-03-02T01:55:10Z)
• Robots-Dont-Cry: Understanding Falsely Anthropomorphic Utterances in Dialog Systems [64.10696852552103]
  非常に人為的な反応は、ユーザーが人間と対話していると考えることを不快に、あるいは暗黙的に騙すかもしれない。 9つの異なるデータソースからサンプリングした約900の2ターンダイアログの実現可能性に関する人間の評価を収集する。
  論文  参考訳（メタデータ） (2022-10-22T12:10:44Z)
• Examining Audio Communication Mechanisms for Supervising Fleets of Agricultural Robots [2.76240219662896]
  我々は、agbotをフィールドに配置し、ランダムに障害に遭遇し、オペレーターに助けを求めるシミュレーションプラットフォームを開発した。 アグボットがエラーを報告すると、どのロボットが失敗したか、どんな障害が発生したかを伝える様々な音声通信機構がテストされる。 ユーザによる3つの音声通信方式: イヤーコン, 単文コマンド, フル文コミュニケーション。
  論文  参考訳（メタデータ） (2022-08-22T17:19:20Z)
• Two ways to make your robot proactive: reasoning about human intentions, or reasoning about possible futures [69.03494351066846]
  ロボットをアクティブにする方法を2つ検討する。 1つの方法は人間の意図を認識し、あなたが交差しようとしているドアを開くなど、それらを満たすために行動することである。 もう1つの方法は、将来起こりうる脅威や機会を推論し、それを防ぐか、または育てるために行動することである。
  論文  参考訳（メタデータ） (2022-05-11T13:33:14Z)
• One System to Rule them All: a Universal Intent Recognition System for Customer Service Chatbots [0.0]
  普遍的意図認識システムの開発を提案する。 28種類のチャットボットに共通する11のインテントの中から選択したグループを認識するように訓練されている。 提案システムは、それらの普遍的な意図を80.4%の精度で識別することができる。
  論文  参考訳（メタデータ） (2021-12-15T16:45:55Z)
• Talk-to-Resolve: Combining scene understanding and spatial dialogue to resolve granular task ambiguity for a collocated robot [15.408128612723882]
  ロボットのコロケーションの実用性は、人間との容易で直感的な相互作用機構に大きく依存する。 本稿では,TTR(Talk-to-Resolve)と呼ばれるシステムについて述べる。 本システムでは,82%の精度でスタレマトを同定し,適切な対話交換で解決することができる。
  論文  参考訳（メタデータ） (2021-11-22T10:42:59Z)
• Joint Inference of States, Robot Knowledge, and Human (False-)Beliefs [90.20235972293801]
  本稿では,人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)・人間(時間的)の認知能力が,ロボットとの相互作用にどのように影響するかを理解するために,対象状態,ロボット知識,人間(時間的)の認知能力の表現にグラフィカルモデルを採用することを提案する。 推論アルゴリズムは、複数のビューにまたがる全てのロボットから個別のpgを融合し、単一のビューから発生したエラーを克服するより効果的な推論能力を得る。
  論文  参考訳（メタデータ） (2020-04-25T23:02:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。