論文の概要: RV4Chatbot: Are Chatbots Allowed to Dream of Electric Sheep?
- arxiv url: http://arxiv.org/abs/2411.14368v1
- Date: Thu, 21 Nov 2024 18:07:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-22 15:20:37.010276
- Title: RV4Chatbot: Are Chatbots Allowed to Dream of Electric Sheep?
- Title(参考訳): RV4Chatbotは電気シープの夢?
- Authors: Andrea Gatti, Viviana Mascardi, Angelo Ferrando,
- Abstract要約: 本稿では,チャットボットの振る舞いの偏りを監視するための検証フレームワークであるRV4Chatbotを紹介する。
ユーザとチャットボット間のインタラクションとして,期待される動作を形式化する。
本稿では, RV4Chatbotの設計と, RV4Rasa と RV4Dialogflow の2つの実装について述べる。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Chatbots have become integral to various application domains, including those with safety-critical considerations. As a result, there is a pressing need for methods that ensure chatbots consistently adhere to expected, safe behaviours. In this paper, we introduce RV4Chatbot, a Runtime Verification framework designed to monitor deviations in chatbot behaviour. We formalise expected behaviours as interaction protocols between the user and the chatbot. We present the RV4Chatbot design and describe two implementations that instantiate it: RV4Rasa, for monitoring chatbots created with the Rasa framework, and RV4Dialogflow, for monitoring Dialogflow chatbots. Additionally, we detail experiments conducted in a factory automation scenario using both RV4Rasa and RV4Dialogflow.
- Abstract(参考訳): チャットボットは、安全クリティカルな考慮事項を含む、さまざまなアプリケーションドメインに不可欠なものになっている。
結果として、チャットボットが期待された安全な振る舞いに一貫して準拠することを保証する方法が求められている。
本稿では,チャットボットの動作の偏りを監視するための実行時検証フレームワークであるRV4Chatbotを紹介する。
ユーザとチャットボット間のインタラクションプロトコルとして,期待される動作を形式化する。
本稿では、RV4Chatbotの設計と、それをインスタンス化する2つの実装について述べる: RV4Rasa、Rasaフレームワークで作成されたチャットボットを監視するためのRV4Rasa、ダイアログフローを監視するためのRV4Dialogflow。
さらに、RV4RasaとRV4Dialogflowの両方を用いて、工場自動化シナリオで実施した実験について詳述する。
関連論文リスト
- Measuring and Controlling Instruction (In)Stability in Language Model Dialogs [72.38330196290119]
System-promptingは、言語モデルチャットボットをカスタマイズするツールで、特定の命令に従うことができる。
本稿では,仮説を検証し,セルフチャットによる命令安定性の評価を行うベンチマークを提案する。
我々は8ラウンドの会話で重要な指示ドリフトを明らかにした。
そこで本研究では,2つの強力なベースラインに対して良好に比較可能なsplit-softmaxという軽量な手法を提案する。
論文 参考訳(メタデータ) (2024-02-13T20:10:29Z) - MutaBot: A Mutation Testing Approach for Chatbots [3.811067614153878]
MutaBotは、会話フロー、インテント、コンテキストを含む、複数のレベルでの突然変異に対処する。
ツールを3つのDialogflowチャットボットとBotiumで生成されたテストケースで評価し、テストスイートの弱点を明らかにする。
論文 参考訳(メタデータ) (2024-01-18T20:38:27Z) - Chatbot Application to Support Smart Agriculture in Thailand [0.3523208537466128]
農業分野では、既存のスマート農業システムは、センサーとIoT(Internet of Things)技術からのデータのみを使用する。
これを強化するために、農夫が作物の栽培知識を提供するための補助となることができる。
主な5つの機能(スタート/ストップメニュー、メインページ、ドリップイリゲーションページ、霧灌水ページ、モニターページ)で構成されている。
農家はこの申請に非常に満足しており、満足度は96%だ。
論文 参考訳(メタデータ) (2023-07-31T11:42:44Z) - Understanding Multi-Turn Toxic Behaviors in Open-Domain Chatbots [8.763670548363443]
新しい攻撃である毒物ボットは、多ターン会話において有毒な反応を生成するために開発された。
有害なボットは、産業と研究者の両方が会話における有害な反応を検出し緩和する方法を開発するために使用できる。
論文 参考訳(メタデータ) (2023-07-14T03:58:42Z) - Appropriateness is all you need! [0.12891210250935148]
AIアプリケーションを"安全"にしようとする試みは、許容可能な使用に対する主要なあるいは唯一の規範的要件として、安全対策の開発につながった。
このアプローチは、私たちが"セーフティ・ノルマティビティ"と呼んでいるもので、チャットGPTがこれまでに引き起こした課題の解決に限られています。
論文 参考訳(メタデータ) (2023-04-27T22:21:52Z) - Neural Generation Meets Real People: Building a Social, Informative
Open-Domain Dialogue Agent [65.68144111226626]
Chirpy Cardinalは、情報と会話の両方をねらっている。
ユーザーとボットの両方を交互に会話に駆り立てる。
Chirpy Cardinalは、Alexa Prize Socialbot Grand Challengeで9つのボットのうち2位にランクインした。
論文 参考訳(メタデータ) (2022-07-25T09:57:23Z) - EmpBot: A T5-based Empathetic Chatbot focusing on Sentiments [75.11753644302385]
共感的会話エージェントは、議論されていることを理解しているだけでなく、会話相手の暗黙の感情も認識すべきである。
変圧器事前学習言語モデル(T5)に基づく手法を提案する。
本研究では,自動計測と人的評価の両方を用いて,情緒的ダイアログデータセットを用いたモデルの評価を行った。
論文 参考訳(メタデータ) (2021-10-30T19:04:48Z) - CheerBots: Chatbots toward Empathy and Emotionusing Reinforcement
Learning [60.348822346249854]
本研究では,複数の共感型チャットボットがユーザの暗黙の感情を理解し,複数の対話のターンに対して共感的に応答する枠組みを提案する。
チャットボットをCheerBotsと呼びます。CheerBotsは検索ベースまたは生成ベースで、深い強化学習によって微調整されます。
共感的態度で反応するため,CheerBotsの学習支援としてシミュレーションエージェントである概念人間モデルを開発し,今後のユーザの感情状態の変化を考慮し,共感を喚起する。
論文 参考訳(メタデータ) (2021-10-08T07:44:47Z) - Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn
Chatbot Responding with Intention [55.77218465471519]
本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。
我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。
本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
論文 参考訳(メタデータ) (2021-03-30T15:24:37Z) - Investigation of Sentiment Controllable Chatbot [50.34061353512263]
本稿では,反応の感情をスケールまたは調整する4つのモデルについて検討する。
モデルはペルソナベースのモデル、強化学習、プラグアンドプレイモデル、CycleGANである。
入力に対して応答が妥当かどうかを推定するために,機械評価メトリクスを開発する。
論文 参考訳(メタデータ) (2020-07-11T16:04:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。