論文の概要: Better Slow than Sorry: Introducing Positive Friction for Reliable Dialogue Systems
- arxiv url: http://arxiv.org/abs/2501.17348v2
- Date: Fri, 31 Jan 2025 17:51:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-03 14:01:29.457739
- Title: Better Slow than Sorry: Introducing Positive Friction for Reliable Dialogue Systems
- Title（参考訳）: Sorryよりよいスロー:信頼対話システムのための正の摩擦の導入
- Authors: Mert İnan, Anthony Sicilia, Suvodip Dey, Vardhan Dongre, Tejas Srinivasan, Jesse Thomason, Gökhan Tür, Dilek Hakkani-Tür, Malihe Alikhani,
- Abstract要約: 摩擦のない対話は、AI出力への非クリティカルな依存を促進する。
本稿では,会話型AIに肯定的な摩擦を組み込むことにより,ユーザの目標に対する反映,システム応答に対する批判的思考,その後のAIシステムの再コンディショニングを促進することを提案する。
- 参考スコア（独自算出の注目度）: 36.88021317372274
- License:
- Abstract: While theories of discourse and cognitive science have long recognized the value of unhurried pacing, recent dialogue research tends to minimize friction in conversational systems. Yet, frictionless dialogue risks fostering uncritical reliance on AI outputs, which can obscure implicit assumptions and lead to unintended consequences. To meet this challenge, we propose integrating positive friction into conversational AI, which promotes user reflection on goals, critical thinking on system response, and subsequent re-conditioning of AI systems. We hypothesize systems can improve goal alignment, modeling of user mental states, and task success by deliberately slowing down conversations in strategic moments to ask questions, reveal assumptions, or pause. We present an ontology of positive friction and collect expert human annotations on multi-domain and embodied goal-oriented corpora. Experiments on these corpora, along with simulated interactions using state-of-the-art systems, suggest incorporating friction not only fosters accountable decision-making, but also enhances machine understanding of user beliefs and goals, and increases task success rates.
- Abstract（参考訳）: 談話と認知科学の理論は、長い間、未解決のペーシングの価値を認識してきたが、最近の対話研究は会話システムの摩擦を最小限に抑える傾向にある。
しかし、摩擦のない対話はAI出力への非クリティカルな依存を促進するリスクがあり、暗黙の仮定を隠蔽し、意図しない結果をもたらす可能性がある。
この課題に対処するため,ユーザによる目標の反映,システム応答に対する批判的思考,その後のAIシステムのリコンディションを促進する,会話型AIに肯定的な摩擦を統合することを提案する。
私たちは、戦略的瞬間に会話を意図的に遅くして質問したり、仮定を明らかにしたり、一時停止したりすることで、システムのゴールアライメント、ユーザ精神状態のモデリング、タスク成功を改善することができると仮定します。
ポジティブな摩擦のオントロジーを提示し、多ドメインおよび具体化されたゴール指向コーパスに関する専門家のアノテーションを収集する。
これらのコーパスの実験は、最先端のシステムを用いたシミュレートされた相互作用とともに、説明責任のある意思決定を促進するだけでなく、ユーザの信念や目標に対する機械的理解を高め、タスクの成功率を高めることを示唆している。
関連論文リスト
- Exploring a Behavioral Model of "Positive Friction" in Human-AI
Interaction [1.8673970128645236]
本稿では,AIを用いたユーザおよび開発者エクスペリエンスにおいて,現在どのような摩擦が有用であるかを特徴付ける「正の摩擦」モデルを提案する。
そして、ハイブリッドな"AI+人間"レンズを取ることの価値を提案することによって、AIユーザと開発者のコンテキストでこのモデルを探求する。
論文 参考訳（メタデータ） (2024-02-15T03:39:55Z) - Expanding the Set of Pragmatic Considerations in Conversational AI [0.26206189324400636]
本稿では,現在の会話型AIシステムの実用的限界について論じる。
私たちは、苦情をTTT(Turing Test Triggers)とラベル付けします。
我々は、対話型AIシステムに必要な実用的能力を特定するために、実用的考察の分類法を開発する。
論文 参考訳（メタデータ） (2023-10-27T19:21:50Z) - Prompting and Evaluating Large Language Models for Proactive Dialogues:
Clarification, Target-guided, and Non-collaboration [72.04629217161656]
本研究は, 明瞭化, 目標誘導, 非協調対話の3つの側面に焦点をあてる。
LLMの能動性を高めるために,プロアクティブ・チェーン・オブ・ソート・プロンプト方式を提案する。
論文 参考訳（メタデータ） (2023-05-23T02:49:35Z) - A Survey on Proactive Dialogue Systems: Problems, Methods, and Prospects [100.75759050696355]
本稿では,対話エージェントの多種多様な対話における能動性に関する顕著な問題と先進的な設計について概説する。
我々は、現実世界のアプリケーションのニーズを満たすが、将来もっと研究に焦点を当てる必要がある課題について議論する。
論文 参考訳（メタデータ） (2023-05-04T11:38:49Z) - Social Influence Dialogue Systems: A Scoping Survey of the Efforts
Towards Influence Capabilities of Dialogue Systems [50.57882213439553]
社会影響対話システムは、説得、交渉、治療を行うことができる。
これらのスキルを備えた対話システムには、正式な定義やカテゴリは存在しない。
この研究は、この新興地域でのより専用の研究と議論を促すために、社会影響対話システムの包括的参照となる。
論文 参考訳（メタデータ） (2022-10-11T17:57:23Z) - Interacting with Non-Cooperative User: A New Paradigm for Proactive
Dialogue Policy [83.61404191470126]
インタラクティブな環境下でプロアクティブなポリシーを学習できるI-Proという新しいソリューションを提案する。
具体的には,4つの要因からなる学習目標重みを通じてトレードオフを学習する。
実験の結果,I-Proは,有効性と解釈性において,ベースラインを著しく上回っていることがわかった。
論文 参考訳（メタデータ） (2022-04-07T14:11:31Z) - Uncertainty Measures in Neural Belief Tracking and the Effects on
Dialogue Policy Performance [9.336563795700773]
本稿では,ニューラル信念追跡における不確実性の評価手法を提案する。
これらの措置が政策最適化の下流課題に与える影響を評価する。
ヒトとシミュレートされたユーザの結果は、これらの指標を取り入れることで、下流の対話ポリシーの性能と堅牢性の両方が改善されることを示している。
論文 参考訳（メタデータ） (2021-09-09T15:41:50Z) - You Impress Me: Dialogue Generation via Mutual Persona Perception [62.89449096369027]
認知科学の研究は、理解が高品質なチャット会話に不可欠なシグナルであることを示唆している。
そこで我々は,P2 Botを提案する。このP2 Botは,理解を明示的にモデル化することを目的とした送信機受信者ベースのフレームワークである。
論文 参考訳（メタデータ） (2020-04-11T12:51:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。