論文の概要: Towards Dialogues for Joint Human-AI Reasoning and Value Alignment

• arxiv url: http://arxiv.org/abs/2405.18073v1
• Date: Tue, 28 May 2024 11:29:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 18:58:39.226056
• Title: Towards Dialogues for Joint Human-AI Reasoning and Value Alignment
• Title（参考訳）: ヒューマンAI推論とバリューアライメントの対話に向けて
• Authors: Elfia Bezou-Vrakatseli, Oana Cocarascu, Sanjay Modgil,
• Abstract要約: 共同推論(すなわち「問い合わせ」)を支援することを目的とした人間-AI対話の実現は、AIによる意思決定が人間の価値観や嗜好と一致していることを保証する上で重要である、と我々は主張する。
• 参考スコア（独自算出の注目度）: 3.432828370470386
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We argue that enabling human-AI dialogue, purposed to support joint reasoning (i.e., 'inquiry'), is important for ensuring that AI decision making is aligned with human values and preferences. In particular, we point to logic-based models of argumentation and dialogue, and suggest that the traditional focus on persuasion dialogues be replaced by a focus on inquiry dialogues, and the distinct challenges that joint inquiry raises. Given recent dramatic advances in the performance of large language models (LLMs), and the anticipated increase in their use for decision making, we provide a roadmap for research into inquiry dialogues for supporting joint human-LLM reasoning tasks that are ethically salient, and that thereby require that decisions are value aligned.
• Abstract（参考訳）: 共同推論(すなわち「問い合わせ」)を支援することを目的とした人間-AI対話の実現は、AIによる意思決定が人間の価値観や嗜好と一致していることを保証する上で重要である、と我々は主張する。 特に、議論と対話の論理に基づくモデルを指して、従来の説得対話の焦点は、質問対話の焦点に置き換わることと、共同調査が引き起こす個別の課題に置き換わることを提案する。 近年,大規模言語モデル(LLM)の性能が飛躍的に向上し,意思決定への利用が期待されることを踏まえ,倫理的に健全な共同人間-LLM推論タスクを支援するための調査対話のロードマップを提供する。

関連論文リスト

• Leveraging Explicit Reasoning for Inference Integration in Commonsense-Augmented Dialogue Models [12.116834890063146]
  オープンドメイン対話システムは、人間のユーザに対して効果的に理解し、応答するために、社会的常識を理解する必要がある。 既存のコモンセンス拡張ダイアログへのアプローチは、応答生成中にコモンセンス推論を統合する暗黙の推論に依存している。
  論文  参考訳（メタデータ） (2024-06-13T14:07:52Z)
• COOPER: Coordinating Specialized Agents towards a Complex Dialogue Goal [43.78731248855523]
  異なる側面を包括的に検討し、共同で推進することで、複雑な対話目標を達成することがより容易である、と我々は主張する。 我々は、複雑な対話目標をより親しみやすくし、個々のエージェントの協力を通じてより大きな知性を引き出す。
  論文  参考訳（メタデータ） (2023-12-19T02:07:42Z)
• Dialogue Agents 101: A Beginner's Guide to Critical Ingredients for Designing Effective Conversational Systems [29.394466123216258]
  本研究は,対話エージェントの主要な特徴,対応するオープンドメインデータセット,およびこれらのデータセットをベンチマークする手法について概説する。 我々は,既存のデータセットの会話から構築された統一dIalogue dataseTであるUNITを提案する。
  論文  参考訳（メタデータ） (2023-07-14T10:05:47Z)
• A Survey on Proactive Dialogue Systems: Problems, Methods, and Prospects [100.75759050696355]
  本稿では,対話エージェントの多種多様な対話における能動性に関する顕著な問題と先進的な設計について概説する。 我々は、現実世界のアプリケーションのニーズを満たすが、将来もっと研究に焦点を当てる必要がある課題について議論する。
  論文  参考訳（メタデータ） (2023-05-04T11:38:49Z)
• AugESC: Dialogue Augmentation with Large Language Models for Emotional Support Conversation [54.29029787836075]
  クラウドソースによる対話コーパスは通常、データキュレーションのコストがかかるため、スケールやトピックのカバレッジが制限される。 本研究では,感情支援会話(ESC)における対話強化のための大規模言語モデルを活用する。 クラウドソースされたESConvコーパスのスケールとトピックカバレッジを大きく拡張した,ESCタスク用の拡張データセットであるAugESCを構築した。
  論文  参考訳（メタデータ） (2022-02-26T03:17:08Z)
• Conversational Norms for Human-Robot Dialogues [0.32228025627337864]
  本稿では,会話規範違反に対処するコンピュータ対話システムの開発を支援するために,最近開始された研究プロジェクトについて述べる。 我々のアプローチは,分散文法システム(CDGS)と連携した対話と規範をモデル化することである。
  論文  参考訳（メタデータ） (2021-03-02T13:28:18Z)
• Is this Dialogue Coherent? Learning from Dialogue Acts and Entities [82.44143808977209]
  スイッチボード・コヒーレンス・コーパス(SWBD-Coh)コーパス(Switchboard Coherence corpus,SWBD-Coh)を作成する。 コーパスの統計的分析は、ターンコヒーレンス知覚がエンティティの分布パターンによってどのように影響を受けるかを示している。 DA情報とエンティティ情報を組み合わせたモデルでは,応答選択とターンコヒーレンス評価の両面で最高の性能が得られることがわかった。
  論文  参考訳（メタデータ） (2020-06-17T21:02:40Z)
• Rethinking Dialogue State Tracking with Reasoning [76.0991910623001]
  本稿では, 対話状態の段階的追跡を, バックエンドデータの助けを借りて行うことを提案する。 実験の結果,MultiWOZ 2.1の連立信条精度は38.6%向上した。
  論文  参考訳（メタデータ） (2020-05-27T02:05:33Z)
• Dialogue-Based Relation Extraction [53.2896545819799]
  本稿では,人間による対話型関係抽出(RE)データセットDialogREを提案する。 我々は,対話型タスクと従来のREタスクの類似点と相違点の分析に基づいて,提案課題において話者関連情報が重要な役割を担っていると論じる。 実験結果から,ベストパフォーマンスモデルにおける話者認識の拡張が,標準設定と会話評価設定の両方において向上することが示された。
  論文  参考訳（メタデータ） (2020-04-17T03:51:57Z)
• You Impress Me: Dialogue Generation via Mutual Persona Perception [62.89449096369027]
  認知科学の研究は、理解が高品質なチャット会話に不可欠なシグナルであることを示唆している。 そこで我々は,P2 Botを提案する。このP2 Botは,理解を明示的にモデル化することを目的とした送信機受信者ベースのフレームワークである。
  論文  参考訳（メタデータ） (2020-04-11T12:51:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。