論文の概要: Conversational Alignment with Artificial Intelligence in Context
- arxiv url: http://arxiv.org/abs/2505.22907v1
- Date: Wed, 28 May 2025 22:14:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:07.561352
- Title: Conversational Alignment with Artificial Intelligence in Context
- Title（参考訳）: 文脈における人工知能を用いた会話アライメント
- Authors: Rachel Katharine Sterken, James Ravi Kirkpatrick,
- Abstract要約: この記事では、AIエージェントが人間のコミュニケーション規範やプラクティスと会話的に整合していることの意味について説明する。
我々は,現在の大規模言語モデル (LLM) アーキテクチャ,制約,余裕が,完全な対話的アライメントを実現する上で基本的な制約を課すことを示唆する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The development of sophisticated artificial intelligence (AI) conversational agents based on large language models raises important questions about the relationship between human norms, values, and practices and AI design and performance. This article explores what it means for AI agents to be conversationally aligned to human communicative norms and practices for handling context and common ground and proposes a new framework for evaluating developers' design choices. We begin by drawing on the philosophical and linguistic literature on conversational pragmatics to motivate a set of desiderata, which we call the CONTEXT-ALIGN framework, for conversational alignment with human communicative practices. We then suggest that current large language model (LLM) architectures, constraints, and affordances may impose fundamental limitations on achieving full conversational alignment.
- Abstract（参考訳）: 大規模言語モデルに基づく高度な人工知能(AI)会話エージェントの開発は、人間の規範、価値観、実践とAI設計とパフォーマンスの関係に関する重要な疑問を提起する。
この記事では、AIエージェントがコンテキストと共通基盤を扱うための人間のコミュニケーション規範とプラクティスに会話的に整合することの意味を考察し、開発者の設計選択を評価するための新しいフレームワークを提案する。
まず,会話の実践的実践と対話的整合性を実現するために,conTEXT-ALIGNフレームワーク(conTEXT-ALIGN framework)と呼ばれるデシラタ(deiderata)のセットを動機付けるために,会話の実用性に関する哲学的・言語学的文献について考察する。
次に、現在の大規模言語モデル(LLM)アーキテクチャ、制約、余裕が、完全な会話アライメントを達成する上で基本的な制限を課すことを提案します。
関連論文リスト
- A Desideratum for Conversational Agents: Capabilities, Challenges, and Future Directions [51.96890647837277]
大規模言語モデル(LLM)は、従来の対話システムから、自律的な行動、文脈認識、ユーザとのマルチターンインタラクションが可能な高度なエージェントへと、会話AIを推進してきた。
本調査では,人間レベルの知性にアプローチするよりスケーラブルなシステムにおいて,何が達成されたのか,どのような課題が持続するのか,何を行う必要があるのか,といった,次世代の会話エージェントのデシラトゥムを提示する。
論文 参考訳（メタデータ） (2025-04-07T21:01:25Z) - Towards Anthropomorphic Conversational AI Part I: A Practical Framework [49.62013440962072]
会話に関わる人間の知性の重要な側面を再現するために設計されたマルチモジュールフレームワークを導入する。
アプローチの第2段階では、これらの会話データは、フィルタリングとラベル付けの後に、強化学習のためのトレーニングおよびテストデータとして機能する。
論文 参考訳（メタデータ） (2025-02-28T03:18:39Z) - Integrating Emotional and Linguistic Models for Ethical Compliance in Large Language Models [2.5200794639628032]
本研究は、感情や倫理に関する言語行動をよりよく管理するために、大規模言語モデル(LLM)の高度な方法論を開発する。
我々は,LLMがグローバルな人的価値を内在化し,反映する能力を高めるための,敵対的枠組みであるDIKEを紹介する。
論文 参考訳（メタデータ） (2024-05-11T19:26:00Z) - Language Models in Dialogue: Conversational Maxims for Human-AI Interactions [14.312321347152249]
我々は,人間とAIの会話を効果的に表現するために,量,品質,関連性,態度,慈悲,透明性のセットを提案する。
様々な言語モデルがこれらの最大値を理解することができる程度を評価し、モデルがそれらの最大値を正確に解釈する能力に大きな影響を与える原理の内的優先順位付けを持っていることを発見した。
論文 参考訳（メタデータ） (2024-03-22T11:16:43Z) - DiPlomat: A Dialogue Dataset for Situated Pragmatic Reasoning [89.92601337474954]
プラグマティック推論は、実生活における会話でしばしば起こる暗黙の意味を解読する上で重要な役割を担っている。
そこで我々は,現実的な推論と会話理解の場所に関するマシンの能力のベンチマークを目的とした,新しい挑戦であるDiPlomatを紹介した。
論文 参考訳（メタデータ） (2023-06-15T10:41:23Z) - Interactive Natural Language Processing [67.87925315773924]
対話型自然言語処理(iNLP)は,NLP分野における新しいパラダイムとして登場した。
本稿では,iNLPの概念の統一的定義と枠組みを提案することから,iNLPに関する包括的調査を行う。
論文 参考訳（メタデータ） (2023-05-22T17:18:29Z) - Discourse over Discourse: The Need for an Expanded Pragmatic Focus in
Conversational AI [0.5884031187931463]
会話の要約と他の会話型AIアプリケーションにおけるいくつかの課題について論じる。
本稿では,いわゆる星文による現実語の重要性について述べる。
AIの品質の基準は人間の行動と区別できないため、苦情を"Turing Test Triggers"とラベル付けします。
論文 参考訳（メタデータ） (2023-04-27T21:51:42Z) - Channel-aware Decoupling Network for Multi-turn Dialogue Comprehension [81.47133615169203]
本稿では,PrLMの逐次文脈化を超えて,発話間の包括的相互作用のための合成学習を提案する。
私たちは、モデルが対話ドメインに適応するのを助けるために、ドメイン適応型トレーニング戦略を採用しています。
実験の結果,提案手法は4つの公開ベンチマークデータセットにおいて,強力なPrLMベースラインを著しく向上させることがわかった。
論文 参考訳（メタデータ） (2023-01-10T13:18:25Z) - In conversation with Artificial Intelligence: aligning language models
with human values [4.56877715768796]
大規模言語技術は、さまざまな文脈における人間とのコミュニケーションの様々な形態で使われるようになっている。
これらの技術のユースケースのひとつに会話エージェントがあり、プロンプトやクエリに応答して自然言語のテキストを出力する。
このタイプの関与は、多くの社会的および倫理的な疑問を提起する。
これらの疑問に答えるためのステップをいくつか提案する。
論文 参考訳（メタデータ） (2022-09-01T21:16:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。