論文の概要: Are Akpans Trick or Treat: Unveiling Helpful Biases in Assistant Systems

• arxiv url: http://arxiv.org/abs/2205.12554v4
• Date: Sun, 02 Mar 2025 21:51:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 19:11:56.260744
• Title: Are Akpans Trick or Treat: Unveiling Helpful Biases in Assistant Systems
• Title（参考訳）: Akpansは難しいか、治療か - アシスタントシステムにおける助力的バイアスの発見
• Authors: Jiao Sun, Yu Hou, Jiin Kim, Nanyun Peng,
• Abstract要約: 情報探索型AIアシスタントシステムは,ユーザの知識に関する質問に対して,タイムリーに回答することを目的としている。 本稿では,有用性の計算測度について検討する。 最先端の対話システムを用いた実験により、既存のシステムは高度開発途上国の概念に関する質問に役立っていることが明らかとなった。
• 参考スコア（独自算出の注目度）: 55.09907990139756
• License:
• Abstract: Information-seeking AI assistant systems aim to answer users' queries about knowledge in a timely manner. However, both the human-perceived helpfulness of information-seeking assistant systems and its fairness implication are under-explored. In this paper, we study computational measurements of helpfulness. We collect human annotations on the helpfulness of dialogue responses, develop models for automatic helpfulness evaluation, and then propose to use the helpfulness level of a dialogue system towards different user queries to gauge the fairness of a dialogue system. Experiments with state-of-the-art dialogue systems, including ChatGPT, under three information-seeking scenarios reveal that existing systems tend to be more helpful for questions regarding concepts from highly-developed countries than less-developed countries, uncovering potential fairness concerns underlying the current information-seeking assistant systems.
• Abstract（参考訳）: 情報探索型AIアシスタントシステムは,ユーザの知識に関する質問に対して,タイムリーに回答することを目的としている。 しかし,情報探索支援システムの人為的有用性と,その公正性の両方が未調査である。 本稿では,有用性の計算測度について検討する。 対話応答の有用性に関する人間のアノテーションを収集し、自動支援評価のためのモデルを開発し、異なるユーザクエリに対する対話システムの有用性レベルを用いて対話システムの公正性を評価することを提案する。 3つの情報探索シナリオの下で、ChatGPTを含む最先端の対話システムを用いた実験により、既存のシステムは、先進国よりも先進国からの概念に関する質問に役立ち、現在の情報探索アシスタントシステムの背後にある潜在的公正性に関する懸念を明らかにする傾向があることが明らかになった。

関連論文リスト

• PK-Chat: Pointer Network Guided Knowledge Driven Generative Dialogue Model [79.64376762489164]
  PK-Chatは、知識グラフ上のポインタネットワークと、事前訓練された言語モデルを組み合わせた、ポインタネットワーク誘導生成対話モデルである。 PK-Chatが対話で生成した単語は、単語リストの予測と外部知識グラフ知識の直接予測から導かれる。 PK-Chatに基づく対話システムは、地球科学の学術シナリオ向けに構築されている。
  論文  参考訳（メタデータ） (2023-04-02T18:23:13Z)
• PK-ICR: Persona-Knowledge Interactive Context Retrieval for Grounded Dialogue [21.266410719325208]
  ペルソナとナレッジ デュアルコンテキスト識別(ペルソナとナレッジ コンテクストの同定)は、与えられた対話において、ペルソナとナレッジを共同で識別するタスクである。 我々は,対話のすべての文脈を同時に活用する新しい接地検索手法を開発した。
  論文  参考訳（メタデータ） (2023-02-13T20:27:26Z)
• Target-Guided Dialogue Response Generation Using Commonsense and Data Augmentation [32.764356638437214]
  ターゲット誘導応答生成のための新しい手法を提案する。 また,既存の対話データセットをターゲット誘導生成のために再利用する手法を提案する。 我々の作業は、一般的に、対話システムの設計者が、システムが生み出す会話をより制御できるようにします。
  論文  参考訳（メタデータ） (2022-05-19T04:01:40Z)
• Towards Large-Scale Interpretable Knowledge Graph Reasoning for Dialogue Systems [109.16553492049441]
  よりスケーラブルで一般化可能な対話システムに知識推論機能を組み込む新しい手法を提案する。 我々の知識を最大限に活用するために、変圧器モデルが微分可能な知識グラフを解析して応答を生成するのは、これが初めてである。
  論文  参考訳（メタデータ） (2022-03-20T17:51:49Z)
• Task-oriented Dialogue Systems: performance vs. quality-optima, a review [0.0]
  最先端のタスク指向対話システムは、まだその可能性を最大限に発揮できていない。 他の会話の品質特性は、会話の成功を示すもの、そうでなければ、無視されることがある。 本稿では,対話システムの評価枠組みと対話システムにおける会話品質特性の役割について考察する。
  論文  参考訳（メタデータ） (2021-12-21T13:16:24Z)
• A Review of Dialogue Systems: From Trained Monkeys to Stochastic Parrots [0.0]
  人工知能をデプロイして、人間と会話できる自動対話エージェントを構築することを目指している。 本稿では,長年にわたって対話システムを構築するために開発された手法について概説する。
  論文  参考訳（メタデータ） (2021-11-02T08:07:55Z)
• Natural Language Understanding for Argumentative Dialogue Systems in the Opinion Building Domain [6.951113351928047]
  本稿では,情報検索領域における議論的対話システムの枠組みを提案する。 提案手法は,複数のユーザの意図を識別し,ユーザが自然言語で参照するシステム引数を識別する。
  論文  参考訳（メタデータ） (2021-03-03T21:17:24Z)
• Rethinking Dialogue State Tracking with Reasoning [76.0991910623001]
  本稿では, 対話状態の段階的追跡を, バックエンドデータの助けを借りて行うことを提案する。 実験の結果,MultiWOZ 2.1の連立信条精度は38.6%向上した。
  論文  参考訳（メタデータ） (2020-05-27T02:05:33Z)
• You Impress Me: Dialogue Generation via Mutual Persona Perception [62.89449096369027]
  認知科学の研究は、理解が高品質なチャット会話に不可欠なシグナルであることを示唆している。 そこで我々は,P2 Botを提案する。このP2 Botは,理解を明示的にモデル化することを目的とした送信機受信者ベースのフレームワークである。
  論文  参考訳（メタデータ） (2020-04-11T12:51:07Z)
• Recent Advances and Challenges in Task-oriented Dialog System [63.82055978899631]
  課題指向対話システムは、学術・産業社会でますます注目を集めている。 タスク指向ダイアログシステムにおける3つの重要なトピックについて論じる。(1)低リソース環境でのダイアログモデリングを容易にするデータ効率の改善、(2)ダイアログポリシー学習のためのマルチターンダイナミクスのモデリング、(3)ダイアログモデルへのドメイン知識の統合。
  論文  参考訳（メタデータ） (2020-03-17T01:34:56Z)
• Attention over Parameters for Dialogue Systems [69.48852519856331]
  我々は,異なる対話スキルを個別にパラメータ化する対話システムを学び,AoP(Attention over Parameters)を通じてそれぞれを選択し,組み合わせることを学ぶ。 実験の結果,MultiWOZ,In-Car Assistant,Persona-Chatの複合データセット上での競合性能が得られた。
  論文  参考訳（メタデータ） (2020-01-07T03:10:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。