論文の概要: The System Model and the User Model: Exploring AI Dashboard Design

• arxiv url: http://arxiv.org/abs/2305.02469v1
• Date: Thu, 4 May 2023 00:22:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-05 17:36:01.663916
• Title: The System Model and the User Model: Exploring AI Dashboard Design
• Title（参考訳）: システムモデルとユーザモデル:AIダッシュボード設計の探求
• Authors: Fernanda Vi\'egas and Martin Wattenberg
• Abstract要約: 高度なAIシステムは、他の複雑なデバイスと同じようにダッシュボードを持つべきだ、と私たちは主張する。 多くのシステムにおいて、最も重要な2つのモデルはユーザーとシステム自体のものであると推測する。 これら2つのモデルを識別し、解釈し、表示する方法を見つけることは、AIのためのインターフェース研究のコア部分であるべきです。
• 参考スコア（独自算出の注目度）: 79.81291473899591
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This is a speculative essay on interface design and artificial intelligence. Recently there has been a surge of attention to chatbots based on large language models, including widely reported unsavory interactions. We contend that part of the problem is that text is not all you need: sophisticated AI systems should have dashboards, just like all other complicated devices. Assuming the hypothesis that AI systems based on neural networks will contain interpretable models of aspects of the world around them, we discuss what data such dashboards might display. We conjecture that, for many systems, the two most important models will be of the user and of the system itself. We call these the System Model and User Model. We argue that, for usability and safety, interfaces to dialogue-based AI systems should have a parallel display based on the state of the System Model and the User Model. Finding ways to identify, interpret, and display these two models should be a core part of interface research for AI.
• Abstract（参考訳）: これはインターフェース設計と人工知能に関する投機的なエッセイです。 近年,大きな言語モデルに基づくチャットボットへの注目が高まっている。 高度なAIシステムは、他のすべての複雑なデバイスと同じように、ダッシュボードを持つべきです。 ニューラルネットワークに基づくaiシステムは、周囲の世界の解釈可能なモデルを含むという仮説を仮定し、このようなダッシュボードが表示するデータについて論じる。 多くのシステムにとって、最も重要な2つのモデルはユーザーとシステム自体のものであると推測する。 これをシステムモデルとユーザモデルと呼びます。 ユーザビリティと安全性のために、対話型AIシステムへのインタフェースは、システムモデルとユーザモデルの状態に基づく並列ディスプレイを持つべきである、と我々は主張する。 これら2つのモデルを識別し、解釈し、表示する方法を見つけることは、AIのためのインターフェース研究のコア部分であるべきです。

関連論文リスト

• The Switch, the Ladder, and the Matrix: Models for Classifying AI Systems [0.0]
  AI倫理の原則と実践の間にはまだギャップがある。 AI倫理を運用しようとする組織が直面する大きな障害のひとつは、明確に定義された材料スコープの欠如である。
  論文  参考訳（メタデータ） (2024-07-07T12:16:01Z)
• Generative AI Systems: A Systems-based Perspective on Generative AI [12.400966570867322]
  大規模言語モデル(LLM)は、自然言語を用いた機械との通信を可能にすることで、AIシステムに革命をもたらした。 ジェネレーティブAI(GenAI)の最近の進歩は、マルチモーダルシステムとしてLLMを使うことに大きな期待を示している。 本稿では,ジェネレーティブAIシステムにおける新たな研究の方向性を探求し,述べることを目的とする。
  論文  参考訳（メタデータ） (2024-06-25T12:51:47Z)
• LVLM-Interpret: An Interpretability Tool for Large Vision-Language Models [50.259006481656094]
  本稿では,大規模視覚言語モデルの内部メカニズムの理解を目的とした対話型アプリケーションを提案する。 このインタフェースは, 画像パッチの解釈可能性を高めるために設計されており, 応答の生成に有効である。 本稿では,一般的な大規模マルチモーダルモデルであるLLaVAにおける障害機構の理解に,アプリケーションがどのように役立つかのケーススタディを示す。
  論文  参考訳（メタデータ） (2024-04-03T23:57:34Z)
• Grounded Decoding: Guiding Text Generation with Grounded Models for Embodied Agents [111.15288256221764]
  グラウンデッドデコーディングプロジェクトは、両方のモデルの知識を活用することで、ロボット環境で複雑な長期タスクを解決することを目的としている。 我々はこれを確率的フィルタリングに類似した問題として、言語モデルの下で高い確率を持つシーケンスをデコードし、基底モデル対象のセットで高い確率を示す。 本研究では,3つのシミュレーション領域と実世界の領域にまたがって,そのような基底モデルがどのように得られるのかを実証し,両モデルの知識を活用して,ロボット環境での複雑な長期的タスクを解くことができることを示す。
  論文  参考訳（メタデータ） (2023-03-01T22:58:50Z)
• GenNI: Human-AI Collaboration for Data-Backed Text Generation [102.08127062293111]
  Table2Textシステムは、機械学習を利用した構造化データに基づいてテキスト出力を生成する。 GenNI (Generation Negotiation Interface) は、対話型ビジュアルシステムである。
  論文  参考訳（メタデータ） (2021-10-19T18:07:07Z)
• The R-U-A-Robot Dataset: Helping Avoid Chatbot Deception by Detecting User Questions About Human or Non-Human Identity [41.43519695929595]
  システムデザイナがシステムに対して,その人間以外のアイデンティティを確認できるようにする方法を理解することを目的としている。 ロボットの意図にまつわる2500以上のフレーズを集めていますか? 分類器を比較して、意図を認識し、精度/リコールとモデルの複雑さのトレードオフについて議論する。
  論文  参考訳（メタデータ） (2021-06-04T20:04:33Z)
• Scholarly AI system diagrams as an access point to mental models [6.233820957059352]
  人工知能(AI)システムのような複雑なシステムは、多くの相互関連コンポーネントで構成されている。 これらのシステムを表現するためには、コンポーネント間の関係を示すことが不可欠です。 図は「関係のアイコン」として、複雑なシステムを示すための一般的な媒体です。
  論文  参考訳（メタデータ） (2021-04-30T07:55:18Z)
• The Adapter-Bot: All-In-One Controllable Conversational Model [66.48164003532484]
  本稿では、DialGPTなどの固定バックボーンモデルを用いて、異なるアダプタを介してオンデマンド対話スキルをトリガーする対話モデルを提案する。 スキルに応じて、モデルはテキスト、テーブル、強調応答などの複数の知識タイプを処理できる。 我々は,既存の会話モデルと比較し,自動評価を用いたモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-08-28T10:59:31Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)
• What Would You Ask the Machine Learning Model? Identification of User Needs for Model Explanations Based on Human-Model Conversations [5.802346990263708]
  本研究は,対話的かつ反復的な対話探索から人間の操作者のニーズを予測モデルから収集するために,会話システムを用いた最初の試みである。 我々は、タイタニック号の生存確率を予測するために訓練された機械学習モデルについて話すためにDr_antを開発した。 1000以上の対話のコーパスを収集した上で、ユーザが聞きたいと思う最も一般的な質問を分析します。
  論文  参考訳（メタデータ） (2020-02-07T15:59:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。