論文の概要: Accounting for AI and Users Shaping One Another: The Role of Mathematical Models

• arxiv url: http://arxiv.org/abs/2404.12366v1
• Date: Thu, 18 Apr 2024 17:49:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-19 18:42:29.776932
• Title: Accounting for AI and Users Shaping One Another: The Role of Mathematical Models
• Title（参考訳）: AIとユーザのための会計 - 数学的モデルの役割
• Authors: Sarah Dean, Evan Dong, Meena Jagadeesan, Liu Leqi,
• Abstract要約: 我々は,AIとユーザが相互にどのように形成するかを数学的に規定する形式的相互作用モデルの開発を論じる。 ユーザと対話するAIシステムを設計、評価、監査する際に、正式なインタラクションモデルを活用するようにコミュニティに呼びかけます。
• 参考スコア（独自算出の注目度）: 17.89344451611069
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As AI systems enter into a growing number of societal domains, these systems increasingly shape and are shaped by user preferences, opinions, and behaviors. However, the design of AI systems rarely accounts for how AI and users shape one another. In this position paper, we argue for the development of formal interaction models which mathematically specify how AI and users shape one another. Formal interaction models can be leveraged to (1) specify interactions for implementation, (2) monitor interactions through empirical analysis, (3) anticipate societal impacts via counterfactual analysis, and (4) control societal impacts via interventions. The design space of formal interaction models is vast, and model design requires careful consideration of factors such as style, granularity, mathematical complexity, and measurability. Using content recommender systems as a case study, we critically examine the nascent literature of formal interaction models with respect to these use-cases and design axes. More broadly, we call for the community to leverage formal interaction models when designing, evaluating, or auditing any AI system which interacts with users.
• Abstract（参考訳）: AIシステムが多くの社会的領域に入るにつれ、これらのシステムはますますユーザー好み、意見、行動によって形づくられ、形作られていく。 しかし、AIシステムの設計は、AIとユーザーが互いにどのように形成するかをほとんど説明しない。 本稿では,AIとユーザが相互にどのように形成するかを数学的に規定する形式的相互作用モデルの開発について論じる。 形式的相互作用モデルは,(1)実施のための相互作用の特定,(2)実証分析による相互作用の監視,(3)反事実分析による社会的影響の予測,(4)介入による社会的影響の制御に活用することができる。 形式的相互作用モデルの設計空間は広大なものであり、モデル設計はスタイル、粒度、数学的複雑さ、測定可能性といった要素を慎重に考慮する必要がある。 事例研究としてコンテントレコメンデータシステムを用いて,これらのユースケースと設計軸に関して,形式的相互作用モデルの初期段階の文献を批判的に検討する。 より広範に、私たちはコミュニティに、ユーザと対話する任意のAIシステムを設計、評価、監査する際に、正式なインタラクションモデルを活用するように呼びかけています。

関連論文リスト

• Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
  我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。 また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
  論文  参考訳（メタデータ） (2024-10-28T23:10:06Z)
• Characterizing and modeling harms from interactions with design patterns in AI interfaces [0.19116784879310028]
  適応型AIシステムを用いたインタフェースの設計は、フィードバックループによって引き起こされるカスケード効果をもたらす可能性があると我々は主張する。 本稿では,AIインタフェース設計のインパクトアセスメントを構造化し,促進するAIシステムの設計強化制御(DECAI)を提案する。
  論文  参考訳（メタデータ） (2024-04-17T13:30:45Z)
• Unpacking Human-AI interactions: From interaction primitives to a design space [6.778055454461106]
  これらのプリミティブを相互作用パターンの集合にどのように組み合わせるかを示す。 この背景にある動機は、既存のプラクティスのコンパクトな一般化を提供することである。 我々は,人間-AIインタラクションの設計空間に対して,このアプローチをどのように利用できるかについて議論する。
  論文  参考訳（メタデータ） (2024-01-10T12:27:18Z)
• Interactive Autonomous Navigation with Internal State Inference and Interactivity Estimation [58.21683603243387]
  本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。 これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。 提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-27T18:57:42Z)
• Foundation Models for Decision Making: Problems, Methods, and Opportunities [124.79381732197649]
  大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。 ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。 基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
  論文  参考訳（メタデータ） (2023-03-07T18:44:07Z)
• Are Neural Topic Models Broken? [81.15470302729638]
  トピックモデルの自動評価と人的評価の関係について検討する。 ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
  論文  参考訳（メタデータ） (2022-10-28T14:38:50Z)
• Mimetic Models: Ethical Implications of AI that Acts Like You [5.843033621853535]
  人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。 われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
  論文  参考訳（メタデータ） (2022-07-19T16:41:36Z)
• MultiViz: An Analysis Benchmark for Visualizing and Understanding Multimodal Models [103.9987158554515]
  MultiVizは、解釈可能性の問題を4段階に足場化することで、マルチモーダルモデルの振る舞いを分析する手法である。 MultiVizの相補的な段階は、モデル予測をシミュレートし、機能に解釈可能な概念を割り当て、モデル誤分類のエラー解析を行い、エラー解析からモデルデバッグへの洞察を利用することを可能にする。
  論文  参考訳（メタデータ） (2022-06-30T18:42:06Z)
• Interactive Model Cards: A Human-Centered Approach to Model Documentation [20.880991026743498]
  自然言語処理のためのディープラーニングモデルは、NLPや機械学習の正式なトレーニングなしに、アナリストによって採用され、デプロイされている。 モデルの詳細と適切な使用を伝達するためのドキュメンテーションは、主にMLやNLPの専門知識を持つ個人向けに調整されている。 我々は、インタラクティブなモデルカードの設計調査を行い、モデルドキュメンテーションを探索し、モデル自体と対話する余地を、従来の静的なモデルカードに拡張した。
  論文  参考訳（メタデータ） (2022-05-05T19:19:28Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Models we Can Trust: Toward a Systematic Discipline of (Agent-Based) Model Interpretation and Validation [0.0]
  我々は、モデルから情報を取り出すための相互作用の分野の開発を提唱する。 このような分野の発展に向けたいくつかの方向性を概説する。
  論文  参考訳（メタデータ） (2021-02-23T10:52:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。