論文の概要: Mimetic Models: Ethical Implications of AI that Acts Like You
- arxiv url: http://arxiv.org/abs/2207.09394v1
- Date: Tue, 19 Jul 2022 16:41:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 14:19:14.077728
- Title: Mimetic Models: Ethical Implications of AI that Acts Like You
- Title(参考訳): 模倣モデル:あなたのように行動するAIの倫理的意味
- Authors: Reid McIlroy-Young, Jon Kleinberg, Siddhartha Sen, Solon Barocas,
Ashton Anderson
- Abstract要約: 人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。
われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
- 参考スコア(独自算出の注目度): 5.843033621853535
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An emerging theme in artificial intelligence research is the creation of
models to simulate the decisions and behavior of specific people, in domains
including game-playing, text generation, and artistic expression. These models
go beyond earlier approaches in the way they are tailored to individuals, and
the way they are designed for interaction rather than simply the reproduction
of fixed, pre-computed behaviors. We refer to these as mimetic models, and in
this paper we develop a framework for characterizing the ethical and social
issues raised by their growing availability. Our framework includes a number of
distinct scenarios for the use of such models, and considers the impacts on a
range of different participants, including the target being modeled, the
operator who deploys the model, and the entities that interact with it.
- Abstract(参考訳): 人工知能研究の新たなテーマは、ゲームプレイ、テキスト生成、芸術表現などの領域において、特定の人々の決定と行動をシミュレートするモデルの作成である。
これらのモデルは、個人に適した方法で、あるいは単に固定された事前計算された振る舞いの再現ではなく、相互作用のために設計される方法で、以前のアプローチを超えています。
本稿では,これらをミメティックモデルとみなし,その普及に伴う倫理的・社会的問題を特徴づける枠組みを開発する。
私たちのフレームワークには、このようなモデルを使用するためのさまざまなシナリオが含まれており、モデリング対象、モデルのデプロイを行うオペレータ、モデルと相互作用するエンティティなど、さまざまな参加者への影響について検討しています。
関連論文リスト
- Generative Agent-Based Modeling: Unveiling Social System Dynamics
through Coupling Mechanistic Models with Generative Artificial Intelligence [0.5898893619901381]
生成人工知能を用いた社会システムのフィードバックに富む計算モデルを構築する新たな機会について論じる。
GABM(Generative Agent-Based Models)と呼ばれるこのモデルでは、ChatGPTのような大きな言語モデルを用いて、社会的環境における人間の意思決定を表現している。
本研究では,人的相互作用の力学モデルと事前学習された大規模言語モデルとを結合することにより,人間の行動がシミュレーションモデルに組み込むことができるGABMケースを提案する。
論文 参考訳(メタデータ) (2023-09-20T16:43:05Z) - Foundational Models Defining a New Era in Vision: A Survey and Outlook [151.49434496615427]
視覚シーンの構成的性質を観察し、推論する視覚システムは、我々の世界を理解するのに不可欠である。
モデルは、このようなモダリティと大規模なトレーニングデータとのギャップを埋めることを学び、コンテキスト推論、一般化、テスト時の迅速な機能を容易にした。
このようなモデルの出力は、例えば、バウンディングボックスを設けて特定のオブジェクトをセグメント化したり、画像や映像シーンについて質問したり、言語命令でロボットの動作を操作することで対話的な対話を行うなど、リトレーニングすることなく、人為的なプロンプトによって変更することができる。
論文 参考訳(メタデータ) (2023-07-25T17:59:18Z) - Foundation Models for Decision Making: Problems, Methods, and
Opportunities [124.79381732197649]
大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。
ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。
基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
論文 参考訳(メタデータ) (2023-03-07T18:44:07Z) - Foundation models in brief: A historical, socio-technical focus [2.5991265608180396]
ディープラーニングをスケールアップすることで、将来のAI開発には、ファンデーションモデルが破壊的になる可能性がある。
モデルは自然言語処理やコンピュータビジョンといった分野における様々なタスクにおいて最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-12-17T22:11:33Z) - Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。
ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文 参考訳(メタデータ) (2022-10-28T14:38:50Z) - Synthetic Model Combination: An Instance-wise Approach to Unsupervised
Ensemble Learning [92.89846887298852]
ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。
専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
論文 参考訳(メタデータ) (2022-10-11T10:20:31Z) - DIME: Fine-grained Interpretations of Multimodal Models via Disentangled
Local Explanations [119.1953397679783]
我々は,マルチモーダルモデルの解釈における最先端化に注力する。
提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
論文 参考訳(メタデータ) (2022-03-03T20:52:47Z) - Models we Can Trust: Toward a Systematic Discipline of (Agent-Based)
Model Interpretation and Validation [0.0]
我々は、モデルから情報を取り出すための相互作用の分野の開発を提唱する。
このような分野の発展に向けたいくつかの方向性を概説する。
論文 参考訳(メタデータ) (2021-02-23T10:52:22Z) - Multimodal Deep Generative Models for Trajectory Prediction: A
Conditional Variational Autoencoder Approach [34.70843462687529]
本研究では,人間の行動予測に対する条件付き変分オートエンコーダアプローチに関する自己完結型チュートリアルを提供する。
本チュートリアルの目的は,人間の行動予測における最先端の手法の分類をレビューし,構築することである。
論文 参考訳(メタデータ) (2020-08-10T03:18:27Z) - Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。
本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。
提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
論文 参考訳(メタデータ) (2020-07-14T16:42:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。