論文の概要: Mimetic Models: Ethical Implications of AI that Acts Like You
- arxiv url: http://arxiv.org/abs/2207.09394v1
- Date: Tue, 19 Jul 2022 16:41:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 14:19:14.077728
- Title: Mimetic Models: Ethical Implications of AI that Acts Like You
- Title（参考訳）: 模倣モデル:あなたのように行動するAIの倫理的意味
- Authors: Reid McIlroy-Young, Jon Kleinberg, Siddhartha Sen, Solon Barocas,
Ashton Anderson
- Abstract要約: 人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。
われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
- 参考スコア（独自算出の注目度）: 5.843033621853535
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An emerging theme in artificial intelligence research is the creation of
models to simulate the decisions and behavior of specific people, in domains
including game-playing, text generation, and artistic expression. These models
go beyond earlier approaches in the way they are tailored to individuals, and
the way they are designed for interaction rather than simply the reproduction
of fixed, pre-computed behaviors. We refer to these as mimetic models, and in
this paper we develop a framework for characterizing the ethical and social
issues raised by their growing availability. Our framework includes a number of
distinct scenarios for the use of such models, and considers the impacts on a
range of different participants, including the target being modeled, the
operator who deploys the model, and the entities that interact with it.
- Abstract（参考訳）: 人工知能研究の新たなテーマは、ゲームプレイ、テキスト生成、芸術表現などの領域において、特定の人々の決定と行動をシミュレートするモデルの作成である。
これらのモデルは、個人に適した方法で、あるいは単に固定された事前計算された振る舞いの再現ではなく、相互作用のために設計される方法で、以前のアプローチを超えています。
本稿では,これらをミメティックモデルとみなし,その普及に伴う倫理的・社会的問題を特徴づける枠組みを開発する。
私たちのフレームワークには、このようなモデルを使用するためのさまざまなシナリオが含まれており、モデリング対象、モデルのデプロイを行うオペレータ、モデルと相互作用するエンティティなど、さまざまな参加者への影響について検討しています。
関連論文リスト
- Accounting for AI and Users Shaping One Another: The Role of Mathematical Models [17.89344451611069]
我々は,AIとユーザが相互にどのように形成するかを数学的に規定する形式的相互作用モデルの開発を論じる。
ユーザと対話するAIシステムを設計、評価、監査する際に、正式なインタラクションモデルを活用するようにコミュニティに呼びかけます。
論文 参考訳（メタデータ） (2024-04-18T17:49:02Z) - Generative Agent-Based Modeling: Unveiling Social System Dynamics
through Coupling Mechanistic Models with Generative Artificial Intelligence [0.5898893619901381]
生成人工知能を用いた社会システムのフィードバックに富む計算モデルを構築する新たな機会について論じる。
GABM(Generative Agent-Based Models)と呼ばれるこのモデルでは、ChatGPTのような大きな言語モデルを用いて、社会的環境における人間の意思決定を表現している。
本研究では,人的相互作用の力学モデルと事前学習された大規模言語モデルとを結合することにより,人間の行動がシミュレーションモデルに組み込むことができるGABMケースを提案する。
論文 参考訳（メタデータ） (2023-09-20T16:43:05Z) - Model Synthesis for Zero-Shot Model Attribution [26.835046772924258]
生成モデルは、芸術、デザイン、人間とコンピュータの相互作用などの様々な分野を形作っている。
実世界の生成モデルの指紋パターンを模倣した多数の合成モデルを生成するモデル合成手法を提案する。
実験により, この指紋抽出装置は, 合成モデルのみを訓練し, 様々な実世界の生成モデルに対して, 印象的なゼロショットの一般化を実現することができた。
論文 参考訳（メタデータ） (2023-07-29T13:00:42Z) - Foundational Models Defining a New Era in Vision: A Survey and Outlook [151.49434496615427]
視覚シーンの構成的性質を観察し、推論する視覚システムは、我々の世界を理解するのに不可欠である。
モデルは、このようなモダリティと大規模なトレーニングデータとのギャップを埋めることを学び、コンテキスト推論、一般化、テスト時の迅速な機能を容易にした。
このようなモデルの出力は、例えば、バウンディングボックスを設けて特定のオブジェクトをセグメント化したり、画像や映像シーンについて質問したり、言語命令でロボットの動作を操作することで対話的な対話を行うなど、リトレーニングすることなく、人為的なプロンプトによって変更することができる。
論文 参考訳（メタデータ） (2023-07-25T17:59:18Z) - Foundation Models for Decision Making: Problems, Methods, and
Opportunities [124.79381732197649]
大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。
ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。
基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
論文 参考訳（メタデータ） (2023-03-07T18:44:07Z) - Foundation models in brief: A historical, socio-technical focus [2.5991265608180396]
ディープラーニングをスケールアップすることで、将来のAI開発には、ファンデーションモデルが破壊的になる可能性がある。
モデルは自然言語処理やコンピュータビジョンといった分野における様々なタスクにおいて最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-12-17T22:11:33Z) - Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。
ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文 参考訳（メタデータ） (2022-10-28T14:38:50Z) - Synthetic Model Combination: An Instance-wise Approach to Unsupervised
Ensemble Learning [92.89846887298852]
ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。
専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
論文 参考訳（メタデータ） (2022-10-11T10:20:31Z) - DIME: Fine-grained Interpretations of Multimodal Models via Disentangled
Local Explanations [119.1953397679783]
我々は,マルチモーダルモデルの解釈における最先端化に注力する。
提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
論文 参考訳（メタデータ） (2022-03-03T20:52:47Z) - Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。
本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。
提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
論文 参考訳（メタデータ） (2020-07-14T16:42:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。