論文の概要: Moderating Model Marketplaces: Platform Governance Puzzles for AI Intermediaries
- arxiv url: http://arxiv.org/abs/2311.12573v3
- Date: Wed, 11 Sep 2024 16:52:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-12 22:03:32.455742
- Title: Moderating Model Marketplaces: Platform Governance Puzzles for AI Intermediaries
- Title(参考訳): モデルマーケットプレースをモデレーションする - AI仲介者のためのプラットフォームガバナンスのパズル
- Authors: Robert Gorwa, Michael Veale,
- Abstract要約: Hugging Faceのような仲介者は、ユーザがアップロードしたモデルやトレーニングデータに簡単にアクセスできる。
これらのモデルマーケットプレースは、数十万人のユーザの技術的なデプロイメント障壁を低くするが、潜在的に有害で違法な多くの方法で使用することができる。
- 参考スコア(独自算出の注目度): 1.5346678870160886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The AI development community is increasingly making use of hosting intermediaries such as Hugging Face provide easy access to user-uploaded models and training data. These model marketplaces lower technical deployment barriers for hundreds of thousands of users, yet can be used in numerous potentially harmful and illegal ways. In this article, we explain ways in which AI systems, which can both `contain' content and be open-ended tools, present one of the trickiest platform governance challenges seen to date. We provide case studies of several incidents across three illustrative platforms -- Hugging Face, GitHub and Civitai -- to examine how model marketplaces moderate models. Building on this analysis, we outline important (and yet nevertheless limited) practices that industry has been developing to respond to moderation demands: licensing, access and use restrictions, automated content moderation, and open policy development. While the policy challenge at hand is a considerable one, we conclude with some ideas as to how platforms could better mobilize resources to act as a careful, fair, and proportionate regulatory access point.
- Abstract(参考訳): AI開発コミュニティは、Hugging Faceのようなホスティング仲介サービスを利用して、ユーザのアップロードしたモデルやトレーニングデータへのアクセスを容易にしている。
これらのモデルマーケットプレースは、数十万人のユーザの技術的なデプロイメント障壁を低くするが、潜在的に有害で違法な多くの方法で使用することができる。
本稿では、コンテンツとオープンなツールの両方を‘保持’できるAIシステムが、これまで見てきた最もトリッキーなプラットフォームガバナンスの課題の1つを提示する方法について説明する。
Hugging Face、GitHub、Civitaiの3つのプラットフォームにまたがるいくつかのインシデントについてケーススタディを行い、モデルマーケットプレースが適度なモデルをどのように扱うかを調査します。
この分析に基づいて、私たちは、ライセンス、アクセスおよび使用制限、自動コンテンツモデレーション、オープンポリシー開発といった、業界がモデレーション要求に対応するために開発してきた重要な(しかしながら限定的な)プラクティスを概説します。
目の前の政策課題は相当なものだが、プラットフォームが注意深く公正かつ比例的な規制アクセスポイントとして機能するためにどのようにリソースを動員するかについては、いくつかのアイデアで結論付けている。
関連論文リスト
- On the Challenges and Opportunities in Generative AI [135.2754367149689]
現在の大規模生成AIモデルは、ドメイン間で広く採用されるのを妨げるいくつかの基本的な問題に十分対応していない、と我々は主張する。
本研究は、現代の生成型AIパラダイムにおける重要な未解決課題を特定し、その能力、汎用性、信頼性をさらに向上するために取り組まなければならない。
論文 参考訳(メタデータ) (2024-02-28T15:19:33Z) - Towards Democratizing AI: A Comparative Analysis of AI as a Service
Platforms and the Open Space for Machine Learning Approach [1.5500145658862499]
いくつかの一般的なAI・アズ・ア・サービスプラットフォームを比較し、AIの真の民主化を実現するためのプラットフォームの主要な要件を特定します。
私たちの分析では、セルフホスティングオプション、高いスケーラビリティ、オープン性の必要性を強調しています。
当社のアプローチは、既存のAI・アズ・ア・サービスプラットフォームよりも、AIの民主化要件を満たす上で、より包括的で効果的です。
論文 参考訳(メタデータ) (2023-11-08T08:02:59Z) - Foundation Models for Decision Making: Problems, Methods, and
Opportunities [124.79381732197649]
大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。
ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。
基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
論文 参考訳(メタデータ) (2023-03-07T18:44:07Z) - Envisioning a Human-AI collaborative system to transform policies into
decision models [7.9231719294492065]
我々は、人力で読み取り可能なポリシールールと機械で実行可能なポリシールールの両方をスケールする上で、政府機関や政策専門家を支援するAIの巨大な可能性を探る。
我々は、ポリシー文書から、AI、NLP、知識グラフを用いた実行可能、解釈可能、標準化された決定モデルへのルートを短くするための、初期的アプローチを提案する。
オープンドメインの課題は数多くありますが、このポジションペーパーでは、人力で読み取り可能なポリシルールとマシン実行可能なポリシルールの両方をスケールする上で、政府機関や政策専門家を支援するAIの巨大な可能性について検討します。
論文 参考訳(メタデータ) (2022-11-01T18:29:48Z) - DIME: Fine-grained Interpretations of Multimodal Models via Disentangled
Local Explanations [119.1953397679783]
我々は,マルチモーダルモデルの解釈における最先端化に注力する。
提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
論文 参考訳(メタデータ) (2022-03-03T20:52:47Z) - INTERN: A New Learning Paradigm Towards General Vision [117.3343347061931]
我々はInterNという新しい学習パラダイムを開発した。
複数の段階の複数のソースからの監視信号を用いて学習することにより、トレーニング対象のモデルは強力な一般化性を生み出す。
ほとんどの場合、ターゲットドメインのトレーニングデータの10%しか適応していないモデルが、完全なデータセットでトレーニングされたトレーニングデータよりも優れています。
論文 参考訳(メタデータ) (2021-11-16T18:42:50Z) - Individual Explanations in Machine Learning Models: A Case Study on
Poverty Estimation [63.18666008322476]
機械学習の手法は、敏感な社会的文脈でますます適用されつつある。
本研究の主な目的は2つある。
まず、これらの課題を公開し、関連性のある新しい説明方法の使用にどのように影響するか。
次に、関連するアプリケーションドメインで説明メソッドを実装する際に直面するような課題を軽減する一連の戦略を提示します。
論文 参考訳(メタデータ) (2021-04-09T01:54:58Z) - AI in Smart Cities: Challenges and approaches to enable road vehicle
automation and smart traffic control [56.73750387509709]
SCCは、活動やユーティリティの自動化と最適化による効率向上を目指すデータ中心の社会を構想しています。
本稿では、SCCにおけるAIの視点を説明し、道路車両の自動化とスマート交通制御を可能にする交通で使用されるAIベースの技術の概要を示す。
論文 参考訳(メタデータ) (2021-04-07T14:31:08Z) - Modular Politics: Toward a Governance Layer for Online Communities [12.052852910269927]
本稿では,モジュールポリティクス(Modular Politics)と呼ばれる,オンラインガバナンスのための一般化可能なパラダイムの基本的特徴を規定することで,この過ちに対処する戦略を提案する。
この種のアプローチは、デジタル以前のガバナンスシステムを実装するだけでなく、ユニークなデジタル技術におけるイノベーションを加速する可能性がある。
論文 参考訳(メタデータ) (2020-05-27T23:05:17Z) - An Automatic Attribute Based Access Control Policy Extraction from
Access Logs [5.142415132534397]
属性ベースのアクセス制御(ABAC)モデルは、複雑なシステムや動的システムの認証要求に対処するための、より柔軟なアプローチを提供する。
本稿では,システムへのアクセスログからABACポリシールールを自動的に学習し,ポリシー開発プロセスを簡素化する手法を提案する。
論文 参考訳(メタデータ) (2020-03-16T15:08:54Z) - Marketplace for AI Models [20.986472832797777]
我々は、分散オンラインマーケットプレースに基づく新しいAI拡散手法のガイドラインをスケッチする。
このような市場の技術的、経済的、規制的な側面について検討する。
これらのマーケットプレースのほとんどは,比較的少数のモデルを持った集中型商用マーケットプレースであることがわかった。
論文 参考訳(メタデータ) (2020-03-03T15:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。