論文の概要: Regulating Chatbot Output via Inter-Informational Competition

• arxiv url: http://arxiv.org/abs/2403.11046v2
• Date: Tue, 19 Nov 2024 18:18:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:34:47.053953
• Title: Regulating Chatbot Output via Inter-Informational Competition
• Title（参考訳）: 情報間競争によるチャットボット出力の制御
• Authors: Jiawei Zhang,
• Abstract要約: 本稿では、AI関連コンテンツリスクとそれに対応する規制提案を再評価するためのヤードスティックを開発する。 情報市場における情報ソース間の十分な競争は、生成的AI技術によって引き起こされるコンテンツリスクを十分に軽減し、解決することができる、と同社は主張する。
• 参考スコア（独自算出の注目度）: 8.168523242105763
• License:
• Abstract: The advent of ChatGPT has sparked over a year of regulatory frenzy. However, few existing studies have rigorously questioned the assumption that, if left unregulated, AI chatbot's output would inflict tangible, severe real harm on human affairs. Most researchers have overlooked the critical possibility that the information market itself can effectively mitigate these risks and, as a result, they tend to use regulatory tools to address the issue directly. This Article develops a yardstick for reevaluating both AI-related content risks and corresponding regulatory proposals by focusing on inter-informational competition among various outlets. The decades-long history of regulating information and communications technologies indicates that regulators tend to err too much on the side of caution and to put forward excessive regulatory measures when encountering the uncertainties brought about by new technologies. In fact, a trove of empirical evidence has demonstrated that market competition among information outlets can effectively mitigate most risks and that overreliance on regulation is not only unnecessary but detrimental, as well. This Article argues that sufficient competition among chatbots and other information outlets in the information marketplace can sufficiently mitigate and even resolve most content risks posed by generative AI technologies. This renders certain loudly advocated regulatory strategies, like mandatory prohibitions, licensure, curation of datasets, and notice-and-response regimes, truly unnecessary and even toxic to desirable competition and innovation throughout the AI industry. Ultimately, the ideas that I advance in this Article should pour some much-needed cold water on the regulatory frenzy over generative AI and steer the issue back to a rational track.
• Abstract（参考訳）: ChatGPTの出現は、1年以上にわたる規制の混乱を引き起こしている。 しかし、AIチャットボットのアウトプットが具体的であり、人間の問題に深刻なダメージを与えるという仮定を厳格に疑問視する研究はほとんどない。 ほとんどの研究者は、情報市場自体がこれらのリスクを効果的に軽減できるという批判的な可能性を見落としている。 本稿では,各種メディア間の情報競合に着目して,AI関連コンテンツリスクとそれに対応する規制提案の再評価を行う。 何十年にもわたる情報・通信技術の歴史は、規制当局が新たな技術がもたらした不確実性に直面すると、過度な規制措置を講じる傾向にあることを示している。 実際、情報機関間の市場競争が、ほとんどのリスクを効果的に軽減し、規制の過度に依存することは、必要だけでなく有害でもあることを実証した実証的な証拠が山積している。 本稿では、情報市場におけるチャットボットやその他の情報メディア間の十分な競争が、生成的AI技術によって引き起こされるコンテンツリスクを十分に軽減し、解決することができることを主張する。 これは、強制禁止、ライセンス、データセットのキュレーション、通知とレスポンスの体制など、一部の大声で提唱された規制戦略を、本当に不要で、AI業界全体で望ましい競争やイノベーションに対して有害なものにもします。 最終的に、私が本条で先導したアイデアは、生成AIに対する規制上の不安を和らげ、問題を合理的な軌道に戻すべきだ。

関連論文リスト

• An FDA for AI? Pitfalls and Plausibility of Approval Regulation for Frontier Artificial Intelligence [0.0]
  我々は、フロンティアAIの規制に対する承認規制、すなわち、実験的なミニマと、その実験で部分的にまたは完全に条件付けられた政府のライセンスとを組み合わせた製品の適用性について検討する。 承認規制が単に適用されたとしても、フロンティアAIのリスクには不適当であると考える理由はいくつかある。 規制開発における政策学習と実験の役割を強調して締めくくる。
  論文  参考訳（メタデータ） (2024-08-01T17:54:57Z)
• The Dual Imperative: Innovation and Regulation in the AI Era [0.0]
  本稿では,人工知能における規制の欠如に伴う社会的コストについて論じる。 50年以上にわたるAI研究は、AIを主流に、有望な経済的利益へと押し上げてきた。 この談話は、加速主義者と、未発の技術的進歩を提唱するドーマー、そしてディストピア的な結果を防ぐための減速を求めるドーマーの間で偏在している。
  論文  参考訳（メタデータ） (2024-05-23T08:26:25Z)
• Securing the Future of GenAI: Policy and Technology [50.586585729683776]
  政府はGenAIを規制し、イノベーションと安全性のバランスをとるという課題に、世界中で不満を抱いている。 Google、ウィスコンシン大学、マディソン大学、スタンフォード大学が共同で行ったワークショップは、GenAIのポリシーとテクノロジーのギャップを埋めることを目的としていた。 本稿では,技術進歩を妨げることなく,どのように規制を設計できるか,といった問題に対処するワークショップの議論を要約する。
  論文  参考訳（メタデータ） (2024-05-21T20:30:01Z)
• Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
  Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。 この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
  論文  参考訳（メタデータ） (2024-04-25T21:14:24Z)
• A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
  一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。 我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。 これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
  論文  参考訳（メタデータ） (2024-03-07T20:55:08Z)
• The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
  AIの開発と規制は、重要な段階に達したようだ。 一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。 本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:51:37Z)
• Regulation and NLP (RegNLP): Taming Large Language Models [51.41095330188972]
  我々は,NLP研究が規制研究や隣接分野に近接することのメリットを論じる。 我々は、規制とNLPに関する新しい多分野研究空間の開発を提唱する。
  論文  参考訳（メタデータ） (2023-10-09T09:22:40Z)
• AI Regulation in Europe: From the AI Act to Future Regulatory Challenges [3.0821115746307663]
  両哲学の要素を組み合わせるハイブリッドな規制戦略を論じている。 本稿は、AI法を、AIがもたらす多面的課題に対処するための、先駆的な立法努力として検討する。 同社は、高性能で潜在的にオープンソースなAIシステムへのアクセスを規制するプロトコルを作成するための即時アクションを提唱している。
  論文  参考訳（メタデータ） (2023-10-06T07:52:56Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。