論文の概要: Automatic Authorities: Power and AI

• arxiv url: http://arxiv.org/abs/2404.05990v1
• Date: Tue, 9 Apr 2024 03:48:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-10 15:58:48.239256
• Title: Automatic Authorities: Power and AI
• Title（参考訳）: 自動オーソリティ: パワーとAI
• Authors: Seth Lazar,
• Abstract要約: 機械学習と関連する計算技術は、今や重要な政府サービスを支える。 投票方法からワクチン接種場所まで、あらゆることを知る方法を決定するのです。 LLM(Large Language Models)に基づく新しいプロダクトの波は、私たちの経済と政治の生活をさらに変えます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As rapid advances in Artificial Intelligence and the rise of some of history's most potent corporations meet the diminished neoliberal state, people are increasingly subject to power exercised by means of automated systems. Machine learning and related computational technologies now underpin vital government services. They connect consumers and producers in new algorithmic markets. They determine how we find out about everything from how to vote to where to get vaccinated, and whose speech is amplified, reduced, or restricted. And a new wave of products based on Large Language Models (LLMs) will further transform our economic and political lives. Automatic Authorities are automated computational systems used to exercise power over us by determining what we may know, what we may have, and what our options will be. In response to their rise, scholars working on the societal impacts of AI and related technologies have advocated shifting attention from how to make AI systems beneficial or fair towards a critical analysis of these new power relations. But power is everywhere, and is not necessarily bad. On what basis should we object to new or intensified power relations, and what can be done to justify them? This paper introduces the philosophical materials with which to formulate these questions, and offers preliminary answers. It starts by pinning down the concept of power, focusing on the ability that some agents have to shape others' lives. It then explores how AI enables and intensifies the exercise of power so understood, and sketches three problems with power and three ways to solve those problems. It emphasises, in particular, that justifying power requires more than satisfying substantive justificatory criteria; standards of proper authority and procedural legitimacy must also be met. We need to know not only what power may be used for, but how it may be used, and by whom.
• Abstract（参考訳）: 人工知能の急速な進歩と、歴史の最も強力な企業の台頭により、新自由主義国家は衰退し、人々は自動化されたシステムによって運動される力にますます従わざるを得なくなる。 機械学習と関連する計算技術は、今や重要な政府サービスを支える。 彼らは新しいアルゴリズム市場における消費者と生産者を結びつける。 どのようにしてワクチン接種を受けるか、どのスピーチが増幅され、縮小され、制限されるかなど、あらゆることを知るかを決定する。 そして、Large Language Models(LLMs)に基づく新しいプロダクトの波は、私たちの経済と政治の生活をさらに変えます。 自動オーソリティ(Automatic Authorities)とは、私たちが何を知っているか、何を持っているか、どのような選択肢があるかを決定することで、私たちに対してパワーを行使するために使用される自動計算システムである。 その増加に対応して、AIとその関連技術による社会的影響に取り組む学者は、これらの新しい権力関係の批判的分析に向けて、AIシステムを有益または公正にする方法から、注意を移すことを提唱している。 しかし、権力は至る所にあり、必ずしも悪いとは限らない。 新たなパワー関係や強化されたパワー関係には,どのような根拠で対応すべきでしょうか? 本稿では,これらの疑問を定式化するための哲学的資料を紹介し,予備的な回答を提供する。 最初は権力の概念を根絶し、一部のエージェントが他人の生活を形作らなければならない能力に焦点を当てることから始まる。 そして、AIが力のエクササイズをどのように実現し、強化するかを探求し、3つの問題をパワーでスケッチし、その問題を解決する3つの方法をスケッチする。 特に、権力の正当化は実質的な正当化基準を満たす以上のものを必要とし、適切な権威と手続き的正当性の基準も満たさなければならないと強調している。 どの力が使われるのかだけでなく、どのように使われるのか、誰が使うのかを知る必要がある。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
  AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。 第一に、計算要求がモデルの性能よりも早く増加し、不合理な経済要求と不均等な環境フットプリントにつながるため、持続可能ではない。 第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
  論文  参考訳（メタデータ） (2024-09-21T14:43:54Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Trust, Accountability, and Autonomy in Knowledge Graph-based AI for Self-determination [1.4305544869388402]
  知識グラフ(KG)は、インテリジェントな意思決定を支えるための基盤として登場した。 KGと神経学習の統合は、現在活発な研究のトピックである。 本稿では,KGベースのAIによる自己決定を支援するための基礎的なトピックと研究の柱を概念化する。
  論文  参考訳（メタデータ） (2023-10-30T12:51:52Z)
• AI Explainability and Governance in Smart Energy Systems: A Review [0.36832029288386137]
  AIの説明可能性と管理可能性の欠如は、ステークホルダーにとって大きな関心事である。 本稿では,スマートエネルギーシステムにおけるAI説明可能性とガバナンスについて概説する。
  論文  参考訳（メタデータ） (2022-10-24T05:09:13Z)
• Intelligent Decision Assistance Versus Automated Decision-Making: Enhancing Knowledge Work Through Explainable Artificial Intelligence [0.0]
  我々は,新たなDSSクラス,すなわち知能決定支援(IDA)を提案する。 IDAは、自動意思決定を通じて知識労働者に影響を与えることなく、知識労働者をサポートする。 具体的には、具体的なAIレコメンデーションを保ちながら、説明可能なAI(XAI)の技術を使用することを提案する。
  論文  参考訳（メタデータ） (2021-09-28T15:57:21Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• AI Ethics Needs Good Data [0.8701566919381224]
  AIに関する言論は「倫理」の言語を超越し、権力と政治経済と関わり合わなければならないと我々は主張する。 私たちは、グッドデータAIを構築することができる4つの「経済」を提供します:コミュニティ、権利、ユーザビリティ、政治。
  論文  参考訳（メタデータ） (2021-02-15T04:16:27Z)
• Reasonable Machines: A Research Manifesto [0.0]
  信頼の健全なエコシステムは、彼らの行動が自律的に正当化される方法を必要とします。 道徳的・法的哲学のような社会的推論モデルに基づく。 規範的コミュニケーションを実現することは、信頼を生み出し、AIアプリケーションの新しい次元を開く。
  論文  参考訳（メタデータ） (2020-08-14T08:51:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。