論文の概要: Corralling AI Risks with Grassroots Contracts

• arxiv url: http://arxiv.org/abs/2611.06374v1
• Date: Wed, 04 Nov 2026 11:34:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:58.095679
• Title: Corralling AI Risks with Grassroots Contracts
• Title（参考訳）: Grassroots契約によるAIリスクの相関
• Abstract要約: デジタルプラットフォームは3つの大きなAIリスクに対して脆弱である。 グローバルプラットフォームをコントロールしている人は、AI、アルゴリズム、メンバーシップ、コンテンツに対するコントロールを握る。 我々は、これらのAIリスクを草の根契約と相関させることを提案する。
• 参考スコア（独自算出の注目度）: 1.8021287677546953
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI's inflection point is a fountain of alarming risks. Digital platforms in particular are vulnerable to three major AI risks, as those in control of global platforms cede control to AI, of the algorithms, of membership and of content: (1) AI control of global platforms, social and economic, used by the majority of humanity, resulting in the majority of humanity becoming vulnerable to AI control. (2) Unaccountable AI agents operating anonymously on social and economic digital platforms, side-by-side with humans, possibly masquerading as humans, serving unknown masters with unknown goals, operating under unknown restraints without accountability or culpability. (3) Unattributed deepfakes generated by anonymous AI, with people unable to distinguish them from genuine content and with their producers evading accountability and culpability. Here, we propose to corral these AI risks with grassroots contracts, a digital incarnation of a two-centuries old notion of Pierre-Joseph Proudhon. We present grassroots contracts for a social graph with accountable AI agents and for a social network with digital provenance, and working smartphone apps that implement the two and show how they corral these major AI risks: (1) AI control of global platforms. (2) Unaccountable AI agents. (3) Unattributed deepfakes.
• Abstract（参考訳）: AIのインフレクションポイントは、危険なリスクの泉です。 特にデジタルプラットフォームは、AI、アルゴリズム、会員制、コンテンツに対する制御をグローバルプラットフォームに委譲するなど、AIの主要なリスクに対して脆弱である。 2) 社会的・経済的デジタルプラットフォーム上で匿名で活動する非可算AIエージェントは、人間と並んで、おそらくは人間として仮面的に活動し、未知のマスターに未知の目標を与え、説明責任や計算不可能な未知の制約の下で活動する。 (3)匿名AIが生み出す未配布のディープフェイクは、真のコンテンツと区別できず、生産者が説明責任や計算可能性を回避する。 ここでは、これらのAIリスクを、Pierre-Joseph Proudhonという2つの古い概念のデジタル化である草の根契約と相関させることを提案する。 我々は、説明可能なAIエージェントを備えたソーシャルグラフと、デジタル証明を備えたソーシャルネットワークのための草の根契約を提示し、この2つを実装した作業用スマートフォンアプリについて、(1)グローバルプラットフォームにおけるAIコントロールの関連性を示す。 2)非可算AIエージェント。 (3)未配布のディープフェイク。

関連論文リスト

• The Decision Path to Control AI Risks Completely: Fundamental Control Mechanisms for AI Governance [1.1252728925416642]
  AIシステム内に3つのAIMを構築し、社会に3つのAIリスクに対処する必要がある。 我々は、よりスマートなAI/AGI/ASIがコア安全制御を回避するために、アナログ物理防護を強化する方法について論じる。
  論文  参考訳（メタデータ） (2025-12-04T05:53:41Z)
• The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats [0.0]
  本稿は、個々のユーザーに影響を与える現在の害から、人類の生存を危うくする現実的な脅威まで、AIリスクの全スペクトラムをマッピングする。 これらのリスクを3つの主要な因果分類に分類する。 私たちのゴールは、読者がAIリスクの全体像を理解するのを助けることです。
  論文  参考訳（メタデータ） (2025-08-19T10:05:51Z)
• Designing AI-Enabled Countermeasures to Cognitive Warfare [0.0]
  ソーシャルメディアプラットフォーム上での外国情報操作は、民主主義社会に重大なリスクをもたらす。 人工知能(AI)の台頭により、この脅威は強化され、潜在的に圧倒的な人間の防御者となる可能性がある。 本稿では,認知戦争に対するAI対応対策の可能性を提案する。
  論文  参考訳（メタデータ） (2025-04-14T11:36:03Z)
• Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? [37.13209023718946]
  未確認のAI機関は、公共の安全とセキュリティに重大なリスクをもたらす。 これらのリスクが現在のAIトレーニング方法からどのように生じるかについて議論する。 我々は,非エージェント型AIシステムの開発をさらに進めるために,コアビルディングブロックを提案する。
  論文  参考訳（メタデータ） (2025-02-21T18:28:36Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• The Role of Social Movements, Coalitions, and Workers in Resisting Harmful Artificial Intelligence and Contributing to the Development of Responsible AI [0.0]
  あらゆる分野の連合は、AIの恥ずべき適用に抵抗するために世界中で活動している。 AIアルゴリズムにはバイアスがあり、不正で、乱雑な仮定が埋め込まれています。 AIの最大の貢献の1つは、人類の知恵が地球上でいかに重要かを理解することだ。
  論文  参考訳（メタデータ） (2021-07-11T18:51:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。