論文の概要: How to Count AIs: Individuation and Liability for AI Agents
- arxiv url: http://arxiv.org/abs/2603.10028v1
- Date: Tue, 24 Feb 2026 23:04:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-15 16:38:22.584402
- Title: How to Count AIs: Individuation and Liability for AI Agents
- Title（参考訳）: AIの数え方:AIエージェントの識別と責任
- Authors: Yonathan Arbel, Peter Salib, Simon Goldstein,
- Abstract要約: この条は、AIを識別する法的問題を包括的に診断する最初のものである。
また、"Algorithmic Corporation" あるいは "A-corp" というソリューションも提示している。
A-corpは、AIが目標を達成するために必要な、計算を含むリソースを所有しています。
- 参考スコア（独自算出の注目度）: 1.2234742322758418
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Very soon, millions of AI agents will proliferate across the economy, autonomously taking billions of actions. Inevitably, things will go wrong. Humans will be defrauded, injured, even killed. Law will somehow have to govern the coming wave. But when an AI causes harm, the first question to answer, before anyone can be held accountable is: Which AI Did It? Identifying AIs is unusually difficult. AIs lack bodies. They can copy, split, merge, swarm, and vanish at will. Even today, a "single" AI agent is often an ensemble of instances based on multiple models. The complexity will only multiply as AI capabilities improve. This Article is the first to comprehensively diagnose the legal problem of identifying AIs. Two kinds of identity are required: "thin" and "thick." Thin identification ties every AI action to some human principal, essential for holding accountable the humans who make and use AI agents. Thick identification distinguishes between AI agents, qua agents -- sorting millions of AI entities into discrete, persistent units with stable, coherent goals, essential where principal-agent problems prevent humans from perfectly controlling AIs. This Article also presents a solution: the "Algorithmic Corporation" or "A-corp" -- a legal-fictional entity that can hold property, make contracts, and litigate in its own name. Owned by humans but run by AIs, A-corps solve the thin identity problem by tying AI actions to a human owner, and the thick identity problem via emergent self-organization. A-corps own the resources -- including compute -- that AIs need to accomplish their goals, giving AI managers strong incentives to share control only with goal-aligned AIs. In equilibrium, incentive and selection mechanisms force A-corps to self-organize into persistent, legally legible entities with coherent goals that respond rationally to legal incentives, like liability.
- Abstract（参考訳）: 近い将来、何百万人ものAIエージェントが経済全体に広がり、何十億ものアクションを自律的に受け取ります。
必然的に事態は悪化する。
人間は脱走し、負傷し、死に至る。
法は来るべき波をどうにか支配しなければならないだろう。
しかし、AIが危害を及ぼすとき、最初に答えるべき質問は、だれが責任を負う前にである。
AIの特定は非常に難しい。
AIには身体がない。
コピー、分割、マージ、群れ、そして自由に消えることができます。
今日でも、"単一"AIエージェントは、複数のモデルに基づいたインスタンスの集合であることが多い。
AIの能力が向上するにつれて、複雑さは倍増する。
この条は、AIを識別する法的問題を包括的に診断する最初のものである。
2種類のアイデンティティが必要であり、"thin" と "thick" の2種類がある。
細い識別は、AIエージェントを作ったり使ったりするための説明責任を持つ人間に、あらゆるAIアクションを結び付ける。
数百万のAIエンティティを、安定した一貫性のある目標を持った独立した永続的な単位に分類する。
本条は,また,「アルゴリトミック・コーポレーション(Algorithmic Corporation)」又は「Aコーポレーション(A-corp)」という,財産を保有し,契約を締結し,自称で訴訟を起こすことのできる法人である。
人間によって所有され、AIによって運営されるA-corpは、AIアクションを人間の所有者に結び付けることによって、薄いアイデンティティ問題を解決する。
Aコーポレートは、AIが目標を達成するために必要な計算を含むリソースを所有しており、AIマネージャは、目標に沿ったAIのみとコントロールを共有する強力なインセンティブを提供する。
均衡、インセンティブ、選択のメカニズムでは、Aコーポレーションは、責任のような法的インセンティブに合理的に応答する一貫性のある目標を持つ永続的で法的に正当なエンティティに自己組織せざるを得ない。
関連論文リスト
- It's Not the AI - It's Each of Us! Ten Commandments for the Wise & Responsible Use of AI [10.566108717805227]
我々は,AIのWise and Responsible Useのための10のコマンドを提案する。
彼らはフロリディとカウルスの社会におけるAIの5つの指針と一致している。
論文 参考訳（メタデータ） (2025-11-18T15:09:07Z) - Superintelligence Strategy: Expert Version [64.7113737051525]
AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。
スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。
本稿では,相互保証型AI誤動作の概念を紹介する。
論文 参考訳（メタデータ） (2025-03-07T17:53:24Z) - Responsible AI Agents [17.712990593093316]
OpenAI、Google、Microsoft、Salesforceといった企業は、AI Agentsが受動的テキストからタスク実行に移行することを約束している。
AIエージェントの潜在的なパワーは、AIエージェントが不正な商取引、人間の操作、爆発的な破壊、知的財産の被害を可能にするという法律学者の恐れを加速させた。
この記事では、AIエージェントの方向性に関する懸念に対処する。
それは、あるソフトウェアが別のソフトウェアとどのように相互作用するかという中核的な側面が、AIエージェントを規律づける方法を生み出し、望ましくない行動が起こりそうにないことを示している。
論文 参考訳（メタデータ） (2025-02-25T16:49:06Z) - Towards a Theory of AI Personhood [1.6317061277457001]
我々はAIの人格化に必要な条件を概説する。
もしAIシステムが人間と見なせるなら、AIアライメントの典型的な枠組みは不完全かもしれない。
論文 参考訳（メタデータ） (2025-01-23T10:31:26Z) - The AI Double Standard: Humans Judge All AIs for the Actions of One [0.0]
AIが増殖するにつれて、あるAIに対する道徳的な態度が他のAIに対する態度に流出することで、知覚が絡まってしまう可能性がある。
我々は、2つの事前登録された実験において、AIや人間のエージェントの一見有害で不道徳な行動が、他のAIや人間に対する態度にどのように影響するかをテストした。
論文 参考訳（メタデータ） (2024-12-08T19:26:52Z) - On Avoiding Power-Seeking by Artificial Intelligence [93.9264437334683]
私たちは、非常にインテリジェントなAIエージェントの振る舞いと人間の関心を協調する方法を知りません。
私は、世界に限られた影響を与え、自律的に力を求めないスマートAIエージェントを構築できるかどうか調査する。
論文 参考訳（メタデータ） (2022-06-23T16:56:21Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - Could regulating the creators deliver trustworthy AI? [2.588973722689844]
AIは広く普及しており、私たちの知識なしに日々のテクノロジー、デバイス、サービスにデプロイされることが多い。
恐怖は、信頼できるAIの源を指し示すことができないことによって複雑化している。
信頼できるAIは、関連する法律に準拠するものだと考える人もいる。
倫理や基準に従う必要性を指摘する者もいる。
論文 参考訳（メタデータ） (2020-06-26T01:32:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。