論文の概要: AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence
- arxiv url: http://arxiv.org/abs/2605.16291v1
- Date: Tue, 14 Apr 2026 07:42:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 12:34:33.862655
- Title: AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence
- Title（参考訳）: 人々のAI: 人工知能の集団制御のための社会選択的アプローチ
- Abstract要約: 集合的なインプットはML開発パイプラインの複数のポイントに組み込むことができるし、組み込むべきだ、と私たちは主張する。
社会的選択は、全ての段階にわたって集合的な入力を扱うのに適したモデリング言語を提供する。
我々の概念的貢献は、AIシステムの集合的制御を実装し分析するための数学的基盤を持つフレームワークを提供する。
- 参考スコア（独自算出の注目度）: 15.888253013073632
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the growing adoption of AI systems, reasoning about how society can exert control over AI becomes an increasingly urgent problem. Existing work on democratic control largely focuses on macro-level governance. In contrast, we propose a new approach grounded in social choice theory, which we term collective control of artificial intelligence. We argue that collective input can and should be incorporated at multiple points across the ML development pipeline, from data collection through objective design to alignment. We further demonstrate that social choice provides a well-suited modelling language for the treatment of collective input across all stages and that its axiomatic methodology yields principled criteria for evaluating various control mechanisms. Overall, our conceptual contribution provides a mathematically grounded framework to implement and analyse collective control of AI systems.
- Abstract（参考訳）: AIシステムの採用が増えるにつれ、社会がAIをどうコントロールできるかという推論が、ますます緊急の課題となっている。
既存の民主的管理の研究は、主にマクロレベルのガバナンスに焦点を当てている。
対照的に,我々は,人工知能の集団制御という社会選択論に基づく新しいアプローチを提案する。
我々は、データ収集から客観的設計、アライメントに至るまで、集合的な入力はML開発パイプラインの複数のポイントに組み込むことができる、と論じる。
さらに、社会選択は、全ての段階にわたる集合的入力の処理に適したモデリング言語を提供し、その公理的手法が、様々な制御機構を評価するための原則的基準をもたらすことを実証する。
全体として、我々の概念的貢献は、AIシステムの集合的制御を実装し分析する数学的基盤のフレームワークを提供する。
関連論文リスト
- Human/AI Collective Intelligence for Deliberative Democracy: A Human-Centred Design Approach [3.4857788301757764]
本章では、自由民主主義のための集団知性(CI4DD)の概念を紹介する。
計算ツール,特に人工知能の使用は,集団知能を増強するために設計された,より幅広い種類の人-コンピュータシステムのインスタンス化である。
論文 参考訳（メタデータ） (2026-03-17T08:47:54Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Decentralized Governance of Autonomous AI Agents [0.0]
ETHOSは、ブロックチェーン、スマートコントラクト、分散自律組織(DAO)など、Web3テクノロジを活用する分散ガバナンス(DeGov)モデルである。
AIエージェントのグローバルレジストリを確立し、動的リスク分類、比例監視、自動コンプライアンス監視を可能にする。
合理性、倫理的根拠、ゴールアライメントの哲学的原則を統合することで、ETHOSは信頼、透明性、参加的ガバナンスを促進するための堅牢な研究アジェンダを作ることを目指している。
論文 参考訳（メタデータ） (2024-12-22T18:01:49Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。
このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
論文 参考訳（メタデータ） (2024-06-13T16:03:25Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z) - Reflective Hybrid Intelligence for Meaningful Human Control in
Decision-Support Systems [4.1454448964078585]
本稿では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。
心理学と哲学の知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。
我々は、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)に繋がると主張している。
論文 参考訳（メタデータ） (2023-07-12T13:32:24Z) - Artificial intelligence in government: Concepts, standards, and a
unified framework [0.0]
人工知能(AI)の最近の進歩は、政府の変革を約束している。
新しいAIシステムは、社会の規範的な期待に沿うように振る舞うことが重要である。
論文 参考訳（メタデータ） (2022-10-31T10:57:20Z) - Aligning Artificial Intelligence with Humans through Public Policy [0.0]
このエッセイは、下流のタスクに活用可能なポリシーデータの構造を学ぶAIの研究の概要を概説する。
これはAIとポリシーの"理解"フェーズを表していると私たちは考えていますが、AIを整合させるために人的価値の重要な源としてポリシーを活用するには、"理解"ポリシーが必要です。
論文 参考訳（メタデータ） (2022-06-25T21:31:14Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - A Decentralized Approach Towards Responsible AI in Social Ecosystems [0.0]
社会生態系の当事者が望ましいAI行動を生み出すための計算施設を提供する枠組みを提示する。
アーキテクチャレベルでAIシステムを分析し、AIシステムアーキテクチャのための2つの暗号メカニズムを提案する。
我々は、分散アプローチがコンピュータ科学と社会科学の両方の観点から、責任あるaiへの最も有望な道であると主張する。
論文 参考訳（メタデータ） (2021-02-12T06:33:42Z) - Distributed and Democratized Learning: Philosophy and Research
Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。
ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。
本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文 参考訳（メタデータ） (2020-03-18T08:45:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。