論文の概要: Scaling public input on AI policy with pluralistic agents
- arxiv url: http://arxiv.org/abs/2611.16028v1
- Date: Wed, 11 Nov 2026 21:35:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.276732
- Title: Scaling public input on AI policy with pluralistic agents
- Title(参考訳): 複数のエージェントによるAIポリシーの公開インプットのスケーリング
- Abstract要約: 我々は、多元的エージェント、AIエージェントの代表者を開発し、テストし、個人を代表して、AIシステムを多様な人間の視点で整列させる。
本実験は多元的エージェントの機会,リスク,知覚を同定する。
複数のエージェントは直接的な議論が行われていない多くの現実世界のコンテキストで使用できるため、AIの安全性ポリシー開発をスケールするための有望なツールになり得る。
- 参考スコア(独自算出の注目度): 16.84806462701234
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI is being deployed across a vast range of application domains, cultural environments, and human stakeholders. Safe and responsible AI development requires continuously accounting for diverse perspectives. We develop and test pluralistic agents, AI agent representatives that deliberate on behalf of individuals to align AI systems with diverse human perspectives. Pluralistic agents could help people contribute to many more discussions than they could directly participate in, on technical topics that would require training, and on policy choices that rely on private information that corporations and governments cannot readily share. Our experiments identify opportunities, risks, and perceptions of pluralistic agents. Agents were able to reliably shift policies in the direction of their represented persona's preferences, but the extent of each agent's influence was sensitive to the instructions from its persona, such as having more influence when instructed to be more verbose or less cooperative. This suggests that influence in AI-assisted deliberation could vary based on how participants prompt their agents and how the system is designed. In a preregistered study, 746 humans participated in the pluralistic agents process. Participants viewed pluralistic agents as useful and fair, preferring agents over the baseline of providing input to a single AI reasoning model. Most participants preferred participating themselves over either pluralistic agents or the baseline, but pluralistic agents recovered 68% of the baseline-direct gap in reported satisfaction and 82% in fairness. Because pluralistic agents can be used in many real-world contexts where direct discussion is not, they could be a promising tool to scale AI safety policy development. We encourage cautious exploration of this method, playing to its strengths as an amplifier of human input rather than a replacement.
- Abstract(参考訳): AIは、幅広いアプリケーションドメイン、文化環境、人間の利害関係者にデプロイされています。
安全で責任のあるAI開発には、さまざまな視点を継続的に考慮する必要があります。
我々は、多元的エージェント、AIエージェントの代表者を開発し、テストし、個人を代表して、AIシステムを多様な人間の視点で整列させる。
複数主義的なエージェントは、直接参加するよりも多くの議論に貢献し、訓練を必要とする技術トピックや、企業や政府が容易に共有できないプライベート情報に依存する政策選択に貢献することができる。
本実験は多元的エージェントの機会,リスク,知覚を同定する。
エージェントは、代表されるペルソナの好みの方向に政策を確実にシフトすることができたが、各エージェントの影響範囲は、より冗長で協力的でないと指示された場合など、そのペルソナからの指示に敏感であった。
このことは、参加者がエージェントをどう促すか、システムがどのように設計されるかによって、AIによる議論の影響が変化する可能性があることを示唆している。
事前登録された調査では、746人の人間が多元性エージェントプロセスに参加した。
参加者は複数のエージェントを有用かつ公正なものと見なし、単一のAI推論モデルへの入力を提供する基準よりもエージェントを優先した。
ほとんどの参加者は、多元的エージェントまたは基準的エージェントよりも参加することを好んだが、多元的エージェントは、報告された満足度において基準的直接ギャップの68%、公正度では82%を回復した。
複数のエージェントは直接的な議論が行われていない多くの現実世界のコンテキストで使用できるため、AIの安全性ポリシー開発をスケールするための有望なツールになり得る。
我々はこの方法の慎重な探索を奨励し、置換ではなく人間の入力の増幅器として、その強みに合わせて演奏する。
関連論文リスト
- ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。
パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
論文 参考訳(メタデータ) (2026-08-11T13:35:58Z) - Characterizing initial human-AI proof formalization workflows [66.06866890889131]
AIシステムのコード生成能力の進歩と、証明を形式化し、検証する人々の能力を変えるための高度な数学的推論の約束への関与。
我々は、AIが人々のフォーマル化に与える影響について、混合メソッド分析を行う。
質的な調査では、人々の好みは多様であるが、形式化におけるAI支援に対する一般的な欲求が示されている。
論文 参考訳(メタデータ) (2026-06-02T22:58:19Z) - When Should AI Read the Room? Public Perceptions of Social Intelligence in AI Agents [61.06747336710885]
ソーシャルAIエージェントは、日々の環境にますます配置されている。
AIエージェントにおける社会的インテリジェンスに対する大衆の認識と、これらのエージェントの受容性はほとんど検討されていない。
アメリカ合衆国における成人の混合メソッド調査について紹介する。
論文 参考訳(メタデータ) (2026-05-28T13:49:47Z) - Multi-Agents are Social Groups: Investigating Social Influence of Multiple Agents in Human-Agent Interactions [22.997945675889465]
我々は,AIエージェントの集団が,ユーザに対して同意を求める社会的プレッシャーを生じさせるかどうかを検討する。
その結果、複数のエージェントと会話することで、参加者が感じた社会的プレッシャーが増すことがわかった。
本研究は, 単一エージェントプラットフォームに対するマルチエージェントシステムの潜在的利点が, 意見変化を引き起こす可能性を示唆している。
論文 参考訳(メタデータ) (2024-11-07T10:00:46Z) - The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる
まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。
単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
論文 参考訳(メタデータ) (2023-09-14T17:12:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。