論文の概要: AI-Powered Augmented Reality as a Threat Vector for Human Manipulation
- arxiv url: http://arxiv.org/abs/2601.18802v1
- Date: Wed, 14 Jan 2026 16:04:58 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-02-01 22:33:05.614541
- Title: AI-Powered Augmented Reality as a Threat Vector for Human Manipulation
- Title（参考訳）: 人間操作の脅威ベクトルとしてのAIによる拡張現実
- Authors: Louis Rosenberg,
- Abstract要約: この章では、AIが生成する拡張現実のパワーと柔軟性についてレビューする。
説得、操作、影響に使用する際のリスクを調査する。
- 参考スコア（独自算出の注目度）: 0.10152838128195468
- License:
- Abstract: Augmented Reality (AR) is a powerful perceptual technology that can alter what users see, hear, feel, and experience throughout their daily lives. When combined with the speed and flexibility of context-aware generative AI, the power is greatly expanded, allowing individual users to be targeted with custom-generated AR experiences that are instantly tailored to who they are, where they are, and what they are doing. This can transform the physical world into a magical place, but only if the augmentation of a user's environment is enacted for their personal benefit and best interests. Instead, if AI-powered AR systems are controlled by unregulated third parties, such as large corporations or state actors, individually adaptive AR experiences could be deployed as a dangerous form of targeted influence. In fact, if the industry adopts an advertising business model for AI-powered AR devices, context-aware generative influence could become a widely used manipulative path for promotion of products and services in the physical world. Worse, similar techniques could be used for political influence, propaganda, and disinformation. This chapter reviews the power and flexibility of AI-generated augmented reality, explores the risks that emerge when used for persuasion, manipulation, or influence, and proposes policy directions to mitigate these risks.
- Abstract（参考訳）: Augmented Reality(AR)は、ユーザーが日常生活を通して見る、聞く、感じる、体験を変えることができる強力な知覚技術である。
コンテキスト認識型生成AIのスピードと柔軟性を組み合わせることで、そのパワーは大幅に拡大され、個々のユーザが、自分が誰で、どこにいて、何をしているのかを即座にカスタマイズした、カスタム生成のAR体験をターゲットにすることができる。
これは、物理的な世界を魔法の場所に変えることができるが、ユーザーの環境の強化が個人の利益と利益のために行われる場合のみである。
代わりに、もしAIによって駆動されるARシステムが、大企業や州アクターのような規制されていない第三者によって制御されている場合、個別に適応されたARエクスペリエンスは、ターゲットとする影響の危険な形態としてデプロイされる可能性がある。
事実、もし業界がAIを利用したARデバイスに広告ビジネスモデルを採用すれば、コンテキスト認識による生成的影響は、物理的な世界で製品やサービスのプロモーションに広く利用されるマニピュティブパスになる可能性がある。
さらに悪いことに、同様の技法は政治的影響力、プロパガンダ、偽情報に利用できる。
この章では、AIが生成する拡張現実のパワーと柔軟性をレビューし、説得、操作、影響に使用する際のリスクを調査し、これらのリスクを軽減するための政策方針を提案する。
関連論文リスト
- Can Media Act as a Soft Regulator of Safe AI Development? A Game Theoretical Analysis [57.68073583427415]
我々は、メディアの報道がAIクリエイターを安全な製品の生産に駆り立てる可能性があるかどうかを調査する。
われわれの結果は、メディアがクリエイターとユーザーとの協力を育むことができることは明らかだが、必ずしもそうではない。
大衆の認識を形作り、デベロッパーの責任を負うことによって、メディアは強力なソフトレギュレーターとして出現する。
論文 参考訳（メタデータ） (2025-09-02T12:13:34Z) - Reality Check: A New Evaluation Ecosystem Is Necessary to Understand AI's Real World Effects [3.1402583853710433]
論文は、AIの間接的および二次的効果を測定するには、シリコで実施される静的な単一ターンアプローチを超えて拡張する必要がある、と論じている。
我々は、文脈認識を容易にし、下流の解釈とAIの二次効果に関する意思決定を可能にするデータと方法の必要性について説明する。
論文 参考訳（メタデータ） (2025-05-24T22:35:32Z) - A Vision for AI-Driven Adaptation of Dynamic AR Content to Users and Environments [15.578223073114156]
このビジョンペーパーは、適応ARコンテンツ配置のためのAI駆動アプローチを推測する。
我々は、様々な産業におけるイノベーションと改善の新たな機会を構想することを目指している。
論文 参考訳（メタデータ） (2025-04-23T09:42:38Z) - Do Responsible AI Artifacts Advance Stakeholder Goals? Four Key Barriers Perceived by Legal and Civil Stakeholders [59.17981603969404]
責任あるAI(RAI)コミュニティは、透明性を促進し、AIシステムのガバナンスをサポートするために、多数のプロセスとアーティファクトを導入している。
我々は、責任あるAI活動に関する政策と擁護を通知する19の政府、法律、市民社会の利害関係者と半構造化されたインタビューを行う。
我々は、これらの信念を4つの障壁にまとめて、RAIアーティファクトが(必然的に)市民社会、政府、産業間での権力関係を再構成する方法を説明する。
論文 参考訳（メタデータ） (2024-08-22T00:14:37Z) - Artificial General Intelligence (AGI)-Native Wireless Systems: A Journey Beyond 6G [58.440115433585824]
デジタルツイン(DT)のようなサービスをサポートする将来の無線システムの構築は、メタサーフェスのような従来の技術への進歩を通じて達成することが困難である。
人工知能(AI)ネイティブネットワークは、無線技術のいくつかの制限を克服することを約束する一方で、開発は依然としてニューラルネットワークのようなAIツールに依存している。
本稿では、AIネイティブ無線システムの概念を再考し、それらを人工知能(AGI)ネイティブシステムに変換するために必要な共通感覚を取り入れた。
論文 参考訳（メタデータ） (2024-04-29T04:51:05Z) - Agent AI: Surveying the Horizons of Multimodal Interaction [83.18367129924997]
エージェントAI(Agent AI)とは、視覚刺激や言語入力、その他の環境データを知覚できる対話型システムである。
我々は,バーチャルリアリティやシミュレートされたシーンを容易に作成し,仮想環境内に具体化されたエージェントと対話できる未来を構想する。
論文 参考訳（メタデータ） (2024-01-07T19:11:18Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。