論文の概要: Exploring the "Banality" of Deception in Generative AI

• arxiv url: http://arxiv.org/abs/2605.07012v1
• Date: Thu, 07 May 2026 22:49:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:38.660683
• Title: Exploring the "Banality" of Deception in Generative AI
• Title（参考訳）: ジェネレーティブAIにおける騙しの「バナリティ」を探る
• Authors: Ishitaa Narwane, Johanna Gunawan, Konrad Kollnig,
• Abstract要約: Simone Natale氏は、生成的AI体験の騙しを通じて推論するレンズとして、禁止性を探る。 我々は、この視点が、生成的AIインタラクションにおける騙しからユーザーを守るために摩擦を導入する将来の作業に繋がると論じている。
• 参考スコア（独自算出の注目度）: 2.706390545056605
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current approaches to addressing deceptive design largely focus on visible interface manipulations, commonly referred to as "dark patterns". With the rise of generative AI, deception is becoming more difficult to spot and easier to live with, as it is quietly embedded in default settings, automated suggestions, and conversational interactions rather than discrete interface elements. These subtle, normalised forms of influence, which Simone Natale frames as "banal deception", shape everyday digital use and blur the line between AI-enabled assistance and manipulation. This position paper explores banality as a lens through which to reason through deception in generative AI experiences, especially with chatbots. We explore what Natale describes as users' own involvement in their deception, and argue that this perspective could lead to future work for introducing friction to safeguard users from deception in generative AI interactions, such as empowering users through raising awareness, providing them with intervention tools, and regulatory or enforcement improvements. We present these concepts as points for discussion for the deceptive design scholarly community.
• Abstract（参考訳）: 詐欺的デザインに対処する現在のアプローチは、一般的に「ダークパターン」と呼ばれる可視的なインタフェース操作に重点を置いている。 生成的AIの台頭により、デフォルト設定や自動提案、対話的なインタラクションに、個別のインターフェース要素ではなく、静かに埋め込まれているため、偽装が見つけにくくなり、生活しやすくなる。 これらの微妙で正規化された影響は、シモーヌ・ナタレ(Simone Natale)が「バナール偽装(banal deception)」と表現し、日々のデジタル使用を形作って、AI対応の補助と操作の境界を曖昧にしている。 この位置紙は、生成的AI体験、特にチャットボットにおける騙しを通じて推論するレンズとしての禁止性について考察する。 私たちは、Nataleがユーザ自身の騙しへの関与である、と説明するものについて検討し、この視点が、ユーザに対して、認知度を高め、介入ツールを提供し、規制や規制の改善を通じて、生成的AIインタラクションの詐欺からユーザを保護するための摩擦を導入するための将来の作業につながる可能性がある、と論じる。 本稿では,これらの概念を,認知的デザイン研究者コミュニティの議論のポイントとして提示する。

関連論文リスト

• Designing AI for Real Users -- Accessibility Gaps in Retail AI Front-End [0.0]
  私たちは、多くのAIフロントエンドが暗黙的に「理想のユーザーボディと精神」を仮定していると主張している。 これは、異なる有能なユーザの経験を通して観察すると、目に見える、倫理的に適切になる。 我々は,AIガバナンスの実践的補完として,フロントエンド保証を提案する。
  論文  参考訳（メタデータ） (2026-03-30T09:04:17Z)
• Resisting Humanization: Ethical Front-End Design Choices in AI for Sensitive Contexts [1.1565654851982565]
  AIフロントエンド設計における人間化は、ユーザのメンタルモデルを大きく形作る価値駆動的な選択である、と私たちは主張する。 ジェンダーベースの暴力の生存者を支援する非営利団体であるChaynによって開発された2つのAIシステムについて論じる。
  論文  参考訳（メタデータ） (2026-03-25T22:39:16Z)
• Disclosure By Design: Identity Transparency as a Behavioural Property of Conversational AI Models [10.35358368112024]
  AIのアイデンティティが不明な場合、ユーザーは無意識に機密情報を共有したり、AIが生成するアドバイスを不当に信頼したり、AI対応の詐欺の被害を被る可能性がある。 我々は、AIシステムが直接尋ねられたとき、人工的なアイデンティティを明示的に開示する設計による開示を提唱する。 ベースライン開示率は高いことが多いが、ロールプレイが著しく低下し、相手のプロンプトで抑制できることがわかった。
  論文  参考訳（メタデータ） (2026-01-27T17:31:37Z)
• Neural Transparency: Mechanistic Interpretability Interfaces for Anticipating Model Behaviors for Personalized AI [9.383958408772694]
  チャットボットの設計中に言語モデルの内部を露出することで、神経透過性を実現するインターフェースを導入する。 本手法は, 対立する動作を誘発する対照的なシステムプロンプト間のニューラルアクティベーションの差を計算することで, 行動特性ベクトルを抽出する。 この研究は、非技術ユーザに対して解釈可能性をどのように運用するかの道を提供し、より安全でより整合した人間とAIのインタラクションのための基盤を確立する。
  論文  参考訳（メタデータ） (2025-10-31T20:03:52Z)
• Dark Patterns Meet GUI Agents: LLM Agent Susceptibility to Manipulative Interfaces and the Role of Human Oversight [51.53020962098759]
  本研究では,エージェント,ヒト参加者,ヒトAIチームが,さまざまなシナリオにまたがる16種類の暗黒パターンにどのように反応するかを検討する。 フェーズ1では、エージェントが暗黒パターンを認識するのに失敗することが多く、たとえ認識されたとしても、保護行動よりもタスク完了を優先することが強調される。 第2段階では、認知的ショートカットと習慣的コンプライアンスにより、人間はしゃがみ込み、エージェントは手続き的な盲点から遠ざかる。
  論文  参考訳（メタデータ） (2025-09-12T22:26:31Z)
• ThematicPlane: Bridging Tacit User Intent and Latent Spaces for Image Generation [49.805992099208595]
  ThematicPlaneは,ユーザが高レベルのセマンティック概念をナビゲートし操作できるシステムである。 このインターフェースは、暗黙の創造意図とシステム制御のギャップを埋める。
  論文  参考訳（メタデータ） (2025-08-08T06:57:14Z)
• Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
  我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。 また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
  論文  参考訳（メタデータ） (2024-10-28T23:10:06Z)
• Constraining Participation: Affordances of Feedback Features in Interfaces to Large Language Models [49.266685603250416]
  大規模言語モデル(LLM)は、コンピュータ、Webブラウザ、ブラウザベースのインターフェースによるインターネット接続を持つ人なら誰でも利用できるようになった。 本稿では,ChatGPTインタフェースの対話型フィードバック機能によって,LLMへのユーザ参加が期待できるかを検討する。
  論文  参考訳（メタデータ） (2024-08-27T13:50:37Z)
• Interrogating AI: Characterizing Emergent Playful Interactions with ChatGPT [10.907980864371213]
  本研究では,人気のAI技術であるChatGPTのユーザによる遊び的なインタラクションに焦点を当てた。 ユーザ談話の半数以上(54%)が遊び心のあるインタラクションを中心に展開していることがわかった。 これらのインタラクションが、AIのエージェンシーを理解し、人間とAIの関係を形作り、AIシステムを設計するための洞察を提供する上で、どのように役立つかを検討する。
  論文  参考訳（メタデータ） (2024-01-16T14:44:13Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。