論文の概要: Hidden Darkness in LLM-Generated Designs: Exploring Dark Patterns in Ecommerce Web Components Generated by LLMs
- arxiv url: http://arxiv.org/abs/2502.13499v1
- Date: Wed, 19 Feb 2025 07:35:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-20 14:00:46.193307
- Title: Hidden Darkness in LLM-Generated Designs: Exploring Dark Patterns in Ecommerce Web Components Generated by LLMs
- Title(参考訳): LLM生成設計における隠れ暗黒: LLMが生成するEコマースWebコンポーネントにおける暗黒パターンの探索
- Authors: Ziwei Chen, Jiawen Shen, Luna, Kristen Vaccaro,
- Abstract要約: この研究は、Claude、GPT、Gemini、Llamaの4つの人気のあるLCMによって生成されたeコマースWebコンポーネントの設計を評価した。
生成した成分の3分の1以上は、少なくとも1つの暗いパターンを含む。
ダークパターンは、企業利益に関連するコンポーネントでも、より頻繁に生成される。
- 参考スコア(独自算出の注目度): 4.934936297965669
- License:
- Abstract: Recent work has highlighted the risks of LLM-generated content for a wide range of harmful behaviors, including incorrect and harmful code. In this work, we extend this by studying whether LLM-generated web design contains dark patterns. This work evaluated designs of ecommerce web components generated by four popular LLMs: Claude, GPT, Gemini, and Llama. We tested 13 commonly used ecommerce components (e.g., search, product reviews) and used them as prompts to generate a total of 312 components across all models. Over one-third of generated components contain at least one dark pattern. The majority of dark pattern strategies involve hiding crucial information, limiting users' actions, and manipulating them into making decisions through a sense of urgency. Dark patterns are also more frequently produced in components that are related to company interests. These findings highlight the need for interventions to prevent dark patterns during front-end code generation with LLMs and emphasize the importance of expanding ethical design education to a broader audience.
- Abstract(参考訳): 最近の研究は、誤りや有害なコードを含む幅広い有害な行動に対するLLM生成コンテンツのリスクを強調している。
本研究では, LLM 生成した Web デザインがダークパターンを含むかどうかを検討することでこれを拡張する。
この研究は、Claude、GPT、Gemini、Llamaの4つの人気のあるLCMによって生成されたeコマースWebコンポーネントの設計を評価した。
私たちは13の一般的なeコマースコンポーネント(例えば、検索、製品レビュー)をテストし、それらをすべてのモデルで合計312のコンポーネントを生成するプロンプトとして使用しました。
生成した成分の3分の1以上は、少なくとも1つの暗いパターンを含む。
ダークパターン戦略の大多数は、重要な情報を隠蔽し、ユーザの行動を制限し、緊急性を通じて意思決定にそれらを操作することである。
ダークパターンは、企業利益に関連するコンポーネントでも、より頻繁に生成される。
これらの知見は、LLMによるフロントエンドコード生成におけるダークパターンの介入の防止の必要性を強調し、倫理的デザイン教育を幅広い聴衆に広げることの重要性を強調している。
関連論文リスト
- Do Code LLMs Understand Design Patterns? [45.89136944351375]
ソフトウェア開発におけるコードLLMのバイアスを実証的に調査する。
その結果,Code LLMのバイアスが下流タスクの信頼性に大きく影響していることが判明した。
論文 参考訳(メタデータ) (2025-01-08T20:39:45Z) - Fine-tuning Multimodal Large Language Models for Product Bundling [53.01642741096356]
Bundle-MLLMは,大規模言語モデル(LLM)をハイブリットアイテムトークン化アプローチにより微調整する新しいフレームワークである。
具体的には、テキスト、メディア、およびリレーショナルデータを統一トークン化に統合し、テキストトークンと非テキストトークンを区別するソフトな分離トークンを導入する。
1)バンドルパターンを学習し,2)製品バンドル固有のマルチモーダルセマンティック理解の強化を行う。
論文 参考訳(メタデータ) (2024-07-16T13:30:14Z) - What's Wrong with Your Code Generated by Large Language Models? An Extensive Study [80.18342600996601]
大規模言語モデル(LLM)は、標準解に比べて短いがより複雑なコードを生成する。
3つのカテゴリと12のサブカテゴリを含む誤ったコードに対するバグの分類を開発し、一般的なバグタイプに対する根本原因を分析する。
そこで本研究では,LLMがバグタイプやコンパイラフィードバックに基づいて生成したコードを批判し,修正することのできる,自己批判を導入した新たな学習自由反復手法を提案する。
論文 参考訳(メタデータ) (2024-07-08T17:27:17Z) - LLM-ESR: Large Language Models Enhancement for Long-tailed Sequential Recommendation [58.04939553630209]
現実世界のシステムでは、ほとんどのユーザーはほんの一握りのアイテムしか扱わないが、ほとんどのアイテムは滅多に消費されない。
これら2つの課題は、ロングテールユーザーとロングテールアイテムの課題として知られ、しばしば既存のシークエンシャルレコメンデーションシステムに困難をもたらす。
本稿では,これらの課題に対処するため,Large Language Models Enhancement framework for Sequential Recommendation (LLM-ESR)を提案する。
論文 参考訳(メタデータ) (2024-05-31T07:24:42Z) - Detecting Deceptive Dark Patterns in E-commerce Platforms [0.0]
ダークパターン(ダークパターン)は、電子商取引サイトがウェブサイトに利益をもたらす方法でユーザーの振舞いを操作するために使う偽のユーザーインターフェースである。
既存のソリューションとしては、コンピュータビジョンと自然言語処理を使用するUIGuardや、検出可能性に基づいてダークパターンを分類するアプローチ、あるいはデータセットに基づいてトレーニングされた機械学習モデルを使用するアプローチなどがある。
我々は,Webスクレイピング手法と細調整されたBERT言語モデルを組み合わせることを提案する。
論文 参考訳(メタデータ) (2024-05-27T16:32:40Z) - Integrating Dark Pattern Taxonomies [0.0]
過去10年間で、悪質で挑発的なデザインが複数のドメインに拡張された。
本稿では,ネットワーク解析ツールや手法に頼って,有向グラフとして既存の要素を合成する。
そうすることで、ダークパターンの相互接続性は、コミュニティ検出によってより明確になる。
論文 参考訳(メタデータ) (2024-02-26T17:26:31Z) - Why is the User Interface a Dark Pattern? : Explainable Auto-Detection
and its Analysis [1.4474137122906163]
ダークパターンは、ユーザーが意図せず振る舞うオンラインサービスのための偽りのユーザーインターフェイスデザインである。
解釈可能なダークパターン自動検出,すなわち,特定のユーザインターフェースがダークパターンを持つものとして検出される理由について検討する。
我々の発見は、ユーザーがダークパターンで操作されることを防ぎ、より公平なインターネットサービスの構築を支援する可能性がある。
論文 参考訳(メタデータ) (2023-12-30T03:53:58Z) - A Survey on Detection of LLMs-Generated Content [97.87912800179531]
LLMの生成する内容を検出する能力が最重要視されている。
既存の検出戦略とベンチマークの詳細な概要を提供する。
また、様々な攻撃から守るための多面的アプローチの必要性を示唆する。
論文 参考訳(メタデータ) (2023-10-24T09:10:26Z) - On the Safety of Open-Sourced Large Language Models: Does Alignment
Really Prevent Them From Being Misused? [49.99955642001019]
オープンソースでアライメントされた大きな言語モデルは、望ましくないコンテンツを生成するために簡単に誤解される可能性があることを示す。
我々のキーとなる考え方は、オープンソースLLMの生成プロセスを直接操作して、望ましくないコンテンツを生成するのを誤解することです。
論文 参考訳(メタデータ) (2023-10-02T19:22:01Z) - Getting Trapped in Amazon's "Iliad Flow": A Foundation for the Temporal Analysis of Dark Patterns [17.59481743387609]
本稿では,Amazon Primeの"Iliad Flow"を事例として,ユーザジャーニーにおけるダークパターンの相互作用を説明する。
我々はこのケーススタディを用いて、時間的暗黒パターン分析(TADP)の方法論の基礎を定めている。
論文 参考訳(メタデータ) (2023-09-18T10:12:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。