論文の概要: Modeling Human Responses to Multimodal AI Content

• arxiv url: http://arxiv.org/abs/2508.10769v1
• Date: Thu, 14 Aug 2025 15:55:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-15 22:24:48.390603
• Title: Modeling Human Responses to Multimodal AI Content
• Title（参考訳）: マルチモーダルAIコンテンツに対するヒューマンレスポンスのモデル化
• Authors: Zhiqi Shen, Shaojing Fan, Danni Xu, Terence Sim, Mohan Kankanhalli,
• Abstract要約: MhAIMデータセットには154,552のオンラインポストが含まれている(うち111,153がAI生成) 私たちの人間による研究は、投稿にテキストとビジュアルの両方が含まれている場合、人々はAIコンテンツを特定するのがより優れていることを示している。 マルチモーダル情報に予測応答を組み込むことにより,ユーザの問い合わせに応答するエージェントシステムであるT-Lensを提案する。
• 参考スコア（独自算出の注目度）: 10.65875439980452
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As AI-generated content becomes widespread, so does the risk of misinformation. While prior research has primarily focused on identifying whether content is authentic, much less is known about how such content influences human perception and behavior. In domains like trading or the stock market, predicting how people react (e.g., whether a news post will go viral), can be more critical than verifying its factual accuracy. To address this, we take a human-centered approach and introduce the MhAIM Dataset, which contains 154,552 online posts (111,153 of them AI-generated), enabling large-scale analysis of how people respond to AI-generated content. Our human study reveals that people are better at identifying AI content when posts include both text and visuals, particularly when inconsistencies exist between the two. We propose three new metrics: trustworthiness, impact, and openness, to quantify how users judge and engage with online content. We present T-Lens, an LLM-based agent system designed to answer user queries by incorporating predicted human responses to multimodal information. At its core is HR-MCP (Human Response Model Context Protocol), built on the standardized Model Context Protocol (MCP), enabling seamless integration with any LLM. This integration allows T-Lens to better align with human reactions, enhancing both interpretability and interaction capabilities. Our work provides empirical insights and practical tools to equip LLMs with human-awareness capabilities. By highlighting the complex interplay among AI, human cognition, and information reception, our findings suggest actionable strategies for mitigating the risks of AI-driven misinformation.
• Abstract（参考訳）: AI生成コンテンツが広まるにつれ、誤報のリスクも高まる。 これまでの研究は、コンテンツが本物かどうかを判断することに重点を置いてきたが、そのようなコンテンツが人間の知覚や行動に与える影響についてはあまり知られていない。 トレーディングや株式市場のようなドメインでは、人々がどのように反応するか(例えば、ニュース投稿がバイラルになるかどうか)を予測することは、その事実の正確さを検証することよりも重要である。 この問題に対処するために、人間中心のアプローチを採用し、MhAIM Datasetを導入する。MhAIM Datasetは154,552のオンライン投稿(うち111,153はAI生成)があり、AI生成コンテンツに対する人々の反応に関する大規模な分析を可能にする。 私たちの人間の研究では、投稿にテキストとビジュアルの両方が含まれている場合、特に両者の間に矛盾がある場合、人々はAIコンテンツを特定するのが優れていることが示されています。 オンラインコンテンツの信頼性、影響、オープン性という3つの新しい指標を提案し、ユーザーがオンラインコンテンツを判断し、どのように関与するかを定量化する。 我々は,マルチモーダル情報に予測応答を組み込むことにより,ユーザからの問い合わせに応答するLLMベースのエージェントシステムであるT-Lensを提案する。 コアとなるHR-MCP(Human Response Model Context Protocol)は、標準化されたモデルコンテキストプロトコル(MCP)上に構築され、任意のLCMとのシームレスな統合を可能にする。 この統合により、T-Lensは人間の反応との整合性が向上し、解釈可能性と相互作用能力が向上する。 我々の研究は、LLMに人間の認識能力を持たせるための実証的な洞察と実践的なツールを提供する。 我々の研究結果は、AI間の複雑な相互作用、人間の認知、情報受信を強調することにより、AI駆動の誤報のリスクを軽減するための実用的な戦略を示唆している。

関連論文リスト

• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
  大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。 現在のLSMは、人間に対する信頼の欠如を示す。 本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-03T06:22:19Z)
• Persuasion with Large Language Models: a Survey [49.86930318312291]
  大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。 政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。 LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-11-11T10:05:52Z)
• Unexploited Information Value in Human-AI Collaboration [23.353778024330165]
  ヒューマンAIチームのパフォーマンスを改善する方法は、各エージェントがどのような情報や戦略を採用しているかを知らなければ、しばしば明確ではない。 本稿では,人間とAIの協調関係を分析するための統計的決定理論に基づくモデルを提案する。
  論文  参考訳（メタデータ） (2024-11-03T01:34:45Z)
• Can We Trust AI Agents? A Case Study of an LLM-Based Multi-Agent System for Ethical AI [10.084913433923566]
  AIベースのシステムは、多様なタスクをサポートすることによって数百万に影響を及ぼすが、誤情報、偏見、誤用といった問題に直面している。 本研究では,Large Language Models (LLM) を用いたAI倫理の実践について検討する。 エージェントがAIインシデントデータベースから現実のAI倫理問題に関する構造化された議論を行うプロトタイプを設計する。
  論文  参考訳（メタデータ） (2024-10-25T20:17:59Z)
• Rel-A.I.: An Interaction-Centered Approach To Measuring Human-LM Reliance [73.19687314438133]
  インタラクションの文脈的特徴が依存に与える影響について検討する。 文脈特性が人間の信頼行動に大きく影響していることが判明した。 これらの結果から,キャリブレーションと言語品質だけでは人間とLMの相互作用のリスクを評価するには不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-07-10T18:00:05Z)
• Requirements for Explainability and Acceptance of Artificial Intelligence in Collaborative Work [0.0]
  本稿では,AIの説明可能性と受容の要件について考察する。 その結果,2つの主要なグループが,モデルの内部操作に関する情報を必要とする開発者であることが示唆された。 AIシステムの受容は、システムの機能や性能、プライバシ、倫理的考慮事項に関する情報に依存する。
  論文  参考訳（メタデータ） (2023-06-27T11:36:07Z)
• What Else Do I Need to Know? The Effect of Background Information on Users' Reliance on QA Systems [23.69129423040988]
  本研究では,予測に十分な情報がない場合のQAシステムとのインタラクションについて検討する。 本研究は,モデルの正しさを評価するのに十分な情報がない場合でも,利用者がモデル予測に頼っていることを明らかにした。
  論文  参考訳（メタデータ） (2023-05-23T17:57:12Z)
• Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision [84.31474052176343]
  ChatGPTのような最近のAIアシスタントエージェントは、人間のアノテーションと人間のフィードバックからの強化学習を教師付き微調整(SFT)に頼り、アウトプットを人間の意図に合わせる。 この依存は、人間の監督を得るために高いコストがかかるため、AIアシスタントエージェントの真の可能性を大幅に制限することができる。 本稿では,AIエージェントの自己調整と人間監督の最小化のために,原則駆動推論とLLMの生成能力を組み合わせたSELF-ALIGNという新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-04T17:59:28Z)
• Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions [46.87576410532481]
  現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。 骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。 本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
  論文  参考訳（メタデータ） (2021-01-17T16:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。