論文の概要: From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants

• arxiv url: http://arxiv.org/abs/2604.05166v1
• Date: Mon, 06 Apr 2026 20:50:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.488379
• Title: From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants
• Title（参考訳）: 利用から監視へ:AI書記アシスタントにおけるメンタルモデルがユーザの行動と出力に与える影響
• Authors: Shalaleh Rismani, Su Lin Blodgett, Q. Vera Liao, Alexandra Olteanu, AJung Moon,
• Abstract要約: システムの動作に関する機能的、あるいは関連性、システムの動作に関する構造的、あるいは関連性という、2つのタイプのメンタルモデルについて検討する。 構造的精神モデル状態の参加者は、システムに対する理解を深める一方、これはバックフィリング効果をもたらす可能性がある。
• 参考スコア（独自算出の注目度）: 70.1699066541501
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-based writing assistants are ubiquitous, yet little is known about how users' mental models shape their use. We examine two types of mental models -- functional or related to what the system does, and structural or related to how the system works -- and how they affect control behavior -- how users request, accept, or edit AI suggestions as they write -- and writing outcomes. We primed participants ($N = 48$) with different system descriptions to induce these mental models before asking them to complete a cover letter writing task using a writing assistant that occasionally offered preconfigured ungrammatical suggestions to test whether the mental models affected participants' critical oversight. We find that while participants in the structural mental model condition demonstrate a better understanding of the system, this can have a backfiring effect: while these participants judged the system as more usable, they also produced letters with more grammatical errors, highlighting a complex relationship between system understanding, trust, and control in contexts that require user oversight of error-prone AI outputs.
• Abstract（参考訳）: AIベースの書き込みアシスタントはユビキタスだが、ユーザーのメンタルモデルがどのように使用を形作るかについてはほとんど知られていない。 システムの動作に関する機能的あるいは関連性、システムがどのように機能するか、構造的あるいは関連性のある2つのメンタルモデルについて検討する。 被験者の心的モデルに影響を及ぼすかどうかを調べるために,事前に設定された非文法的提案を提示する文章アシスタントを用いて表紙作成タスクの完了を依頼する前に,異なるシステム記述を用いて参加者(N = 48$)を推定した。 これらの参加者は、システムがより有用であると判断する一方で、より文法的な誤りを持つ文字を生成し、システム理解、信頼、そしてエラーを引き起こしやすいAI出力のユーザ監視を必要とするコンテキストにおける制御の複雑な関係を強調した。

関連論文リスト

• Who Controls the Conversation? User Perspectives On Generative AI (LLM) System Prompts [7.340845393655051]
  本稿では, ユーザ中心の設計に注意を喚起するシステムについて論じる。 システムプロンプトには何が含まれ、エンドユーザはそれをどのように認識し、これらの認識は設計とガバナンスの実践に何を提供するのか? この結果から,システムプロンプトのメリットとリスク,プロンプトデザインに結びつくことを好む値,異なるタイプのプロンプトに対する快適さ,プロンプトコンテンツに関する透明性とユーザコントロールの度合い,といったユーザ視点が明らかになった。
  論文  参考訳（メタデータ） (2026-02-16T17:59:30Z)
• Annotating Errors in English Learners' Written Language Production: Advancing Automated Written Feedback Systems [25.047364950581265]
  本稿では,各エラーのエラータイプと一般化可能性をモデル化するアノテーションフレームワークを提案する。 我々は、注釈付き学習者の誤りとそれに対応する人間によるフィードバックコメントのデータセットを収集する。 我々は、フィードバックを生成するためのキーワード誘導、キーワードフリー、テンプレート誘導の評価を行う。
  論文  参考訳（メタデータ） (2025-08-09T04:06:18Z)
• Interactive Reasoning: Visualizing and Controlling Chain-of-Thought Reasoning in Large Language Models [54.85405423240165]
  トピックの階層構造としてチェーンオブ思考出力を可視化するインタラクション設計であるInteractive Reasoningを導入する。 私たちは、不確実なトレードオフに直面したAIによる意思決定のプロトタイプであるHippoで、インタラクティブな推論を実装しています。
  論文  参考訳（メタデータ） (2025-06-30T10:00:43Z)
• Understanding Learner-LLM Chatbot Interactions and the Impact of Prompting Guidelines [9.834055425277874]
  本研究は,学習者とAIの相互作用を,参加者が効果的なプロンプトの構造化指導を受ける教育実験を通して調査する。 ユーザの行動を評価し,有効性を促進するために,107人のユーザから642のインタラクションのデータセットを解析した。 我々の研究は、ユーザーが大規模言語モデルとどのように関わり、AI支援コミュニケーションを強化するための構造化された指導の役割についてより深く理解している。
  論文  参考訳（メタデータ） (2025-04-10T15:20:43Z)
• Towards Large-Scale Interpretable Knowledge Graph Reasoning for Dialogue Systems [109.16553492049441]
  よりスケーラブルで一般化可能な対話システムに知識推論機能を組み込む新しい手法を提案する。 我々の知識を最大限に活用するために、変圧器モデルが微分可能な知識グラフを解析して応答を生成するのは、これが初めてである。
  論文  参考訳（メタデータ） (2022-03-20T17:51:49Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)
• A Neural Topical Expansion Framework for Unstructured Persona-oriented Dialogue Generation [52.743311026230714]
  Persona Exploration and Exploitation (PEE)は、事前に定義されたユーザペルソナ記述を意味論的に相関したコンテンツで拡張することができる。 PEEはペルソナ探索とペルソナ搾取という2つの主要なモジュールで構成されている。 提案手法は, 自動評価と人的評価の両面で, 最先端のベースラインを上回っている。
  論文  参考訳（メタデータ） (2020-02-06T08:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。