論文の概要: How Researchers Navigate Accountability, Transparency, and Trust When Using AI Tools in Early-Stage Research: A Think-Aloud Study

• arxiv url: http://arxiv.org/abs/2604.23136v1
• Date: Sat, 25 Apr 2026 04:35:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.175471
• Title: How Researchers Navigate Accountability, Transparency, and Trust When Using AI Tools in Early-Stage Research: A Think-Aloud Study
• Title（参考訳）: 早期研究におけるAIツール使用時のアカウンタビリティ、透明性、信頼をいかにナビゲートするか
• Authors: Sanjana Gautam, Houjiang Liu, Yujin Choi, Matthew Lease,
• Abstract要約: 研究の初期段階では、研究者は関連する文献を特定し、信頼できる証拠を評価するために、中核的な学術的判断に依存している。 AIツールがこれらの初期段階の研究にますます統合されるにつれて、かつては透明性があり、個々の研究者に帰属する学術的な判断が曖昧になる。 私たちの重要な発見は、説明責任、透明性、信頼という三部構成に対処しています。
• 参考スコア（独自算出の注目度）: 11.02920267970591
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the early stages of scientific research, researchers rely on core scholarly judgments to identify relevant literature, assess credible evidence, and determine which directions merit pursuit. As AI tools become increasingly integrated into these early-stage workflows, the scholarly judgments that were once transparent and attributable to individual researchers become obscured, raising critical Responsible AI (RAI) concerns around accountability, transparency, and trust. Yet how these three dimensions manifest in real-time, in-situ scholarly practice remains largely unexplored. To address this gap, we conducted a think-aloud study with 15 researchers to examine how they used AI tools powered by large language models (LLMs) across early-stage research tasks, including literature exploration, synthesis, and research ideation. Our key findings address the tripartite constructs of accountability, transparency, and trust. First, the confident tone of AI outputs misrepresents epistemic uncertainty, making it more difficult for researchers (who are ultimately accountable) to identify which outputs require the greatest scrutiny. Second, opaque retrieval and content construction make provenance difficult to establish for transparency. Third, trust in AI is fragile, context-dependent, and easily eroded. In response, participant researchers were seen to develop compensatory strategies to restore scholarly judgment under uncertainty. Overall, our findings serve to contextualize AI-mediated research as a RAI problem grounded in lived researcher experience and motivate attention to deliberate AI integration that preserves accountability, supports transparency, and fosters informed trust.
• Abstract（参考訳）: 科学的研究の初期段階では、研究者は学術的な判断に頼り、関連する文献を特定し、信頼できる証拠を評価し、どの方向を追求するかを決定する。 AIツールがこれらのアーリーステージワークフローに統合されるにつれて、かつては透明性があり、個々の研究者に帰属する学術的な判断が曖昧になり、説明責任、透明性、信頼に関する重要な責任AI(RAI)の懸念が高まる。 しかし、これらの3つの次元がリアルタイムでどのように現われるかは未解明のままである。 このギャップに対処するため、我々は15人の研究者とともに、文献探索、合成、研究のアイデアを含む初期の研究課題において、大規模言語モデル(LLM)を利用したAIツールをどのように利用したかについて、シンク・アラウド・スタディを実施しました。 私たちの重要な発見は、説明責任、透明性、信頼という三部構成に対処しています。 第一に、AI出力の自信あるトーンは、疫学的な不確実性を誤って表現し、どのアウトプットが最大の精査を必要とするかを研究者(最終的には説明責任を持つ)が特定することがより困難になる。 第二に、不透明な検索とコンテンツ構築は透明性の確立を困難にしている。 第3に、AIに対する信頼は脆弱で、コンテキストに依存し、簡単に侵食される。 これに対し、参加者の研究者は、不確実性の下で学術的判断を回復するための補償戦略を開発することができた。 全体として、我々の研究結果は、生きた研究者の経験に基づくAIによる研究を文脈化し、説明責任を維持し、透明性をサポートし、情報信頼を促進する意図的なAI統合への注意を喚起する。

関連論文リスト

• The Story is Not the Science: Execution-Grounded Evaluation of Mechanistic Interpretability Research [56.80927148740585]
  我々は、動的に進化し、研究評価者としてAIエージェントを開発することで、スケーラビリティと厳密さの課題に対処する。 我々は,機械的解釈可能性の研究をテストベッドとして使用し,標準化された研究成果を構築し,MechEvalAgentを開発した。 我々の研究は、AIエージェントが研究評価を変革し、厳格な科学的実践の道を開く可能性を実証している。
  論文  参考訳（メタデータ） (2026-02-05T19:00:02Z)
• From Toil to Thought: Designing for Strategic Exploration and Responsible AI in Systematic Literature Reviews [12.088520576810247]
  本研究では,1)複数のデータベースにまたがる反復的クエリリファインメント管理の認知負荷が高いこと,2)近代文学の出版の圧倒的な規模とペース,3)自動化と学術機関の緊張感について考察した。 我々は、マルチデータベース統合、透過的反復探索、検証可能なAI支援スクリーニングのためのソリューションを運用する設計プローブARCを開発した。
  論文  参考訳（メタデータ） (2026-01-21T00:28:27Z)
• Identity Theft in AI Conference Peer Review [50.18240135317708]
  人工知能(AI)研究における科学的ピアレビュープロセスにおいて,新たに発見されたID盗難事例について論じる。 論文評価の操作に不正なレビュアープロファイルを作成することにより、不正直な研究者がピアレビューシステムをどのように活用するかを詳述する。
  論文  参考訳（メタデータ） (2025-08-06T02:36:52Z)
• Social Scientists on the Role of AI in Research [2.2665233748698355]
  本研究では,284件のアンケート結果と15件の社会科学者への半構造化インタビューについて,地域中心の調査結果を提示する。 我々は、ジェネレーティブAI(genAI)の普及に伴い、研究環境におけるAIの利用が社会科学者の間で著しく増加していることを発見した。 特に、自動化バイアス、デマシリング、研究の不正行為、複雑な解釈可能性、表現的害に関する倫理的懸念は、genAIに関連して提起される。
  論文  参考訳（メタデータ） (2025-06-12T19:55:36Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Is Trust Correlated With Explainability in AI? A Meta-Analysis [0.0]
  我々は、AI説明可能性と信頼の関係を探るため、既存の文献を網羅的に調査する。 我々の分析では、90の研究データを取り入れた結果、AIシステムの説明可能性と彼らが与える信頼との間に統計的に有意だが適度な正の相関関係が明らかとなった。 この研究は、特に説明責任の促進と、医療や司法などの重要な領域におけるユーザの信頼の促進において、社会技術的に幅広い影響を強調している。
  論文  参考訳（メタデータ） (2025-04-16T23:30:55Z)
• O1 Replication Journey: A Strategic Progress Report -- Part 1 [52.062216849476776]
  本稿では,O1 Replication Journeyに具体化された人工知能研究の先駆的アプローチを紹介する。 我々の方法論は、長期化したチームベースのプロジェクトの不規則性を含む、現代のAI研究における重要な課題に対処する。 本稿では,モデルにショートカットだけでなく,完全な探索プロセスの学習を促す旅行学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-10-08T15:13:01Z)
• Trustworthy and Responsible AI for Human-Centric Autonomous Decision-Making Systems [2.444630714797783]
  我々は、AIバイアス、定義、検出と緩和の方法、およびバイアスを評価するメトリクスの複雑さをレビューし、議論する。 また、人間中心の意思決定のさまざまな領域におけるAIの信頼性と広範な適用に関して、オープンな課題についても論じる。
  論文  参考訳（メタデータ） (2024-08-28T06:04:25Z)
• AI Transparency in Academic Search Systems: An Initial Exploration [10.115932820429313]
  本研究は,AIを活用した10種類の学術検索システムのウェブサイトの質的コンテンツ分析手法を用いた。 5つはメカニズムに関する詳細な情報を提供し、3つは部分的な情報を提供し、2つはほとんど情報を提供しない。
  論文  参考訳（メタデータ） (2024-08-02T19:33:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。