論文の概要: Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics
- arxiv url: http://arxiv.org/abs/2608.05656v2
- Date: Sat, 08 Aug 2026 01:51:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 13:55:18.682565
- Title: Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics
- Title（参考訳）: AIを勉強する人々:AIの安全性と倫理における人間の研究の疫学的フィットと障壁に関する専門家の視点
- Abstract要約: AI技術の人間のインタラクションにおいて、AIの安全性のリスクはますます明白になりつつある。
人間研究の受容におけるこの明らかなギャップを明らかにするため、AI安全倫理(AISE)研究者による専門家調査(n=93)と専門家インタビュー(n=17)を行う。
- 参考スコア（独自算出の注目度）: 25.781418598536906
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety risks of AI are becoming increasingly evident in human interactions with AI technologies. The prominent approaches to evaluating these risks favor technical methods, such as model benchmarks and LLM simulations, often sidelining empirical research with human subjects. To examine this apparent gap in the acceptance of human research, we conduct an expert survey (n=93) and expert interviews (n=17) with AI Safety & Ethics (AISE) researchers from Technical, Sociotechnical, Governance, and Normative backgrounds. Our findings suggest that although there is a consensus that human research is valuable for generating evidence for AISE, its adoption and acceptance are constrained by perceived validity issues, tangible resource barriers, epistemic and personal preferences in methods, and infrastructural constraints from the broader research community. In particular, Technical researchers tend to value human research less and collaborate across disciplines less, suggesting an epistemic tension towards human methods. We propose recommendations for establishing the epistemic fit of human research within AISE and bridging the prohibitive limitations that researchers face, while avoiding performative 'human-washing'.
- Abstract（参考訳）: AI技術の人間のインタラクションにおいて、AIの安全性のリスクはますます明白になりつつある。
これらのリスクを評価するための顕著なアプローチは、モデルベンチマークやLLMシミュレーションのような技術的手法を好んでおり、しばしば人間の被験者と経験的研究を並べている。
人間研究の受容におけるこの明らかなギャップを明らかにするため、技術、社会技術、ガバナンス、ノルマティヴな背景からAI安全倫理(AISE)研究者を対象に、専門家調査(n=93)と専門家インタビュー(n=17)を行う。
人間の研究はAISEの証拠を生み出すのに価値があるという意見が一致しているが、その採用と受容は、認識された妥当性の問題、具体的な資源障壁、方法における疫学と個人の嗜好、より広い研究コミュニティからのインフラ的制約によって制約されている。
特に、技術研究者は人間の研究の価値を減らし、規律をまたいだ協力を減らし、人間の方法に対する疫学的な緊張を示唆する傾向にある。
本稿では,AISEにおけるヒト研究の疫学適合性を確立するとともに,研究者が直面する禁止的制約をブリッジし,パフォーマンス的な「ヒューマン・ウォッシング」を回避することを提案する。
関連論文リスト
- RCTs & Human Uplift Studies: Methodological Challenges and Practical Solutions for Frontier AI Evaluation [7.662976269800995]
人間アップリフト研究は、現状に対する人間のパフォーマンスにAIが与える影響を測定する。
これらの研究は、フロンティアAIシステムのデプロイメント、ガバナンス、安全性決定にますます役立っている。
これらの研究の基礎となる手法は確立されているが、フロンティアAIシステムの特徴的な性質との相互作用はいまだに過小評価されていない。
論文 参考訳（メタデータ） (2026-03-11T17:25:03Z) - Report on the Scoping Workshop on AI in Science Education Research 2025 [2.0613397238713778]
報告では、科学教育研究における人工知能(AI)の役割に関する2日間の国際スコピングワークショップの結果を要約している。
AIは科学の実践、教室の学習、そして研究の方法に素早く反応するので、この分野は新たな機会と重要な課題に直面している。
報告書は、トレーニング、インフラ、標準のための実行可能なレコメンデーションと、資金提供者、政策立案者、専門機関、学術部門のガイダンスで締めくくっている。
論文 参考訳（メタデータ） (2025-11-18T10:23:22Z) - Bridging the Gap: Integrating Ethics and Environmental Sustainability in AI Research and Practice [57.94036023167952]
我々は、AIの倫理的影響を研究するための努力は、その環境への影響を評価するものと相まって行われるべきであると論じる。
我々は,AI研究と実践にAI倫理と持続可能性を統合するためのベストプラクティスを提案する。
論文 参考訳（メタデータ） (2025-04-01T13:53:11Z) - On Benchmarking Human-Like Intelligence in Machines [77.55118048492021]
現在のAI評価パラダイムは、人間のような認知能力を評価するには不十分である、と我々は主張する。
人為的なラベルの欠如、人間の反応の多様性と不確実性の表現の不適切な表現、単純で生態学的に無意味なタスクへの依存。
論文 参考訳（メタデータ） (2025-02-27T20:21:36Z) - AI-Empowered Human Research Integrating Brain Science and Social Sciences Insights [1.7146585621340318]
我々は、研究者が人間-AI共同研究に移行する時期は高いと論じている。
我々は、AIを研究ツール(ART)、AIを研究アシスタント(ARA)、AIを研究参加者(ARP)という3つの人間とAIのコラボレーションモデルを紹介する。
論文 参考訳（メタデータ） (2024-11-16T11:13:23Z) - An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems [49.1574468325115]
我々は、すでに人権がデータ利用の分野で決定を下していることを示している。
本研究は人権影響評価(HRIA)の方法論とモデルである。
提案手法は,具体的ケーススタディで検証し,その有効性と有効性を示す。
論文 参考訳（メタデータ） (2024-07-30T16:27:52Z) - Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。
我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。
本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
論文 参考訳（メタデータ） (2024-02-06T18:54:07Z) - Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。
化学科学における誤用の実例を取り上げる。
我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文 参考訳（メタデータ） (2023-12-11T18:50:57Z) - Human-Centered Responsible Artificial Intelligence: Current & Future
Trends [76.94037394832931]
近年、CHIコミュニティは人間中心のレスポンシブル人工知能の研究において著しい成長を遂げている。
この研究はすべて、人権と倫理に根ざしたまま、人類に利益をもたらすAIを開発し、AIの潜在的な害を減らすことを目的としている。
本研究グループでは,これらのトピックに関心のある学術・産業の研究者を集結させ,現在の研究動向と今後の研究動向を地図化することを目的とする。
論文 参考訳（メタデータ） (2023-02-16T08:59:42Z) - Towards a Science of Human-AI Decision Making: A Survey of Empirical
Studies [22.214709837295906]
AI支援による人間の意思決定を強化する研究コミュニティへの関心が高まっている。
人間-AI意思決定の新たな分野は、人間がAIとどのように相互作用し、どのように働くかに関する基礎的な理解を形成するための経験的アプローチを取り入れなければならない。
論文 参考訳（メタデータ） (2021-12-21T19:00:02Z) - Human Factors in Security Research: Lessons Learned from 2008-2018 [8.255966566768484]
我々は、人間のエラーが多くのシステムに同時に影響しうる専門家の重要集団に関する研究に焦点をあてる。
我々は、セキュリティとプライバシーに関する過去10年間のヒューマンファクター調査を分析し、557の関連出版物を特定した。
論文 参考訳（メタデータ） (2021-03-24T15:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。