論文の概要: Healthy skepticism in AI: a data visualization research agenda
- arxiv url: http://arxiv.org/abs/2610.09740v1
- Date: Wed, 07 Oct 2026 09:31:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.832357
- Title: Healthy skepticism in AI: a data visualization research agenda
- Title（参考訳）: AIにおける健康懐疑論 : データ可視化研究の課題
- Abstract要約: 我々は、人間がAIモデルの結果とそのようなAIモデルの使用の両方について懐疑的な見解を採用することは健全であると論じている。
私たちは、AIモデルに対する過度信頼の現象の増加、AIモデルの使用のリスクと機会、過度信頼状況におけるデータの可視化の役割について、私たちの考えを共有します。
- 参考スコア（独自算出の注目度）: 4.140208811013505
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Research in data visualization of artificial intelligence (AI) models has historically focused on enhancing trust through visual explanations of AI. The trustworthiness line of work was built at least partially on an assumption that humans were critical users unlikely to adopt AI technology. It is increasingly clear that human trust levels in AI span, in fact, a wide range from critical to over-reliant. There is an urgent need to support both trust and healthy skepticism in AI solutions. We argue that it is healthy for humans to adopt a skeptical view both on the results of AI models and on the use of such AI models. We share our thoughts on the rising phenomenon of over-reliance on AI models, the risks and opportunities in using AI models, and the role of data visualization in over-reliance situations where humans are not motivated to engage in critical thinking.
- Abstract（参考訳）: 人工知能(AI)モデルのデータの可視化に関する研究は、歴史的にAIの視覚的説明を通じて信頼を高めることに焦点を当ててきた。
信頼性のラインは、少なくとも部分的には、人間が重要なユーザーであり、AIテクノロジーを採用できないという仮定に基づいて構築された。
AIにおける人間の信頼レベルが、実際、批判的から過剰なものまで幅広い範囲にまたがっていることは、ますます明らかになっている。
AIソリューションにおける信頼と健全な懐疑の両方をサポートする必要がある。
我々は、人間がAIモデルの結果とそのようなAIモデルの使用の両方について懐疑的な見解を採用することは健全であると論じている。
我々は、AIモデルに対する過度な信頼の高まり、AIモデルの使用のリスクと機会、人間が批判的思考に従事する動機のない過度な信頼の状況におけるデータの可視化の役割について、私たちの考えを共有します。
関連論文リスト
- AI usage patterns are shaped by perceived gains in human agency [2.2635515032445577]
我々は、持続的AI使用率と個々の機関の知覚的な利益とを一貫して関連づけていることを示します。
我々の発見は、人間がどのようにして、なぜ時間をかけてAIシステムを使うのかという仮定に挑戦する。
論文 参考訳（メタデータ） (2026-07-02T15:24:58Z) - Rolling in the deep of cognitive and AI biases [1.556153237434314]
我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。
我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。
我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
論文 参考訳（メタデータ） (2024-07-30T21:34:04Z) - Seeing is not always believing: Benchmarking Human and Model Perception
of AI-Generated Images [66.20578637253831]
人工知能(AI)技術の進歩が偽写真を生み出すのではないかという懸念が高まっている。
本研究の目的は、最先端のAI生成視覚コンテンツを識別するためのエージェントを包括的に評価することである。
論文 参考訳（メタデータ） (2023-04-25T17:51:59Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - A Review of the Role of Causality in Developing Trustworthy AI Systems [16.267806768096026]
最先端のAIモデルは、現実世界の人間の理解を支配する因果関係の理解がほとんどない。
近年,AIモデルの信頼性を向上するための強力なツールとして因果モデリングや推論手法が登場している。
論文 参考訳（メタデータ） (2023-02-14T11:08:26Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z) - Uncalibrated Models Can Improve Human-AI Collaboration [10.106324182884068]
私たちは、AIモデルを実際によりも自信を持って提示することで、人間-AIのパフォーマンスが向上することを示した。
私たちはまず、何千もの人間のインタラクションのデータを使って、人間がAIアドバイスを組み込む方法のモデルを学びます。
論文 参考訳（メタデータ） (2022-02-12T04:51:00Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。