論文の概要: Machine Learning Uncertainty as a Design Material: A
Post-Phenomenological Inquiry
- arxiv url: http://arxiv.org/abs/2101.04035v1
- Date: Mon, 11 Jan 2021 17:11:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-04 18:02:51.472461
- Title: Machine Learning Uncertainty as a Design Material: A
Post-Phenomenological Inquiry
- Title（参考訳）: デザイン材料としての機械学習の不確かさ--現象学的考察
- Authors: Jesse Josua Benjamin, Arne Berger, Nick Merrill, James Pierce
- Abstract要約: 機械学習(ML)による設計研究は比較的未開発である。
我々は不確実性を、人間の経験を仲介するMLプロセスの材料特性として位置づけている。
不確実性、パターンの漏えい、未来性という3つの挑発的な概念を導出します。
- 参考スコア（独自算出の注目度）: 21.00725283925589
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Design research is important for understanding and interrogating how emerging
technologies shape human experience. However, design research with Machine
Learning (ML) is relatively underdeveloped. Crucially, designers have not found
a grasp on ML uncertainty as a design opportunity rather than an obstacle. The
technical literature points to data and model uncertainties as two main
properties of ML. Through post-phenomenology, we position uncertainty as one
defining material attribute of ML processes which mediate human experience. To
understand ML uncertainty as a design material, we investigate four design
research case studies involving ML. We derive three provocative concepts:
thingly uncertainty: ML-driven artefacts have uncertain, variable relations to
their environments; pattern leakage: ML uncertainty can lead to patterns
shaping the world they are meant to represent; and futures creep: ML
technologies texture human relations to time with uncertainty. Finally, we
outline design research trajectories and sketch a post-phenomenological
approach to human-ML relations.
- Abstract（参考訳）: デザイン研究は、新しいテクノロジーがいかに人間の体験を形作るかを理解し、疑問視するために重要である。
しかし、機械学習(ML)による設計研究は比較的未開発である。
重要なことに、設計者はMLの不確実性を障害ではなく設計の機会として捉えていない。
技術的文献では、MLの主な2つの特性として、データとモデルの不確実性が指摘されている。
現象学を通して,人間の経験を媒介するmlプロセスの物質的属性として不確かさを位置づける。
設計材料としてのMLの不確実性を理解するため,MLを含む4つの設計研究事例を考察した。
すべて不確実性: ML駆動の成果物は環境に不確実で変動的な関係を持つ; パターンリーク: MLの不確実性は、彼らが表現しようとする世界を形作るパターンにつながる; 未来が不確実性: ML技術は、不確実性を伴う時間と人間の関係をテクスチャ化する。
最後に,デザイン研究の軌跡を概説し,人間-ML関係に対する現象学的アプローチをスケッチする。
関連論文リスト
- MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。
本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。
メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
論文 参考訳（メタデータ） (2024-06-20T03:50:23Z) - Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。
両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。
提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
論文 参考訳（メタデータ） (2024-02-15T18:46:24Z) - Identifying architectural design decisions for achieving green ML
serving [10.556809708326915]
MLアーキテクチャ設計決定の文献とGreen AIについて、特にML提供に焦点を当てて検討する。
この結果から,MLはアーキテクチャ設計決定に対応するコンポーネントや関連技術スタックと合わせて機能することを確認した。
私たちの分析は、MLの研究者や実践者がモデルを提供する際に、グリーンアウェアなアーキテクチャ設計決定を下すのに役立つかもしれません。
論文 参考訳（メタデータ） (2024-02-12T11:35:04Z) - Inductive Models for Artificial Intelligence Systems are Insufficient
without Good Explanations [0.0]
論文は、単に予測を行うだけでなく、良い説明を提供することの重要性を論じている。
AIが進むためには、単に予測だけでなく、洞察と説明を提供するモデルを探さなければならないことを示唆している。
論文 参考訳（メタデータ） (2024-01-17T07:14:04Z) - Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。
ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。
本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
論文 参考訳（メタデータ） (2023-11-08T20:41:18Z) - Beyond the ML Model: Applying Safety Engineering Frameworks to
Text-to-Image Development [8.912560990925993]
我々は、テキスト・ツー・イメージ・モデルを含むケーススタディに、2つの確立された安全工学フレームワーク(FMEA,A)を適用した。
分析の結果,社会的・倫理的リスクを生じさせる障害や危険を明らかにするための安全枠組みが示された。
論文 参考訳（メタデータ） (2023-07-19T02:46:20Z) - One-way Explainability Isn't The Message [2.618757282404254]
この文脈における人間と機械の両方の要件は、かなり異なると我々は主張する。
このようなヒューマン・マシン・システムの設計は、情報の2方向の繰り返しの可視性によって駆動されるべきである。
我々は、協調的な意思決定支援システムの設計を導くために、運用原則、すなわち、知性公理(Intelligibility Axioms)を提案します。
論文 参考訳（メタデータ） (2022-05-05T09:15:53Z) - Learning by Design: Structuring and Documenting the Human Choices in
Machine Learning Development [6.903929927172917]
本稿では,機械学習モデル作成における熟考と規範的選択を概説する8つの設計質問からなる手法を提案する。
本手法は,方法論的透明性を通じた批判的評価を支援するなど,いくつかの利点がある。
本手法は,MLモデルの開発において,ML実践者が選択や仮定を構造化し,正当化する上で有効であると考えている。
論文 参考訳（メタデータ） (2021-05-03T08:47:45Z) - Understanding the Usability Challenges of Machine Learning In
High-Stakes Decision Making [67.72855777115772]
機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。
多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。
児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
論文 参考訳（メタデータ） (2021-03-02T22:50:45Z) - Machine Learning in Nano-Scale Biomedical Engineering [77.75587007080894]
ナノスケールバイオメディカルエンジニアリングにおける機械学習の利用に関する既存の研究について概説する。
ML問題として定式化できる主な課題は、3つの主要なカテゴリに分類される。
提示された方法論のそれぞれについて、その原則、応用、制限に特に重点を置いている。
論文 参考訳（メタデータ） (2020-08-05T15:45:54Z) - Technology Readiness Levels for AI & ML [79.22051549519989]
機械学習システムの開発は、現代的なツールで容易に実行できるが、プロセスは通常急いで、エンドツーエンドで実行される。
エンジニアリングシステムは、高品質で信頼性の高い結果の開発を効率化するために、明確に定義されたプロセスとテスト標準に従います。
我々は、機械学習の開発と展開のための実証されたシステムエンジニアリングアプローチを提案する。
論文 参考訳（メタデータ） (2020-06-21T17:14:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。