論文の概要: Analysis of hidden feedback loops in continuous machine learning systems
- arxiv url: http://arxiv.org/abs/2101.05673v2
- Date: Sun, 17 Jan 2021 18:38:51 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-29 00:45:43.859473
- Title: Analysis of hidden feedback loops in continuous machine learning systems
- Title(参考訳): 連続機械学習システムにおける隠れフィードバックループの解析
- Authors: Anton Khritankov
- Abstract要約: 暗黙的なフィードバックループの問題を示し,例えば住宅価格予測システムにおいて,ユーザの行動にどのように介入するかを示す。
予備モデルに基づいて,このようなフィードバックループが発生する条件を強調し,可能な解法について論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In this concept paper, we discuss intricacies of specifying and verifying the
quality of continuous and lifelong learning artificial intelligence systems as
they interact with and influence their environment causing a so-called concept
drift. We signify a problem of implicit feedback loops, demonstrate how they
intervene with user behavior on an exemplary housing prices prediction system.
Based on a preliminary model, we highlight conditions when such feedback loops
arise and discuss possible solution approaches.
- Abstract(参考訳): 本稿では,持続的・生涯学習型人工知能システムの品質の特定と検証の難しさを論じ,概念の漂流を引き起こす環境に影響を及ぼす。
暗黙的なフィードバックループの問題を示し,例えば住宅価格予測システムにおいて,ユーザの行動にどのように介入するかを示す。
予備モデルに基づいて,このようなフィードバックループが発生する条件を強調し,可能な解法について論じる。
関連論文リスト
- Explaining Explainability: Towards Deeper Actionable Insights into Deep
Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。
そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2023-06-14T23:24:01Z) - Inverse Dynamics Pretraining Learns Good Representations for Multitask
Imitation [66.86987509942607]
このようなパラダイムを模倣学習でどのように行うべきかを評価する。
本稿では,事前学習コーパスがマルチタスクのデモンストレーションから成り立つ環境について考察する。
逆動力学モデリングはこの設定に適していると主張する。
論文 参考訳(メタデータ) (2023-05-26T14:40:46Z) - Continually Improving Extractive QA via Human Feedback [59.49549491725224]
本研究では,人間のフィードバックによる抽出質問応答(QA)システムの改善を継続的に進める。
多様な設定の下で何千ものユーザインタラクションを含む実験を行い、時間とともにフィードバックからの学習の理解を広げます。
論文 参考訳(メタデータ) (2023-05-21T14:35:32Z) - A Classification of Feedback Loops and Their Relation to Biases in
Automated Decision-Making Systems [0.0]
MLに基づく意思決定パイプラインにおけるフィードバックループのタイプについて検討する。
フィードバックループの存在は、MLバイアスを永続的に、強化し、あるいは軽減することができる。
論文 参考訳(メタデータ) (2023-05-10T11:15:22Z) - From Concept Drift to Model Degradation: An Overview on
Performance-Aware Drift Detectors [1.757501664210825]
予測機械学習モデルがトレーニングされたシステムの変化は、システムのライフサイクルにおけるパフォーマンス低下につながる可能性がある。
文献では、同じ種類のコンセプトドリフトと、様々な種類の同じ用語を指すために、異なる用語が用いられてきた。
この統一項の欠如は、異なる概念のドリフト変種を区別する上で混乱を引き起こす。
論文 参考訳(メタデータ) (2022-03-21T15:48:13Z) - Simulating Bandit Learning from User Feedback for Extractive Question
Answering [51.97943858898579]
教師付きデータを用いたフィードバックのシミュレーションにより,ユーザフィードバックからの学習を抽出的質問応答に適用する。
当初は少数の例でトレーニングしたシステムが,モデル予測された回答に対するユーザからのフィードバックを劇的に改善できることが示される。
論文 参考訳(メタデータ) (2022-03-18T17:47:58Z) - Uncertainty Quantification of Surrogate Explanations: an Ordinal
Consensus Approach [1.3750624267664155]
我々は, 多様な自己記述型サロゲート説明器の集合間のコンセンサスを測定することによって, 与えられた説明の不確かさを推定する。
我々は、最先端の畳み込みニューラルネットワークアンサンブルの実験を通して、このアプローチの特性を実証的に説明する。
論文 参考訳(メタデータ) (2021-11-17T13:55:58Z) - Stateful Offline Contextual Policy Evaluation and Learning [88.9134799076718]
我々は、シーケンシャルデータから、政治以外の評価と学習について研究する。
動的パーソナライズされた価格設定などの問題の因果構造を形式化する。
本報告では,本クラスにおけるアウト・オブ・サンプル・ポリシーの性能改善について述べる。
論文 参考訳(メタデータ) (2021-10-19T16:15:56Z) - Improving Conversational Question Answering Systems after Deployment
using Feedback-Weighted Learning [69.42679922160684]
本稿では,二元的ユーザフィードバックを用いた初期教師付きシステムを改善するために,重要サンプリングに基づくフィードバック重み付き学習を提案する。
当社の作業は,実際のユーザとのインタラクションを活用し,デプロイ後の会話システムを改善する可能性を開くものだ。
論文 参考訳(メタデータ) (2020-11-01T19:50:34Z) - Counter-example Guided Learning of Bounds on Environment Behavior [11.357397596759172]
本稿では, 環境の正確なモデルなしで, 仕様適合性を評価可能なデータ駆動型ソリューションを提案する。
私たちのアプローチでは、データとシステムの望ましい振る舞いの仕様を使用して、環境の振る舞いの保守的な反応性境界を学習する。
論文 参考訳(メタデータ) (2020-01-20T19:58:24Z) - Overview and Challenges of Ambient Systems, Towards a Constructivist
Approach to their Modelling [0.0]
情報処理システムは、オープンで制御されていない物理的環境の複雑さと空白にさらされる。
センサからの環境データの単純な収集以外にも,情報処理システムの目的は,関連する行動を実行することである。
論文 参考訳(メタデータ) (2020-01-09T14:37:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。