Fugu-MT 論文翻訳(概要): Analysis of hidden feedback loops in continuous machine learning systems

論文の概要: Analysis of hidden feedback loops in continuous machine learning systems

arxiv url: http://arxiv.org/abs/2101.05673v2
Date: Sun, 17 Jan 2021 18:38:51 GMT
ステータス: 処理完了
システム内更新日: 2021-03-29 00:45:43.859473
Title: Analysis of hidden feedback loops in continuous machine learning systems
Title（参考訳）: 連続機械学習システムにおける隠れフィードバックループの解析
Authors: Anton Khritankov
Abstract要約: 暗黙的なフィードバックループの問題を示し,例えば住宅価格予測システムにおいて,ユーザの行動にどのように介入するかを示す。予備モデルに基づいて,このようなフィードバックループが発生する条件を強調し,可能な解法について論じる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: In this concept paper, we discuss intricacies of specifying and verifying the quality of continuous and lifelong learning artificial intelligence systems as they interact with and influence their environment causing a so-called concept drift. We signify a problem of implicit feedback loops, demonstrate how they intervene with user behavior on an exemplary housing prices prediction system. Based on a preliminary model, we highlight conditions when such feedback loops arise and discuss possible solution approaches.
Abstract（参考訳）: 本稿では,持続的・生涯学習型人工知能システムの品質の特定と検証の難しさを論じ,概念の漂流を引き起こす環境に影響を及ぼす。暗黙的なフィードバックループの問題を示し,例えば住宅価格予測システムにおいて,ユーザの行動にどのように介入するかを示す。予備モデルに基づいて,このようなフィードバックループが発生する条件を強調し,可能な解法について論じる。

関連論文リスト

Joint trajectory and network inference via reference fitting [0.0]
本稿では,動的かつ摂動的な単一細胞データを利用して,細胞軌道と電力ネットワークの推論を共同で学習する手法を提案する。我々のアプローチは、動的に最小エントロピーを推定することで動機付けられ、タイムスタンプ付き単一セルスナップショットから有向および符号付きネットワークを推定できる。
論文参考訳（メタデータ） (2024-09-10T21:49:57Z)
Beyond Thumbs Up/Down: Untangling Challenges of Fine-Grained Feedback for Text-to-Image Generation [67.88747330066049]
きめ細かいフィードバックは、画像の品質と迅速な調整におけるニュアンスドの区別を捉えます。粗いフィードバックに対する優位性を示すことは、自動ではないことを示す。きめ細かいフィードバックを抽出し活用する上で重要な課題を特定します。
論文参考訳（メタデータ） (2024-06-24T17:19:34Z)
A Mathematical Model of the Hidden Feedback Loop Effect in Machine Learning Systems [44.99833362998488]
意図しない隠れフィードバックループに起因するいくつかの現象を共同で記述するために,繰り返し学習プロセスを導入する。このような繰り返し学習設定の特徴は、環境の状態が時間とともに学習者自身に因果的に依存することである。本稿では,繰り返し学習過程の力学系モデルを提案し,正および負のフィードバックループモードに対する確率分布の制限セットを証明した。
論文参考訳（メタデータ） (2024-05-04T17:57:24Z)
Continually Improving Extractive QA via Human Feedback [59.49549491725224]
本研究では,人間のフィードバックによる抽出質問応答(QA)システムの改善を継続的に進める。多様な設定の下で何千ものユーザインタラクションを含む実験を行い、時間とともにフィードバックからの学習の理解を広げます。
論文参考訳（メタデータ） (2023-05-21T14:35:32Z)
A Classification of Feedback Loops and Their Relation to Biases in Automated Decision-Making Systems [0.0]
MLに基づく意思決定パイプラインにおけるフィードバックループのタイプについて検討する。フィードバックループの存在は、MLバイアスを永続的に、強化し、あるいは軽減することができる。
論文参考訳（メタデータ） (2023-05-10T11:15:22Z)
From Concept Drift to Model Degradation: An Overview on Performance-Aware Drift Detectors [1.757501664210825]
予測機械学習モデルがトレーニングされたシステムの変化は、システムのライフサイクルにおけるパフォーマンス低下につながる可能性がある。文献では、同じ種類のコンセプトドリフトと、様々な種類の同じ用語を指すために、異なる用語が用いられてきた。この統一項の欠如は、異なる概念のドリフト変種を区別する上で混乱を引き起こす。
論文参考訳（メタデータ） (2022-03-21T15:48:13Z)
Simulating Bandit Learning from User Feedback for Extractive Question Answering [51.97943858898579]
教師付きデータを用いたフィードバックのシミュレーションにより,ユーザフィードバックからの学習を抽出的質問応答に適用する。当初は少数の例でトレーニングしたシステムが,モデル予測された回答に対するユーザからのフィードバックを劇的に改善できることが示される。
論文参考訳（メタデータ） (2022-03-18T17:47:58Z)
Stateful Offline Contextual Policy Evaluation and Learning [88.9134799076718]
我々は、シーケンシャルデータから、政治以外の評価と学習について研究する。動的パーソナライズされた価格設定などの問題の因果構造を形式化する。本報告では,本クラスにおけるアウト・オブ・サンプル・ポリシーの性能改善について述べる。
論文参考訳（メタデータ） (2021-10-19T16:15:56Z)
Improving Conversational Question Answering Systems after Deployment using Feedback-Weighted Learning [69.42679922160684]
本稿では,二元的ユーザフィードバックを用いた初期教師付きシステムを改善するために,重要サンプリングに基づくフィードバック重み付き学習を提案する。当社の作業は,実際のユーザとのインタラクションを活用し,デプロイ後の会話システムを改善する可能性を開くものだ。
論文参考訳（メタデータ） (2020-11-01T19:50:34Z)
Counter-example Guided Learning of Bounds on Environment Behavior [11.357397596759172]
本稿では, 環境の正確なモデルなしで, 仕様適合性を評価可能なデータ駆動型ソリューションを提案する。私たちのアプローチでは、データとシステムの望ましい振る舞いの仕様を使用して、環境の振る舞いの保守的な反応性境界を学習する。
論文参考訳（メタデータ） (2020-01-20T19:58:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。