論文の概要: Studying the Transfer of Biases from Programmers to Programs
- arxiv url: http://arxiv.org/abs/2005.08231v2
- Date: Sun, 13 Dec 2020 17:06:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 05:51:04.121973
- Title: Studying the Transfer of Biases from Programmers to Programs
- Title（参考訳）: プログラムからプログラムへのバイアスの移動に関する研究
- Authors: Johanna Johansen, Tore Pedersen, Christian Johansen
- Abstract要約: 文化的メタファと文脈的メタファの効果について検討し、それぞれがプログラマからプログラムへ移行するかどうかを検証し、機械バイアスを構成した。
その結果,文化的メタファがプログラマの選択に影響を及ぼし,文脈的メタファが文化的メタファの効果を中和あるいは増悪するために利用できることが示唆された。
これは、自動システムのバイアスが必ずしもマシンのトレーニングデータから発生するとは限らないという私たちの仮説を支持します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: It is generally agreed that one origin of machine bias is resulting from
characteristics within the dataset on which the algorithms are trained, i.e.,
the data does not warrant a generalized inference. We, however, hypothesize
that a different `mechanism', hitherto not articulated in the literature, may
also be responsible for machine's bias, namely that biases may originate from
(i) the programmers' cultural background, such as education or line of work, or
(ii) the contextual programming environment, such as software requirements or
developer tools. Combining an experimental and comparative design, we studied
the effects of cultural metaphors and contextual metaphors, and tested whether
each of these would `transfer' from the programmer to program, thus
constituting a machine bias. The results show (i) that cultural metaphors
influence the programmer's choices and (ii) that `induced' contextual metaphors
can be used to moderate or exacerbate the effects of the cultural metaphors.
This supports our hypothesis that biases in automated systems do not always
originate from within the machine's training data. Instead, machines may also
`replicate' and `reproduce' biases from the programmers' cultural background by
the transfer of cultural metaphors into the programming process. Implications
for academia and professional practice range from the micro programming-level
to the macro national-regulations or educational level, and span across all
societal domains where software-based systems are operating such as the popular
AI-based automated decision support systems.
- Abstract（参考訳）: 一般に、機械バイアスの1つの起源は、アルゴリズムが訓練されたデータセット内の特性、すなわち、データは一般化された推論を保証していないことから生じる。
しかしながら、文献に記載されていない異なる「機械主義」は、機械のバイアス、すなわちバイアスが発する可能性があるという仮説を立てる。
(i)教育や作業の系統などプログラマーの文化的背景
(ii)ソフトウェア要件や開発ツールといった文脈プログラミング環境。
実験と比較設計を組み合わせることで,文化的メタファと文脈的メタファの効果を調べ,それぞれがプログラマからプログラムへ'転移'するかどうかを検証した。
結果が示します
(i)文化的なメタファーがプログラマの選択に影響を与え、
(二)文化的なメタファーの効果を中和又は増悪するために「引き起こされた」文脈メタファーを用いることができること。
これは、自動化システムのバイアスが必ずしもマシンのトレーニングデータ内にあるとは限らないという仮説を支持します。
代わりに、機械は、文化的メタファーをプログラミングプロセスに移すことによって、プログラマの文化的背景から'複製'や'再生産'バイアスを生じることもある。
アカデミアとプロのプラクティスの意義は、マイクロプログラミングレベルからマクロ国家規制や教育レベルまで、そして一般的なaiベースの自動意思決定支援システムのようなソフトウェアベースのシステムが動作するすべての社会ドメインにまたがる。
関連論文リスト
- DiSciPLE: Learning Interpretable Programs for Scientific Visual Discovery [61.02102713094486]
優れた意思決定を可能にするため、科学的推論において優れた解釈が重要である。
本稿では,ニューラルネットワークをインターリーブする学習プログラムを用いて,そのような解釈可能な設計モデルを得るための自動手法を提案する。
本稿では,大言語モデル (LLM) の常識と事前知識を活用する進化的アルゴリズムであるDiSciPLEを提案し,視覚データを説明するPythonプログラムを作成する。
論文 参考訳（メタデータ） (2025-02-14T10:26:14Z) - Unexpected but informative: What fixation-related potentials tell us about the processing of ambiguous program code [15.510640091254887]
我々はプログラマに不明瞭なプログラムコードパターンのオンライン処理を解析するが、コンピュータではない。
プログラムコードにおける曖昧なものと対照的に、混乱の原子は400msから700msの時間で前頭葉の後期陽性を引き起こす。
これらのデータは、プログラムコードや自然言語における予期せぬ情報入力に応答して、脳が同様の神経認知機構を担っていることを示唆するものである。
論文 参考訳（メタデータ） (2024-12-13T12:38:10Z) - NExT: Teaching Large Language Models to Reason about Code Execution [50.93581376646064]
大規模言語モデル(LLM)のコードは通常、プログラムの表面テキスト形式に基づいて訓練される。
NExTは,プログラムの実行トレースを検査し,実行時の動作を判断する手法である。
論文 参考訳（メタデータ） (2024-04-23T01:46:32Z) - Modelling Concurrency Bugs Using Machine Learning [0.0]
このプロジェクトは、一般的な機械学習アプローチと最近の機械学習アプローチを比較することを目的としている。
我々は、実生活(同時)プログラムをシミュレートする範囲で生成する合成データセットを定義する。
各種機械学習モデルモデルの基本的な限界に関する仮説を定式化する。
論文 参考訳（メタデータ） (2023-05-08T17:30:24Z) - On ML-Based Program Translation: Perils and Promises [17.818482089078028]
この研究は、教師なしのプログラム翻訳者とその失敗の理由を調査する。
入力が特定のパターンに従う場合、入力コードを前処理し、出力が特定のパターンに従う場合、出力を後処理するルールベースのプログラム突然変異エンジンを開発する。
将来的には、プログラムドメイン知識をMLベースの翻訳パイプラインに組み込むことができるエンドツーエンドのプログラム翻訳ツールを構想する。
論文 参考訳（メタデータ） (2023-02-21T16:42:20Z) - Using Document Similarity Methods to create Parallel Datasets for Code
Translation [60.36392618065203]
あるプログラミング言語から別のプログラミング言語へのソースコードの翻訳は、重要で時間を要する作業です。
本稿では、文書類似性手法を用いて、ノイズの多い並列データセットを作成することを提案する。
これらのモデルは、妥当なレベルのノイズに対して、地上の真実に基づいて訓練されたモデルと相容れない性能を示す。
論文 参考訳（メタデータ） (2021-10-11T17:07:58Z) - On the validity of pre-trained transformers for natural language
processing in the software engineering domain [78.32146765053318]
ソフトウェア工学データを用いて訓練されたBERT変換器モデルと一般領域データに基づく変換器との比較を行った。
ソフトウェアエンジニアリングのコンテキストを理解するために必要なタスクに対しては,ソフトウェアエンジニアリングデータの事前学習が重要であることを示す。
論文 参考訳（メタデータ） (2021-09-10T08:46:31Z) - Thinking Like Transformers [64.96770952820691]
本稿では,プログラミング言語の形式で変換器エンコーダの計算モデルを提案する。
RASPは、トランスフォーマーによって確実に学習できるタスクの解決策をプログラムするのにどのように使えるかを示す。
ヒストグラム、ソート、ダイク言語のためのRASPプログラムを提供する。
論文 参考訳（メタデータ） (2021-06-13T13:04:46Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳（メタデータ） (2021-01-11T15:54:48Z) - Scenic: A Language for Scenario Specification and Data Generation [17.07493567658614]
本稿では,サイバー物理システムの設計と解析のための新しい確率型プログラミング言語を提案する。
本稿では,どの時点でも環境が「舞台」である自律走行車やロボットなどのシステムに焦点をあてる。
我々は、シーン上の分布とエージェントの振る舞いを時間とともに記述するドメイン固有言語、Scenicを設計する。
論文 参考訳（メタデータ） (2020-10-13T17:58:31Z) - Mitigating Gender Bias in Machine Learning Data Sets [5.075506385456811]
ジェンダーバイアスは雇用広告や採用ツールの文脈で特定されている。
本稿では,機械学習のためのトレーニングデータにおける性別バイアスの同定のための枠組みを提案する。
論文 参考訳（メタデータ） (2020-05-14T12:06:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。