論文の概要: Decolonial AI Alignment: Openness, Vi\'{s}e\d{s}a-Dharma, and Including
Excluded Knowledges
- arxiv url: http://arxiv.org/abs/2309.05030v2
- Date: Mon, 22 Jan 2024 18:22:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-23 20:50:37.614789
- Title: Decolonial AI Alignment: Openness, Vi\'{s}e\d{s}a-Dharma, and Including
Excluded Knowledges
- Title（参考訳）: Decolonial AIアライメント:オープンネス、Vi\'{s}e\d{s}a-ダルマ、排他的知識を含む
- Authors: Kush R. Varshney
- Abstract要約: 植民地主義は、植民地化された人々の信念と価値観を変える歴史を持っていると私は主張する。
AIアライメントは3種類のオープンネスを使って非植民地化することを提案します。
1つの概念は「Vi'sedsa-dharma」または「正しいことと間違ったこと」という文脈固有の概念である。
- 参考スコア（独自算出の注目度）: 22.21928139733195
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Prior work has explicated the coloniality of artificial intelligence (AI)
development and deployment through mechanisms such as extractivism, automation,
sociological essentialism, surveillance, and containment. However, that work
has not engaged much with alignment: teaching behaviors to a large language
model (LLM) in line with desired values, and has not considered a mechanism
that arises within that process: moral absolutism -- a part of the coloniality
of knowledge. Colonialism has a history of altering the beliefs and values of
colonized peoples; in this paper, I argue that this history is recapitulated in
current LLM alignment practices and technologies. Furthermore, I suggest that
AI alignment be decolonialized using three forms of openness: openness of
models, openness to society, and openness to excluded knowledges. This
suggested approach to decolonial AI alignment uses ideas from the argumentative
moral philosophical tradition of Hinduism, which has been described as an
open-source religion. One concept used is vi\'{s}e\d{s}a-dharma, or particular
context-specific notions of right and wrong. At the end of the paper, I provide
a suggested reference architecture to work toward the proposed framework.
- Abstract（参考訳）: 先行研究は、抽出主義、自動化、社会学的本質主義、監視、封じ込めといったメカニズムを通じて、人工知能(ai)の開発と展開の植民地性を明らかにしてきた。
しかし、その仕事は、大言語モデル(LLM)に望ましい価値観に従って行動を教えること、そしてそのプロセスの中で生じるメカニズムとは考えていない:道徳的絶対主義は、知識の植民地性の一部である。
植民地主義は、植民地化された人々の信念や価値観を変える歴史があり、本稿では、この歴史は現在のLLMアライメントの実践と技術で再カプセル化されていると論じる。
さらに,モデルのオープン性,社会へのオープン性,知識を除外するオープン性という3つのオープン性を用いて,aiアライメントを非植民地化することを提案する。
このDecolonial AIアライメントへのアプローチは、ヒンドゥー教の議論的な倫理的哲学的伝統のアイデアを用いており、これはオープンソース宗教として説明されている。
一つの概念は、vi\'{s}e\d{s}a-dharma、または特定の文脈固有の善悪の概念である。
論文の最後に、提案されたフレームワークに向けて作業するための推奨参照アーキテクチャを提案します。
関連論文リスト
- A Material Lens on Coloniality in NLP [57.63027898794855]
植民地化は「公式」植民地化を超えて植民地の被害を継続することである。
我々は、植民地性は暗黙的にNLPデータ、アルゴリズム、ソフトウェアに埋め込まれ、増幅されていると主張している。
論文 参考訳（メタデータ） (2023-11-14T18:52:09Z) - Towards a Feminist Metaethics of AI [0.0]
これらの不足は、AIのフェミニスト的メタ倫理に関する研究アジェンダを開発することで緩和できると私は主張する。
この視点をAIの文脈に適用することにより、AIのフェミニスト的メタ倫理は、(i)AI倫理における理論と行動の間の連続性、(ii)AI倫理の現実的な影響、(iii)AI倫理に関わる人々の役割とプロファイル、(iv)文脈、感情、物語に注意を払う方法を通じて、AIが権力関係に与える影響を調べることを提案します。
論文 参考訳（メタデータ） (2023-11-10T13:26:45Z) - AI Alignment: A Comprehensive Survey [71.14382422032104]
AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。
AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。
我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
論文 参考訳（メタデータ） (2023-10-30T15:52:15Z) - Beyond Bias and Compliance: Towards Individual Agency and Plurality of
Ethics in AI [0.0]
データをラベル付けする方法は、AIの振る舞いに不可欠な役割を担っている、と私たちは主張する。
本稿では,複数の値と個々人の表現の自由を許容する代替経路を提案する。
論文 参考訳（メタデータ） (2023-02-23T16:33:40Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳（メタデータ） (2022-06-08T12:32:08Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - Confucius, Cyberpunk and Mr. Science: Comparing AI ethics between China
and the EU [41.19326726478421]
主要な関心事は、これらの原理に関する大きな均一性と仮定された合意主義である。
我々は,中国国家新世代人工知能ガバナンス専門委員会が支持する倫理原則と,欧州高レベルAI専門家グループ(HLEGAI)が支持する倫理原則を分析・比較することを提案する。
分析では、事前に類似しているように見える原則が、実際には異なる意味を持ち、異なるアプローチから派生し、異なる目標を反映している可能性があることを強調したい。
論文 参考訳（メタデータ） (2021-11-15T06:38:33Z) - Aligning AI With Shared Human Values [85.2824609130584]
私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。
現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。
私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
論文 参考訳（メタデータ） (2020-08-05T17:59:16Z) - Decolonial AI: Decolonial Theory as Sociotechnical Foresight in
Artificial Intelligence [6.202104487394354]
本稿では,人工知能の進歩の理解と形成におけるクリティカルサイエンスの役割について考察する。
デコロニアル理論は、我々の知的、政治的、経済的、社会的世界を形成する権力のパターンを説明するために、歴史的な後見を用いる。
植民地化の事例である問題のあるアプリケーションを強調し、デコロニアルレンズを使用して、人工知能のデコロニアル分野を形成する3つの戦術を提出する。
論文 参考訳（メタデータ） (2020-07-08T12:36:21Z) - Artificial Intelligence, Values and Alignment [2.28438857884398]
AIアライメント問題の規範的および技術的側面は相互に関連している。
アライメントの目標を明確にすることが重要です。
理論家にとっての中心的な課題は、AIの「真の」道徳原則を特定することではない。
論文 参考訳（メタデータ） (2020-01-13T10:32:16Z) - Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。
近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
論文 参考訳（メタデータ） (2019-12-29T17:42:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。