Fugu-MT 論文翻訳(概要): Decolonial AI Alignment: Vi\'{s}esadharma, Argument, and Artistic Expression

論文の概要: Decolonial AI Alignment: Vi\'{s}esadharma, Argument, and Artistic Expression

arxiv url: http://arxiv.org/abs/2309.05030v1
Date: Sun, 10 Sep 2023 14:04:21 GMT
ステータス: 処理完了
システム内更新日: 2023-09-12 14:56:27.175342
Title: Decolonial AI Alignment: Vi\'{s}esadharma, Argument, and Artistic Expression
Title（参考訳）: デコロニアルaiアライメント:vi\'{s}esadharma, argument, and artistic expression
Authors: Kush R. Varshney
Abstract要約: それまでの作業は、人工知能(AI)の開発と展開の植民地性に関するものだった。 3つの提案を用いてAIアライメントを非植民地化することを提案する。
参考スコア（独自算出の注目度）: 22.21928139733195
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Prior work has explicated the coloniality of artificial intelligence (AI) development and deployment. One process that that work has not engaged with much is alignment: the tuning of large language model (LLM) behavior to be in line with desired values based on fine-grained human feedback. In addition to other practices, colonialism has a history of altering the beliefs and values of colonized peoples; this history is recapitulated in current LLM alignment practices. We suggest that AI alignment be decolonialized using three proposals: (a) changing the base moral philosophy from Western philosophy to dharma, (b) permitting traditions of argument and pluralism in alignment technologies, and (c) expanding the epistemology of values beyond instructions or commandments given in natural language.
Abstract（参考訳）: それまでの作業は、人工知能(AI)の開発と展開の植民地性に関するものだった。大きな言語モデル(llm)の動作を、きめ細かい人間のフィードバックに基づいて、望ましい値に合わせるように調整する。他の慣習に加えて、植民地主義は植民地化された人々の信念と価値観を変える歴史があり、この歴史は現在のLLMアライメントの慣行で再カプセル化されている。私たちは、aiアライメントを3つの提案を使ってデコロニゼーションすることを提案します。 (a)道徳哲学の基礎を西洋哲学からダルマに変更。 b)アライメント技術における議論や多元論の伝統を許し、 (c) 自然言語の指示又は命令を越えて価値の認識を拡大すること。

関連論文リスト

Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文参考訳（メタデータ） (2024-10-10T17:38:38Z)
Decolonial AI as Disenclosure [0.0]
機械学習とAIによる「AI植民地主義」は、概念的には「データ植民地主義」と重なる用語であり、不正の一形態である。政治的には、デジタル資本主義のヘゲモニーを強制するが、生態学的には環境に悪影響を及ぼし、天然資源の抽出とエネルギー消費を増大させる。
論文参考訳（メタデータ） (2024-05-23T09:45:37Z)
A Material Lens on Coloniality in NLP [57.63027898794855]
植民地化は「公式」植民地化を超えて植民地の被害を継続することである。我々は、植民地性は暗黙的にNLPデータ、アルゴリズム、ソフトウェアに埋め込まれ、増幅されていると主張している。
論文参考訳（メタデータ） (2023-11-14T18:52:09Z)
Towards a Feminist Metaethics of AI [0.0]
これらの不足は、AIのフェミニスト的メタ倫理に関する研究アジェンダを開発することで緩和できると私は主張する。この視点をAIの文脈に適用することにより、AIのフェミニスト的メタ倫理は、(i)AI倫理における理論と行動の間の連続性、(ii)AI倫理の現実的な影響、(iii)AI倫理に関わる人々の役割とプロファイル、(iv)文脈、感情、物語に注意を払う方法を通じて、AIが権力関係に与える影響を調べることを提案します。
論文参考訳（メタデータ） (2023-11-10T13:26:45Z)
AI Alignment: A Comprehensive Survey [70.35693485015659]
AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。 AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
論文参考訳（メタデータ） (2023-10-30T15:52:15Z)
Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文参考訳（メタデータ） (2022-06-08T12:32:08Z)
Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文参考訳（メタデータ） (2022-04-11T14:36:39Z)
Confucius, Cyberpunk and Mr. Science: Comparing AI ethics between China and the EU [41.19326726478421]
主要な関心事は、これらの原理に関する大きな均一性と仮定された合意主義である。我々は,中国国家新世代人工知能ガバナンス専門委員会が支持する倫理原則と,欧州高レベルAI専門家グループ(HLEGAI)が支持する倫理原則を分析・比較することを提案する。分析では、事前に類似しているように見える原則が、実際には異なる意味を持ち、異なるアプローチから派生し、異なる目標を反映している可能性があることを強調したい。
論文参考訳（メタデータ） (2021-11-15T06:38:33Z)
Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence [6.202104487394354]
本稿では,人工知能の進歩の理解と形成におけるクリティカルサイエンスの役割について考察する。デコロニアル理論は、我々の知的、政治的、経済的、社会的世界を形成する権力のパターンを説明するために、歴史的な後見を用いる。植民地化の事例である問題のあるアプリケーションを強調し、デコロニアルレンズを使用して、人工知能のデコロニアル分野を形成する3つの戦術を提出する。
論文参考訳（メタデータ） (2020-07-08T12:36:21Z)
Artificial Intelligence, Values and Alignment [2.28438857884398]
AIアライメント問題の規範的および技術的側面は相互に関連している。アライメントの目標を明確にすることが重要です。理論家にとっての中心的な課題は、AIの「真の」道徳原則を特定することではない。
論文参考訳（メタデータ） (2020-01-13T10:32:16Z)
Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
論文参考訳（メタデータ） (2019-12-29T17:42:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。