論文の概要: Evaluating and Improving Value Judgments in AI: A Scenario-Based Study
on Large Language Models' Depiction of Social Conventions
- arxiv url: http://arxiv.org/abs/2311.09230v1
- Date: Wed, 4 Oct 2023 08:42:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-15 16:10:50.618952
- Title: Evaluating and Improving Value Judgments in AI: A Scenario-Based Study
on Large Language Models' Depiction of Social Conventions
- Title（参考訳）: aiにおける価値判断の評価と改善:―大規模言語モデルによる社会的慣習の描写―
- Authors: Jaeyoun You, Bongwon Suh
- Abstract要約: 我々は,現代のAIサービスがユーザニーズにどのように対応しているかを評価し,さらに,大規模言語モデルによって反映された社会の描写を考察した。
本稿では,今後の機械的価値判断に応用可能な,価値調和シナリオにおける意思決定モデルを提案する。
本稿では,他の遠隔地を調査するためのツールとしてAIを利用する実践的アプローチを提唱する。
- 参考スコア（独自算出の注目度）: 5.457150493905063
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The adoption of generative AI technologies is swiftly expanding. Services
employing both linguistic and mul-timodal models are evolving, offering users
increasingly precise responses. Consequently, human reliance on these
technologies is expected to grow rapidly. With the premise that people will be
impacted by the output of AI, we explored approaches to help AI output produce
better results. Initially, we evaluated how contemporary AI services
competitively meet user needs, then examined society's depiction as mirrored by
Large Language Models (LLMs). We did a query experiment, querying about social
conventions in various countries and eliciting a one-word response. We compared
the LLMs' value judgments with public data and suggested an model of
decision-making in value-conflicting scenarios which could be adopted for
future machine value judgments. This paper advocates for a practical approach
to using AI as a tool for investigating other remote worlds. This re-search has
significance in implicitly rejecting the notion of AI making value judgments
and instead arguing a more critical perspective on the environment that defers
judgmental capabilities to individuals. We anticipate this study will empower
anyone, regardless of their capacity, to receive safe and accurate value
judgment-based out-puts effectively.
- Abstract（参考訳）: 生成AI技術の採用は急速に拡大している。
言語モデルとマルチモーダルモデルの両方を採用するサービスは進化しており、ユーザーはより正確なレスポンスを提供する。
そのため、これらの技術への人間の依存は急速に増大することが期待される。
AIのアウトプットに人々が影響を受けるという前提で、私たちはAIのアウトプットを改善するためのアプローチを検討しました。
当初,現代のAIサービスがユーザニーズにどのように適合しているかを評価し,Large Language Models (LLMs) による社会の描写を考察した。
クエリ実験を行い、さまざまな国で社会慣習について質問し、一言で回答を導き出しました。
llmsの価値判断を公開データと比較し,今後の機械価値判断に適用可能な価値紛争シナリオにおける意思決定モデルを提案した。
本稿では,他の遠隔地を調査するためのツールとしてAIを利用する実践的アプローチを提唱する。
この再調査は、AIが価値を判断するという考えを暗黙的に否定することの重要性を持ち、代わりに個人に対する判断能力に反する環境に対するより批判的な視点を論じる。
この研究は、その能力に関係なく、安全で正確な価値判断に基づくアウトプットを効果的に受け取ることができると期待している。
関連論文リスト
- To Err Is AI! Debugging as an Intervention to Facilitate Appropriate Reliance on AI Systems [11.690126756498223]
最適な人間とAIのコラボレーションのためのビジョンは、人間のAIシステムへの「適切な依存」を必要とする。
実際には、アウト・オブ・ディストリビューションデータにおける機械学習モデルの性能格差は、データセット固有のパフォーマンスフィードバックを信頼できないものにしている。
論文 参考訳（メタデータ） (2024-09-22T09:43:27Z) - Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。
第一に、計算要求がモデルの性能よりも早く増加し、不合理な経済要求と不均等な環境フットプリントにつながるため、持続可能ではない。
第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
論文 参考訳（メタデータ） (2024-09-21T14:43:54Z) - Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making [47.33241893184721]
AIによる意思決定において、人間はしばしばAIの提案を受動的にレビューし、それを受け入れるか拒否するかを決定する。
意思決定における人間-AIの意見の対立に関する議論と人間のリフレクションを促進する新しい枠組みであるHuman-AI Deliberationを提案する。
人間の熟考の理論に基づいて、この枠組みは人間とAIを次元レベルの意見の引用、熟考的議論、意思決定の更新に携わる。
論文 参考訳（メタデータ） (2024-03-25T14:34:06Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - On the meaning of uncertainty for ethical AI: philosophy and practice [10.591284030838146]
これは、数学的推論に倫理的考察をもたらす重要な方法であると主張する。
我々は、2021年12月のOmicron型COVID-19の拡散について、英国政府に助言するために使用される競合モデルの文脈内でこれらのアイデアを実証する。
論文 参考訳（メタデータ） (2023-09-11T15:13:36Z) - Training Towards Critical Use: Learning to Situate AI Predictions
Relative to Human Knowledge [22.21959942886099]
我々は、人間がAIモデルでは利用できない知識に対してAI予測をシチュレートする能力を集中させる「クリティカルユース」と呼ばれるプロセス指向の適切な依存の概念を紹介します。
我々は、児童虐待スクリーニングという複雑な社会的意思決定環境でランダム化オンライン実験を行う。
参加者にAIによる意思決定を実践する、迅速で低い機会を提供することによって、初心者は、経験豊富な労働者に類似したAIとの不一致のパターンを示すようになった。
論文 参考訳（メタデータ） (2023-08-30T01:54:31Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - LioNets: A Neural-Specific Local Interpretation Technique Exploiting
Penultimate Layer Information [6.570220157893279]
解釈可能な機械学習(IML)は研究の緊急のトピックである。
本稿では,テキストデータと時系列データに適用される局所的,神経特異的な解釈プロセスに焦点を当てる。
論文 参考訳（メタデータ） (2021-04-13T09:39:33Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。