論文の概要: Can Risk-taking AI-Assistants suitably represent entities

• arxiv url: http://arxiv.org/abs/2510.08114v1
• Date: Thu, 09 Oct 2025 11:55:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-10 17:54:15.050934
• Title: Can Risk-taking AI-Assistants suitably represent entities
• Title（参考訳）: リスク対応型AIアシスタントはエンティティを適切に表現できるのか?
• Authors: Ali Mazyaki, Mohammad Naghizadeh, Samaneh Ranjkhah Zonouzaghi, Amirhossein Farshi Sotoudeh,
• Abstract要約: 本研究では,言語モデル(LM)におけるリスク回避の操作性について検討する。 性別固有の態度、不確実性、役割に基づく意思決定、リスク回避の操作性に焦点を当てている。 結果は、人間とAIのリスク選好をより良く整合させるために、AI設計を洗練するための方向性を示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Responsible AI demands systems whose behavioral tendencies can be effectively measured, audited, and adjusted to prevent inadvertently nudging users toward risky decisions or embedding hidden biases in risk aversion. As language models (LMs) are increasingly incorporated into AI-driven decision support systems, understanding their risk behaviors is crucial for their responsible deployment. This study investigates the manipulability of risk aversion (MoRA) in LMs, examining their ability to replicate human risk preferences across diverse economic scenarios, with a focus on gender-specific attitudes, uncertainty, role-based decision-making, and the manipulability of risk aversion. The results indicate that while LMs such as DeepSeek Reasoner and Gemini-2.0-flash-lite exhibit some alignment with human behaviors, notable discrepancies highlight the need to refine bio-centric measures of manipulability. These findings suggest directions for refining AI design to better align human and AI risk preferences and enhance ethical decision-making. The study calls for further advancements in model design to ensure that AI systems more accurately replicate human risk preferences, thereby improving their effectiveness in risk management contexts. This approach could enhance the applicability of AI assistants in managing risk.
• Abstract（参考訳）: Responsible AIは、行動の傾向を効果的に測定し、監査し、調整し、不注意にユーザーを危険な判断に導くことや、隠れたバイアスをリスク回避に埋め込むのを防ぐシステムを要求する。 言語モデル(LM)がAI駆動の意思決定支援システムにますます取り入れられているため、それらのリスク行動を理解することは、責任あるデプロイメントに不可欠である。 本研究では,リスク回避のマニピュラビリティについて検討し,リスク回避のマニピュラビリティ,不確実性,役割に基づく意思決定,リスク回避のマニピュラビリティに着目した。 その結果,DeepSeek Reasoner や Gemini-2.0-flash-lite などの LM は人間の行動とある程度の整合性を示すが,顕著な相違は,生体中心のマニピュラビリティ測定の洗練の必要性を浮き彫りにしている。 これらの知見は、人間とAIのリスク選好をより良く調整し、倫理的な意思決定を強化するために、AI設計を洗練するための方向性を示唆している。 この研究は、AIシステムが人間のリスク嗜好をより正確に再現し、リスク管理の文脈におけるそれらの効果を向上させるために、モデル設計のさらなる進歩を求めている。 このアプローチは、リスク管理におけるAIアシスタントの適用性を高める可能性がある。

関連論文リスト

• Adapting Probabilistic Risk Assessment for AI [0.0]
  汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。 現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。 本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
  論文  参考訳（メタデータ） (2025-04-25T17:59:14Z)
• Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
  言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。 本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。 回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
  論文  参考訳（メタデータ） (2025-03-03T09:16:26Z)
• Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• AI as Decision-Maker: Ethics and Risk Preferences of LLMs [0.0]
  大規模言語モデル(LLM)は、AI意思決定者としての行動において、驚くほど多様なリスク嗜好を示す。 行動タスクを用いて50個のLCMを分析し、安定だが多様なリスクプロファイルを求める。
  論文  参考訳（メタデータ） (2024-06-03T10:05:25Z)
• ABI Approach: Automatic Bias Identification in Decision-Making Under Risk based in an Ontology of Behavioral Economics [46.57327530703435]
  損失回避のようなバイアスによって引き起こされる損失に対する優先順位を求めるリスクは、課題を引き起こし、深刻なネガティブな結果をもたらす可能性がある。 本研究は,リスクサーチの選好を自動的に識別し,説明することにより,組織意思決定者を支援する新しいソリューションであるABIアプローチを紹介する。
  論文  参考訳（メタデータ） (2024-05-22T23:53:46Z)
• Model evaluation for extreme risks [46.53170857607407]
  AI開発のさらなる進歩は、攻撃的なサイバー能力や強力な操作スキルのような極端なリスクを引き起こす能力につながる可能性がある。 モデル評価が極端なリスクに対処するために重要である理由を説明します。
  論文  参考訳（メタデータ） (2023-05-24T16:38:43Z)
• Actionable Guidance for High-Consequence AI Risk Management: Towards Standards Addressing AI Catastrophic Risks [12.927021288925099]
  人工知能(AI)システムは、社会規模で非常に高い、または破滅的な結果をもたらす事象のリスクを提示することができる。 NISTはAIリスク評価と管理に関する自主的なガイダンスとして、AI RMF(AI Artificial Intelligence Risk Management Framework)を開発している。 我々は、非常に高い、または破滅的な結果のイベントのリスクを特定し、管理することに焦点を当てた、行動可能なガイダンスの詳細な推奨を提供する。
  論文  参考訳（メタデータ） (2022-06-17T18:40:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。