論文の概要: The Scaling Paradox in Human-AI Collaboration

• arxiv url: http://arxiv.org/abs/2608.00818v2
• Date: Sat, 08 Aug 2026 17:07:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.398486
• Title: The Scaling Paradox in Human-AI Collaboration
• Title（参考訳）: 人間-AIコラボレーションにおけるスケーリングパラドックス
• Abstract要約: 我々は,AIによる経験的スケーリングの利点が,人間とAIのジョイントシステムの性能向上にどのように変換されるかを調べるための分析モデルを構築した。 人間のAI能力の正確な認識が得られれば,AIがスケールアップするにつれて,人間のAIシステムの性能が肯定的にスケールできることが示される。 さらに、コスト内部化や認識アライメントといった運用方針を通じて、企業がこれらの歪みを積極的に管理できることを示します。
• 参考スコア（独自算出の注目度）: 2.1771821757134915
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The discovery of scaling laws has highlighted the extraordinary potential of AI systems with a striking empirical pattern: as AI systems scale, their capabilities tend to improve predictably. Yet, in real-world applications, AI rarely operates in isolation; instead, it often works alongside humans, raising the question of whether these gains persist in human-AI collaboration. In this work, we develop an analytical model to examine when the empirical scaling benefits of AI translate into improved human-AI joint system performance. We demonstrate that the performance of a human-AI system can scale positively as the AI scales up-provided that humans have an accurate perception of the AI's capabilities. Human misperception, however, can fundamentally alter this relationship: i) when humans over-perceive the AI's capabilities, a scaling paradox may arise, in which greater AI scale reduces overall system performance and amplifies firm-level profit losses, and (ii) when humans under-perceive the AI's capabilities, performance still improves with scale but at a substantially slower rate. We further show that firms can actively manage these distortions through operational policies such as cost internalization and perception alignment, whose effectiveness depends on the economics of AI deployment and the direction of human misperception. These findings suggest that organizations may benefit more from managing the human-AI interface than from simply investing in larger, more expensive AI systems. More broadly, our results suggest that AI scaling should be viewed not only as a technological challenge, but also as a behavioral and operational one, and caution against the view that larger AI systems will automatically lead to better operational outcomes. Whether AI scaling creates value ultimately depends on how increased AI capabilities shape human beliefs and collaborative efforts.
• Abstract（参考訳）: スケーリング法則の発見は、目覚ましい経験的なパターンで、AIシステムの異常な可能性を強調している。 しかし、現実世界のアプリケーションでは、AIが単独で運用されることはめったにない。 本研究では,AIによる経験的スケーリングの利点が人間とAIのジョイントシステムの性能向上にどのように変換されるかを調べるための解析モデルを開発する。 人間のAIシステムの性能は、AIがAIの能力に対する正確な認識を持つように、AIのスケールアップによって肯定的にスケールできることを実証する。 しかし、人間の誤解は、この関係を根本的に変えることができる。 一 人間がAIの能力を過大評価すると、より大きなAIスケールがシステム全体の性能を低下させ、しっかりとしたレベルの利益損失を増大させる、スケーリングパラドックスが発生する可能性がある。 (II)人間がAIの能力を過小評価すると、パフォーマンスは依然としてスケールで改善するが、かなり遅い速度で向上する。 さらに、コストの内在化や知覚アライメントといった運用方針を通じて、企業がこれらの歪みを積極的に管理できることを示し、その効果はAI展開の経済性や人間の誤解の方向に依存する。 これらの結果は、組織がより大きく高価なAIシステムに投資することよりも、人間とAIのインターフェースを管理することの恩恵を受ける可能性があることを示唆している。 より広範に、私たちの結果は、AIスケーリングは技術的課題だけでなく、行動的かつ運用的な課題と見なされるべきであり、より大きなAIシステムが自動的により良い運用結果をもたらすという見解に注意する必要があることを示唆しています。 AIのスケーリングが価値を生み出すかどうかは、最終的にAI能力の増大が人間の信念や協力的な努力をいかに形作るかにかかっている。

関連論文リスト

• The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
  高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。 一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。 この観点は、自動化の限界に重要な意味を持つ。
  論文  参考訳（メタデータ） (2026-07-23T17:33:43Z)
• Human-AI Productivity Paradoxes: Modeling the Interplay of Skill, Effort, and AI Assistance [1.9326159189892944]
  本稿では,AIが生産性に影響を及ぼすいくつかのメカニズムをよりよく理解し,分析するために,人間-AIインタラクションのモデルを提案する。 我々の設定では、スキルレベルの異なる人間エージェントは、AI支援によって特定のタスク結果を生成するために、有効性を最大化する努力を行う。 スキル開発に内在性を導入するか、AIの信頼性が低いかは、生産性のパラドックスを引き起こす可能性がある。
  論文  参考訳（メタデータ） (2026-05-12T00:12:27Z)
• Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration [13.041288521972563]
  人間とAIの意思決定において、人間の専門知識を補完するAIを設計することは、人間とAIのコラボレーションを強化する自然な戦略である。 一致したAIは、信頼を育みながら、最適な人間の行動を補強し、人間とAIチームのパフォーマンスを低下させるリスクを負う。 我々は、2つの専門的AIモデルの間で戦略的に切り替える、人間中心の適応型AIアンサンブルを新たに導入する。
  論文  参考訳（メタデータ） (2026-02-23T18:22:58Z)
• Neurodivergent Influenceability as a Contingent Solution to the AI Alignment Problem [1.3905735045377272]
  AIアライメント問題は、人工知能(AI)システムが人間の価値観に従って行動することを保証することに重点を置いている。 狭義のAIからAI(Artificial General Intelligence, AGI)やスーパーインテリジェンス(Superintelligence, 超知能)への進化に伴い、制御に対する恐怖と現実的なリスクがエスカレートした。 ここでは、避けられないAIのミスアライメントを受け入れることが、競合するエージェントの動的なエコシステムを育むための緊急戦略であるかどうかを検討する。
  論文  参考訳（メタデータ） (2025-05-05T11:33:18Z)
• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• When combinations of humans and AI are useful: A systematic review and meta-analysis [0.0]
  我々は300以上の効果サイズを報告した100以上の最近の研究のメタ分析を行った。 平均して、人間とAIの組み合わせは、人間とAI単独のベストよりもはるかに悪い結果が得られた。
  論文  参考訳（メタデータ） (2024-05-09T20:23:15Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。