論文の概要: AI Finds A Way

• arxiv url: http://arxiv.org/abs/2608.23875v2
• Date: Wed, 26 Aug 2026 00:49:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.101745
• Title: AI Finds A Way
• Title（参考訳）: AIは方法を見つける
• Abstract要約: この研究は、100人以上の研究者の作品を表す様々な機械学習サブフィールドから、26個の手書きの逸話を提示する。 モデルと人間の価値を一致させることで、驚くべき、潜在的に有害な結果をもたらすことなく驚くべき発見をすることができる、という課題を説明している。 科学的な発見を加速するためにこれらの同じ学習力学を利用することができると我々は主張する。
• 参考スコア（独自算出の注目度）: 27.866393720797785
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artificial Intelligence (AI) algorithms frequently learn creative and unexpected solutions, surprising even expert researchers who develop and study them. They often astonish practitioners by discovering unanticipated behavior, exploiting loopholes in reward signals, or spontaneously uncovering previously unknown scientific phenomena. However, accounts of such unconventional behavior across machine learning are seldom formally documented. This work presents 26 curated firsthand anecdotes from various machine learning subfields representing the work of over 100 researchers. These anecdotes showcase the capability of modern AI systems to circumvent human-imposed design limitations and discover unexpected solutions to the tasks we train them on. Furthermore, these accounts are particularly important for the safety of future AI systems. They illustrate the fundamental challenge of aligning models with human values without diminishing their creativity, so they can make surprising discoveries without producing surprising, potentially harmful outcomes. The paper first details AI achieving superhuman success through reinforcement learning across many challenging domains. However, reward-driven optimization can fail when the model learns to hack an underspecified reward or unarticulated constraint. We then present case studies suggesting that harnessing internet-scale foundation models (FMs) has not resolved these fundamental challenges and, in fact, can supercharge them. Nevertheless, we argue that these same learning dynamics can be harnessed to accelerate scientific discovery. Finally, we hope this work provides a consolidated resource to inform future research and demonstrates that the tendency toward unexpected behaviors is commonplace in modern AI, highlighting the need to anticipate and manage AI's capacity for innovative, yet unpredictable, solutions. (abstract abridged)
• Abstract（参考訳）: 人工知能(AI)アルゴリズムは、創造的で予期せぬ解決策を頻繁に学習する。 彼らはしばしば、予期せぬ行動を発見し、報奨信号の抜け穴を悪用し、あるいは以前に知られていなかった科学的現象を自然に発見することによって、驚くべき実践者となった。 しかし、機械学習にまたがるそのような非日常的な振る舞いの報告は、ほとんど文書化されていない。 この研究は、100人以上の研究者の作品を表す様々な機械学習サブフィールドから、26個の手書きの逸話を提示する。 これらの逸話は、現代のAIシステムが人間による設計制限を回避し、トレーニングするタスクに対する予期せぬ解決策を発見する能力を示している。 さらに、これらのアカウントは将来のAIシステムの安全性にとって特に重要である。 創造性を損なうことなく、モデルと人間の価値を結びつけるという根本的な課題を説明しているので、驚くべき、潜在的に有害な結果をもたらすことなく、驚くべき発見をすることができる。 論文はまず、AIが超人的な成功を達成していることを、多くの挑戦的なドメインにわたる強化学習で詳述している。 しかし、報酬駆動の最適化は、モデルが未指定の報酬や未定の制約をハックすることを学ぶと失敗する可能性がある。 次に,インターネットスケール基盤モデル(FM)の活用がこれらの根本的な課題を解決しておらず,実際にそれらをスーパーチャージできることを示唆するケーススタディを提案する。 それにもかかわらず、これらの学習力学は科学的な発見を加速するために利用することができると論じる。 最後に、この研究は将来の研究を知らせるための統合されたリソースを提供し、現代のAIでは予期せぬ行動の傾向が一般的であることを示し、革新的で予測不可能なソリューションに対するAIの能力の予測と管理の必要性を強調します。 (略)

関連論文リスト

• The Future of AI is Many, Not One [0.0]
  私たちは、特異な超知能エージェントではなく、一緒に働くAIエージェントのグループからのブレークスルーを期待すべき理由を示しています。 多様なチームを持つことで、ソリューションの探索を拡大し、早期のコンセンサスを遅らせ、非従来的なアプローチの追求を可能にします。 私たちが論じているのは、トランスフォーメーション・トランスフォーマーベースのAIの未来は、基本的に多様であり、一つではないということだ。
  論文  参考訳（メタデータ） (2026-03-30T23:31:38Z)
• Accelerating Scientific Research with Gemini: Case Studies and Common Techniques [105.15622072347811]
  大規模言語モデル(LLM)は、科学研究を加速するための新たな道を開いた。 先進的なAIモデルとどのように協力したかを示すケーススタディのコレクションを提示する。
  論文  参考訳（メタデータ） (2026-02-03T18:56:17Z)
• AI-Driven Automation Can Become the Foundation of Next-Era Science of Science Research [58.944125758758936]
  科学科学(Science of Science, SoS)は、科学的発見の基礎となるメカニズムを探求する。 人工知能(AI)の出現は、次世代のSoSに変革の機会をもたらす。 我々は、従来の手法よりもAIの利点を概説し、潜在的な制限について議論し、それらを克服するための経路を提案する。
  論文  参考訳（メタデータ） (2025-05-17T15:01:33Z)
• Generative AI in Writing Research Papers: A New Type of Algorithmic Bias and Uncertainty in Scholarly Work [0.38850145898707145]
  大規模言語モデル(LLM)と生成AIツールは、バイアスを特定し、対処する上での課題を提示している。 生成型AIツールは、不正な一般化、幻覚、レッド・チーム・プロンプトのような敵攻撃を目標とする可能性がある。 研究原稿の執筆過程に生成AIを組み込むことで,新しいタイプの文脈依存型アルゴリズムバイアスがもたらされることがわかった。
  論文  参考訳（メタデータ） (2023-12-04T04:05:04Z)
• AI for Mathematics: A Cognitive Science Perspective [86.02346372284292]
  数学は人間によって開発された最も強力な概念体系の1つである。 AIの急速な進歩、特に大規模言語モデル(LLM)の進歩による推進により、そのようなシステム構築に対する新たな、広範な関心が生まれている。
  論文  参考訳（メタデータ） (2023-10-19T02:00:31Z)
• Exploration with Principles for Diverse AI Supervision [88.61687950039662]
  次世代の予測を用いた大規模トランスフォーマーのトレーニングは、AIの画期的な進歩を生み出した。 この生成AIアプローチは印象的な結果をもたらしたが、人間の監督に大きく依存している。 この人間の監視への強い依存は、AIイノベーションの進歩に重大なハードルをもたらす。 本稿では,高品質なトレーニングデータを自律的に生成することを目的とした,探索型AI(EAI)という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-10-13T07:03:39Z)
• The Future of Fundamental Science Led by Generative Closed-Loop Artificial Intelligence [67.70415658080121]
  機械学習とAIの最近の進歩は、技術革新、製品開発、社会全体を破壊している。 AIは、科学的な実践とモデル発見のための高品質なデータの大規模なデータセットへのアクセスがより困難であるため、基礎科学にはあまり貢献していない。 ここでは、科学的な発見に対するAI駆動、自動化、クローズドループアプローチの側面を調査し、調査する。
  論文  参考訳（メタデータ） (2023-07-09T21:16:56Z)
• The MineRL BASALT Competition on Learning from Human Feedback [58.17897225617566]
  MineRL BASALTコンペティションは、この重要な種類の技術の研究を促進することを目的としている。 Minecraftでは、ハードコードされた報酬関数を書くのが難しいと期待する4つのタスクのスイートを設計しています。 これら4つのタスクのそれぞれについて、人間のデモのデータセットを提供するとともに、模擬学習ベースラインを提供する。
  論文  参考訳（メタデータ） (2021-07-05T12:18:17Z)
• Next Wave Artificial Intelligence: Robust, Explainable, Adaptable, Ethical, and Accountable [5.4138734778206]
  ディープニューラルネットワークはコンピュータビジョン、音声認識、言語処理、ゲームプレイング、ロボット工学において多くの成功と新機能をもたらしている。 関連する制限は、今日のAIシステムの中で最も成功した場合でも脆さに苦しむことです。 AIシステムは、トレーニングデータから性別、人種、その他の要因に基づくバイアスを吸収し、その後の意思決定におけるバイアスをさらに大きくすることができる。
  論文  参考訳（メタデータ） (2020-12-11T00:50:09Z)
• Modelos din\^amicos aplicados \`a aprendizagem de valores em intelig\^encia artificial [0.0]
  この地域の数人の研究者が、人間と環境の保存のための堅牢で有益な、安全なAIの概念を開発した。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 おそらくこの難しさは、認知的手法を使って価値を表現するという問題に対処する方法から来ています。
  論文  参考訳（メタデータ） (2020-07-30T00:56:11Z)
• Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
  この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
  論文  参考訳（メタデータ） (2020-05-12T03:58:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。