論文の概要: CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse
- arxiv url: http://arxiv.org/abs/2607.01433v1
- Date: Wed, 01 Jul 2026 19:54:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.582488
- Title: CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse
- Title（参考訳）: CreativityNeuro: ダイバージェント思考を改善し、モードの崩壊を減らすための言語モデルウェイト
- Abstract要約: 大規模言語モデル(LLM)における発散思考を改善するデータフリー手法であるCreativeNeuroを紹介する。
ダイバージェントアソシエーションタスク(DAT)では、CreativeNeuroは最大14人のパーセンタイルポイントのパフォーマンスを改善している。
大規模な人間評価(N=720)では、CreativeNeuroは、創造性、驚き、創造性を大幅に改善し、より長くよりオープンなタスクに移行する。
- 参考スコア（独自算出の注目度）: 16.388226447545566
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Divergent thinking is a crucial aspect of creativity, yet large language models (LLMs) tend to consistently generate similar responses to open-ended questions, in what has been termed the artificial hivemind effect. Here, we introduce CreativityNeuro, a data-free method for enhancing divergent thinking in LLMs via contrastive weight steering. We evaluate our method across multiple creativity assessments and report several main findings. On the Divergent Association Task (DAT), a vocabulary-space creativity test, CreativityNeuro improves performance by up to 14 human percentile points. Next, in a large-scale human evaluation (N=720) on the Alternative Uses Test (AUT) and the Task Task, CreativityNeuro achieves significant improvements in originality, surprise, and creativity, transferring to longer-form and more open-ended tasks. Importantly, we find that across all three tasks, CreativityNeuro demonstrably reduces measures of mode collapse. Moreover, activation steering achieves comparable performance to CreativityNeuro on the DAT, but it does not transfer to the AUT and Task Task, demonstrating the effectiveness of weight-space steering in generalizing to unseen tasks. In conclusion, CreativityNeuro improves divergent thinking and reduces mode collapse without requiring behavioral data, re-training, or gradient-based fine-tuning, providing a straightforward way to enhance LLM performance in creative domains.
- Abstract（参考訳）: 多様性思考は創造性の重要な側面であるが、大きな言語モデル(LLM)は、人工的ハイブミンド効果と呼ばれるものにおいて、オープンエンドの質問に対する同様の反応を一貫して生成する傾向がある。
本稿では,LLMにおける異種思考を改善するデータフリー手法であるCreativeNeuroについて,コントラストウェイトステアリングを用いて紹介する。
複数のクリエイティビティ・アセスメントにまたがって本手法を評価し,いくつかの主な知見を報告する。
語彙空間の創造性テストであるDidergent Association Task (DAT)では、CreativeNeuroは最大14人のパーセンタイルポイントのパフォーマンスを改善している。
次に、代替利用テスト(AUT)とタスクタスクに関する大規模な人的評価(N=720)において、CreativeNeuroは、より長くよりオープンなタスクに移行し、独創性、サプライズ、クリエイティビティを大幅に向上させる。
重要なことに、CreativeNeuroは3つのタスクすべてで、明らかにモード崩壊の対策を減らしている。
さらに、アクティベーションステアリングは、DAT上のCreativeNeuroに匹敵するパフォーマンスを達成するが、AUTやタスクタスクに移行せず、重量空間ステアリングの有効性を実証し、目に見えないタスクに一般化する。
結論としてCreativeNeuroは、振る舞いデータ、再トレーニング、勾配ベースの微調整を必要とせずに、分散思考を改善し、モード崩壊を低減することで、クリエイティブドメインにおけるLCMのパフォーマンスを向上する簡単な方法を提供する。
関連論文リスト
- Automated Creativity Evaluation of Language Models Across Open-Ended Tasks [3.6948012022450776]
大規模言語モデル(LLM)は言語理解、推論、生成において顕著な進歩を遂げた。
オープンなタスク間でLCMの創造性を定量化する,ドメインに依存しない自動化フレームワークを導入する。
提案手法は,創造的なタスク自体から計測装置を分離し,スケーラブルでタスクに依存しない評価を可能にする。
論文 参考訳（メタデータ） (2026-06-10T07:37:06Z) - Assessing the Creativity of Large Language Models: Testing, Limits, and New Frontiers [39.942029670113115]
近年,大規模言語モデル(LLM)に対する人間の創造性テストの実施が一般的になっている。
これらのテストは、"創造性"を評価するための便利で完全に自動化された方法を提供するが、機械の創造性の尺度としての妥当性は確立されていない。
我々は,LLMの創造的達成を予測するために,人間の創造性テストの有効性を評価するための,最初の大規模かつ体系的な研究を行った。
論文 参考訳（メタデータ） (2026-05-13T12:46:05Z) - CreativityBench: Evaluating Agent Creative Reasoning via Affordance-Based Tool Repurposing [67.2958108309687]
CreativityBenchは、LCMにおける余剰ベースのクリエイティビティを評価するためのベンチマークである。
制約の下では、不確実だが物理的に妥当な解を識別する必要がある14Kの基底タスクを生成する。
クローズドおよびオープンソースモデルを含む10の最先端のLLMに対する評価は、モデルがしばしば可塑性オブジェクトを選択することができるが、正しい部分を特定することができないことを示している。
論文 参考訳（メタデータ） (2026-04-06T16:33:23Z) - Large Language Models Align with the Human Brain during Creative Thinking [19.08997828415446]
AUT(Alternate Uses Task)を行う170人の参加者のfMRIデータを用いた創造的思考における脳のアライメントの研究
脳-LLMアライメントはモデルサイズ(デフォルトモードネットワークのみ)とアイデアの独創性(両方のネットワーク)でスケールする。
さらに,ポストトレーニング対象が機能的に選択的に形状アライメントされることを示す。
論文 参考訳（メタデータ） (2026-04-03T22:02:15Z) - CreativeBench: Benchmarking and Enhancing Machine Creativity via Self-Evolving Challenges [69.3795501613098]
コード生成における機械の創造性を評価するベンチマークであるCreativeBenchを紹介します。
CreativeBenchは、創造性と幻覚を、品質とノベルティの産物として定義された統一された計量によって客観的に区別する。
進化的探索パターンを内部化し,機械の創造性を継続的に向上する,プラグアンドプレイ型推論時ステアリング戦略であるEvoRePEを提案する。
論文 参考訳（メタデータ） (2026-03-12T12:36:56Z) - Beyond Divergent Creativity: A Human-Based Evaluation of Creativity in Large Language Models [6.036586911740041]
大規模言語モデル(LLM)は、言語的創造的なタスクにますます使われています。
広く使われているダイバージェント・アソシエーション・タスク(DAT)は、新規性を重視し、適切性を無視している。
DAT上での最先端のLCMの範囲を評価し、そのタスクにおけるスコアが、創造力を持たない2つのベースラインのスコアよりも低いことを示す。
論文 参考訳（メタデータ） (2026-01-28T12:41:32Z) - CreativityPrism: A Holistic Benchmark for Large Language Model Creativity [64.18257552903151]
創造性はしばしば人間の知能の目印と見なされる。
さまざまなシナリオにまたがってクリエイティビティを評価するための総合的なフレームワークはまだ存在しません。
本稿では,創造性を質,新規性,多様性の3次元に分解する評価分析フレームワークであるCreativePrismを提案する。
論文 参考訳（メタデータ） (2025-10-23T00:22:10Z) - Jointly Reinforcing Diversity and Quality in Language Model Generations [64.72289248044514]
大規模言語モデル(LM)のポストトレーニングは、しばしば多様性を犠牲にして正確さと役に立つことを優先する。
DARling(Diversity-Aware Reinforcement Learning)は、応答品質とセマンティック多様性を協調的に最適化するフレームワークである。
論文 参考訳（メタデータ） (2025-09-02T17:38:47Z) - Exploring and Exploiting the Inherent Efficiency within Large Reasoning Models for Self-Guided Efficiency Enhancement [101.77467538102924]
大きな推論モデル(LRM)は、効率を阻害し、推論コストを膨らませる過剰な考えを示す。
LRM効率を向上させるための2つの軽量手法を提案する。
まず,学習不要なアクティベーションステアリング技術であるEfficic Steeringを導入する。
第2に,タスクの正確さと簡潔さを動的にバランスする強化学習フレームワークである自己回帰効率RLを開発する。
論文 参考訳（メタデータ） (2025-06-18T17:18:12Z) - Creative Preference Optimization [17.849454438382995]
複数の創造性次元からの信号をモジュール方式で優先最適化対象に注入する新しいアライメント手法を提案する。
大規模な人選好データセットであるCrPOと MuCE を用いて,創造性向上型モデルをトレーニングし,評価する。
我々のモデルは、自動評価と人的評価の両方において、GPT-4oを含む強力なベースラインを上回ります。
論文 参考訳（メタデータ） (2025-05-20T14:43:41Z) - LLM-DA: Data Augmentation via Large Language Models for Few-Shot Named
Entity Recognition [67.96794382040547]
$LLM-DA$は、数発のNERタスクのために、大きな言語モデル(LLM)に基づいた、新しいデータ拡張テクニックである。
提案手法では,14のコンテキスト書き換え戦略を採用し,同一タイプのエンティティ置換を設計し,ロバスト性を高めるためにノイズ注入を導入する。
論文 参考訳（メタデータ） (2024-02-22T14:19:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。