論文の概要: Inducing Sustained Creativity and Diversity in Large Language Models
- arxiv url: http://arxiv.org/abs/2603.19519v1
- Date: Thu, 19 Mar 2026 23:13:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:38.915401
- Title: Inducing Sustained Creativity and Diversity in Large Language Models
- Title(参考訳): 大規模言語モデルにおける持続的創造性と多様性の誘導
- Authors: Queenie Luo, Gary King, Michael Puett, Michael D. Smith,
- Abstract要約: 我々は,大規模言語モデルにおける持続的な創造性と多様性を誘導する,新規で実装が容易な復号法を開発した。
このアルゴリズムは、オルソドックスとヘテロドックスの両方において、LLMの膨大な知識を解き放つ。
- 参考スコア(独自算出の注目度): 0.13999481573773068
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We address a not-widely-recognized subset of exploratory search, where a user sets out on a typically long "search quest" for the perfect wedding dress, overlooked research topic, killer company idea, etc. The first few outputs of current large language models (LLMs) may be helpful but only as a start, since the quest requires learning the search space and evaluating many diverse and creative alternatives along the way. Although LLMs encode an impressive fraction of the world's knowledge, common decoding methods are narrowly optimized for prompts with correct answers and thus return mostly homogeneous and conventional results. Other approaches, including those designed to increase diversity across a small set of answers, start to repeat themselves long before search quest users learn enough to make final choices, or offer a uniform type of "creativity" to every user asking similar questions. We develop a novel, easy-to-implement decoding scheme that induces sustained creativity and diversity in LLMs, producing as many conceptually unique results as desired, even without access to the inner workings of an LLM's vector space. The algorithm unlocks an LLM's vast knowledge, both orthodox and heterodox, well beyond modal decoding paths. With this approach, search quest users can more quickly explore the search space and find satisfying answers.
- Abstract(参考訳): 探索的検索の非広く認識されているサブセットに対処し、ユーザーは典型的に、完璧なウェディングドレス、見過ごされた研究トピック、キラー企業アイデアなどの「検索クエスト」を行う。
現在の大規模言語モデル(LLM)の最初の少数のアウトプットは役に立つかもしれないが、検索空間を学習し、その過程で多くの多様で創造的な選択肢を評価する必要があるため、出発点としてのみ有効である。
LLMは世界の知識のかなりの部分を符号化しているが、一般的な復号法は正しい解答のプロンプトに対して狭く最適化されているため、概ね均質で従来の結果を返す。
検索クエストのユーザが最終選択を下すのに十分な知識を得る前に、また、類似の質問をすべてのユーザに均一なタイプの「創造性」を提供する前に、小さな回答の集合に多様性を増すように設計されたアプローチも含む。
本研究では,LLMのベクトル空間の内部構造へのアクセスを必要とせずに,LLMの創造性と多様性を持続的に引き起こし,概念的に独特な結果をできるだけ多く生み出す,斬新で実装が容易な復号法を開発する。
このアルゴリズムは、オルソドックスとヘテロドックスの両方において、LLMの膨大な知識を解き放つ。
このアプローチにより、検索クエストユーザはより迅速に検索スペースを探索し、満足のいく回答を見つけることができる。
関連論文リスト
- LEAPS: An LLM-Empowered Adaptive Plugin for Taobao AI Search [17.074638179635613]
我々は,従来の検索システムを"Broaden-and-Empower"パラダイムでシームレスにアップグレードするLEAPS(LLM-Empowered Adaptive for Taobao AI Search)を提案する。
新たな3段階のトレーニング戦略 – 逆データ拡張,後知識による微調整,多様性を考慮した強化学習 – を採用して,適応的および補完的なクエリの組み合わせを生成する。
2025年8月以降、Taobao AI Searchに完全にデプロイされている。
論文 参考訳(メタデータ) (2026-01-09T03:41:27Z) - DeepMMSearch-R1: Empowering Multimodal LLMs in Multimodal Web Search [61.77858432092777]
DeepMMSearch-R1は,オンデマンドでマルチターンWeb検索が可能な,最初のマルチモーダルな大規模言語モデルである。
DeepMMSearch-R1は、画像検索をより効果的にするために、入力画像の関連する作物に基づいてWeb検索を開始することができる。
我々は、アプローチの優位性を実証するために、知識集約型ベンチマークを幅広く実施する。
論文 参考訳(メタデータ) (2025-10-14T17:59:58Z) - Iterative Self-Incentivization Empowers Large Language Models as Agentic Searchers [74.17516978246152]
大規模言語モデル(LLM)は、従来の手法を進化させるために情報検索に広く統合されている。
エージェント検索フレームワークであるEXSEARCHを提案する。
4つの知識集約ベンチマークの実験では、EXSEARCHはベースラインを大幅に上回っている。
論文 参考訳(メタデータ) (2025-05-26T15:27:55Z) - Leveraging LLMs to Enable Natural Language Search on Go-to-market Platforms [0.23301643766310368]
販売者向けのZoominfo製品向けのソリューションの実装と評価を行い、自然言語による大規模言語モデルの実現を促す。
中間検索フィールドは、構文エラーの除去など、クエリ毎に多くの利点を提供する。
提案手法の有効性を実証するために, クローズド, オープンソース, 微調整 LLM モデルを用いた総合実験を行った。
論文 参考訳(メタデータ) (2024-11-07T03:58:38Z) - MM-Embed: Universal Multimodal Retrieval with Multimodal LLMs [78.5013630951288]
本稿では,マルチモーダル大言語モデル(MLLM)を用いた情報検索手法を提案する。
まず,16個の検索タスクを持つ10個のデータセットに対して,MLLMをバイエンコーダレトリバーとして微調整する。
我々のモデルMM-Embedはマルチモーダル検索ベンチマークM-BEIR上で最先端の性能を実現する。
論文 参考訳(メタデータ) (2024-11-04T20:06:34Z) - Large Search Model: Redefining Search Stack in the Era of LLMs [63.503320030117145]
我々は,1つの大言語モデル(LLM)で検索タスクを統一することにより,従来の検索スタックを再定義する,大規模検索モデルと呼ばれる新しい概念的フレームワークを導入する。
全てのタスクは自動回帰テキスト生成問題として定式化され、自然言語のプロンプトを使ってタスクをカスタマイズできる。
提案フレームワークは,LLMの強力な言語理解と推論能力を活用し,既存の検索スタックを簡素化しつつ,検索結果の質を向上させる能力を提供する。
論文 参考訳(メタデータ) (2023-10-23T05:52:09Z) - Algorithm of Thoughts: Enhancing Exploration of Ideas in Large Language Models [17.059322033670124]
本稿では,アルゴリズム的推論経路を通じて大規模言語モデルを促進する新しい手法を提案する。
この結果から,LLMをアルゴリズムを用いて指導すると,アルゴリズム自体よりも性能が向上する可能性が示唆された。
論文 参考訳(メタデータ) (2023-08-20T22:36:23Z) - Synergistic Interplay between Search and Large Language Models for
Information Retrieval [141.18083677333848]
InteRにより、RMはLLM生成した知識コレクションを使用してクエリの知識を拡張することができる。
InteRは、最先端手法と比較して総合的に優れたゼロショット検索性能を実現する。
論文 参考訳(メタデータ) (2023-05-12T11:58:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。