論文の概要: On the Diversity of Analogy Making in Large Language Models
- arxiv url: http://arxiv.org/abs/2608.03233v1
- Date: Tue, 04 Aug 2026 07:04:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.075936
- Title: On the Diversity of Analogy Making in Large Language Models
- Title(参考訳): 大規模言語モデルにおけるアナロジーの多様性について
- Authors: Yuanhao Shen, Daniel Xavier de Sousa, Caio César Sifuentes Barcelos, Hongyu Guo, Xiaodan Zhu,
- Abstract要約: 我々は,10の最先端オープンソースおよびクローズドソースLarge Language Models (LLMs)における類推多様性の包括的評価について述べる。
本研究は,LLMが対象ドメインの狭い集合から類似物を生成する傾向にある領域均一性の問題を明らかにするものである。
本分析により,既存のLCMの多様性向上手法の基本的なトレードオフが明らかとなった。
- 参考スコア(独自算出の注目度): 20.439751095168614
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have demonstrated remarkable potential for analogy making, a core cognitive capability that drives novelty and creativity. While prior research has extensively investigated the applications and underlying mechanisms of LLM-based analogy making, its output diversity remains largely unexplored, despite being essential for broadening cross-domain connections and fostering scientific innovation. In this work, we present a comprehensive evaluation of analogy diversity across ten state-of-the-art open- and closed-source LLMs. Our findings highlight a concerning issue of domain homogeneity, a prevalent tendency for LLMs to generate analogies from a narrow set of target domains, limiting both inter-query and intra-model diversity. Furthermore, our analysis reveals a fundamental trade-off in existing LLM diversity-enhancement methods: increasing output diversity often comes at the expense of output quality. Finally, our causal analysis of LLM information flow reveals substantial differences in the model-sensitive regions governing analogy diversity across LLMs, suggesting a potential mechanism for the observed diversity-quality trade-off. To our knowledge, this is among the first studies to systematically investigate output diversity in LLM-based analogy making.
- Abstract(参考訳): 大規模言語モデル(LLM)は、斬新さと創造性を促進する中核的な認知能力である類推の可能性を顕著に示している。
以前の研究では、LLMをベースとしたアナロジー製造の応用と基盤メカニズムを幅広く研究してきたが、その出力の多様性は、クロスドメイン接続の拡大と科学的革新の促進に不可欠であるにもかかわらず、ほとんど未解明のままである。
そこで本研究では,10種類のオープン・オープン・クローズド・ソースLLMのアナロジー多様性を包括的に評価する。
本研究は,LLMが対象ドメインの狭いセットから類似物を生成し,クエリ間の多様性とモデル内多様性の両面で制限する傾向にある,ドメインの均一性の問題を明らかにするものである。
さらに,本分析の結果,既存のLCMの多様性向上手法の基本的なトレードオフが明らかとなった。
最後に, LLM情報フローの因果解析により, LLM間の類似多様性を規定するモデル感受性領域において, 有意な差異が明らかとなり, 観測された多様性品質トレードオフのメカニズムが示唆された。
我々の知る限り、LLMを用いたアナログ生成において、出力の多様性を体系的に研究する最初の研究である。
関連論文リスト
- Discrete Diffusion in Large Language and Multimodal Models: A Survey [61.86669998363359]
離散拡散言語モデル(dLLMs)と離散拡散多モード言語モデル(dMLLMs)の体系的調査を行う。
自己回帰(AR)モデルとは異なり、dLLMsとdMLLMsはマルチトークンの並列デコーディングパラダイムを採用しており、フルアテンションとデノナイジングに基づく生成戦略を採用している。
我々は、dLLMとdMLLMの歴史的発展を辿り、基礎となる数学的枠組みを定式化し、一般的なモデリング手法を列挙し、代表モデルを分類する。
論文 参考訳(メタデータ) (2025-06-16T17:59:08Z) - MLLM-CL: Continual Learning for Multimodal Large Language Models [39.19456474036905]
ドメインと能力の連続学習を含む新しいベンチマークであるMLLM-CLを紹介する。
本稿では,パラメータ分離とMLLMに基づくルーティング機構による破滅的干渉を防止することを提案する。
我々のアプローチは、ドメイン固有の知識と機能的能力とを最小限の忘れ込みで統合することができ、既存の手法よりもはるかに優れています。
論文 参考訳(メタデータ) (2025-06-05T17:58:13Z) - Diversity-Aware Policy Optimization for Large Language Model Reasoning [42.09410936368148]
大規模言語モデルに対するRLに基づく学習における多様性の影響について検討する。
多様性を考慮したポリシー最適化手法を提案する。
本手法は4つの数学的推論ベンチマークで平均3.5パーセントの改善を実現している。
論文 参考訳(メタデータ) (2025-05-29T13:27:44Z) - Evaluating the Diversity and Quality of LLM Generated Content [72.84945252821908]
品質閾値を満たす出力間の効果的な意味的多様性を測定するための枠組みを導入する。
嗜好調整モデルでは語彙的および構文的多様性が低下するが、SFTやベースモデルよりも効果的な意味的多様性が得られる。
これらの発見は、多種多様な高品質な出力を必要とするアプリケーションに重要な意味を持つ。
論文 参考訳(メタデータ) (2025-04-16T23:02:23Z) - Exploring the Reasoning Abilities of Multimodal Large Language Models
(MLLMs): A Comprehensive Survey on Emerging Trends in Multimodal Reasoning [44.12214030785711]
マルチモーダル大言語モデル(MLLM)のフロンティアを分類・記述し、既存のマルチモーダル推論の評価プロトコルについて概観する。
本稿では,MLLMの推論集約型タスクへの適用動向を紹介するとともに,現在の実践と今後の方向性について論じる。
論文 参考訳(メタデータ) (2024-01-10T15:29:21Z) - LUNA: A Model-Based Universal Analysis Framework for Large Language Models [19.033382204019667]
自己保持機構, 極めて大規模なモデルスケール, 自己回帰生成スキーマは, 品質解析における新たな課題を提示する。
汎用かつ解釈可能なLLMの普遍的解析フレームワークを提案する。
特に、私たちはまず、望ましい信頼性の観点からのデータを活用して抽象モデルを構築します。
論文 参考訳(メタデータ) (2023-10-22T07:26:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。