CCF LMCC · CCF LMCC 青少年组第一轮认证 例题 第 17 题

当前意义上的“大语言模型”最显著的特征不包括以下哪一项？

这题考的是大语言模型的核心特征，直接看选项里哪个描述跟‘大模型’的真实训练方式对不上。大模型都是海量数据训练出来的，A 选项说‘仅在特定领域小规模数据上训练’，这明显是错的，选 A。

学生容易把‘参数量大’和‘训练数据少’混为一谈，以为只要模型够大就能在少量数据上学好，其实大模型的优势恰恰来自海量数据的自监督预训练。还有人会纠结于‘微调’是不是也算训练，但题目强调的是‘当前意义上的大语言模型最显著特征’，指的是预训练阶段，不是后期微调。

这道题考查的是人工智能与大语言模型的基础概念，核心在于理解大语言模型的训练范式与其显著特征。命题人故意用一个看似合理的‘小数据微调’场景来混淆视听，其实大语言模型之所以能展现出强大的涌现能力（如推理、编程、创造性写作），正是基于‘下一个词预测’等自监督目标在海量互联网文本上进行的长期预训练，而非仅在特定领域的小规模数据上训练。

思考心法：拿到题先想‘大模型是怎么来的’。大模型通常基于解码器架构（如 GPT 系列），使用自注意力机制处理长距离依赖关系。其核心训练阶段是预训练，通过预测被遮盖的词语来学习双向上下文表征；而指令微调、提示词工程、LoRA 等都是在预训练基础上进行的参数高效微调，目的是增强模型遵循指令的能力，并非大模型最显著的初始特征。因此，选项 C 和 D 描述的是大模型的真实特征，B 描述的是其涌现能力的结果，只有 A 描述的训练方式与大模型的实际训练范式完全相反。

避坑指南：模型的社会偏见主要来源于训练数据，而非架构本身；Pass@K 衡量的是 K 次生成中至少一次成功的概率；束搜索比贪心搜索更可能找到全局最优解。解题技巧：抓住每个选项的核心概念，理解 Transformer 的 Query、Key、Value 都来自同一输入通过不同线性变换得到，从而判断其训练方式。本题正确答案为 A。