CCF LMCC · CCF LMCC 青少年组第一轮认证 例题 第 7 题

用于指令微调的数据通常具有什么典型特征？

这题考的是指令微调的数据形态，拿到题先想‘指令微调’要干嘛——让模型学会按人类指令生成回答，那训练数据自然得是成对的（指令/问题 + 期望输出）监督样本，选B。

学生容易把指令微调当成无监督或预训练，误以为用网页爬下来直接喂（选项A），或者觉得只要模型参数大就行，忽略数据格式；还有人把指令微调跟代码微调（选项C）或模态微调（选项D）混为一谈，没抓住‘指令’二字对应的配对结构，导致选错。

这道题考查的是大模型训练中的指令微调（Instruction Tuning）概念，属于人工智能与大语言模型基础范畴。指令微调的核心目的是让模型学会理解并遵循人类指令，生成符合预期的回答，因此训练数据必须包含明确的指令（或问题）和对应的期望输出，形成监督学习所需的配对结构。命题人常在此处挖坑，把无标注网页、代码片段、原始多媒体等数据形态混淆进来，测试学生是否真正理解‘指令’对应的数据格式。

从概念上讲，指令微调通常基于解码器架构（如GPT系列），使用（指令/问题，期望输出）这样的配对数据，通过监督学习让模型掌握遵循指令的能力。这与预训练阶段使用的掩码语言模型（预测被遮盖词）或自回归语言模型（预测下一个词）不同，后者更多依赖无监督或自监督信号，而指令微调则明确需要人工标注的配对数据。此外，指令微调常与提示词工程、LoRA等参数高效微调技术结合使用，但无论技术如何变化，数据形态始终是配对监督数据。

思考时，先抓住‘指令微调’四个字，联想其应用场景：想让模型回答问题、写代码、写文案等，都需要给它看‘问题+答案’的示例。因此，选项A的大规模无标注网页显然不够，因为模型无法从中直接学到指令遵循；选项C的代码仓库和编程语言片段虽然有价值，但缺乏指令与输出的配对；选项D的原始音频和图像数据属于多模态范畴，与指令微调的数据形态不符。只有选项B准确描述了指令微调所需的数据结构。

避坑方面，学生容易误以为模型越大或数据越原始越好，忽略数据格式的关键作用；也有人把指令微调与预训练、代码微调等概念混淆，导致选错。此外，命题人可能还会在后续题目中结合LoRA、提示词工程等细节，但本题只关注数据形态，需紧扣题干。

关于考频与趋势：指令微调是近年来大模型训练中的核心环节，尤其在LLaMA、ChatGLM、Qwen等开源模型中广泛应用。根据现有数据，指令微调相关考点在CSP-J/S、NOIP、GESP等竞赛中虽未单独出现，但在AI基础概念类题目中频繁涉及，尤其是与预训练、提示词工程、参数高效微调等知识点结合。历年趋势显示，随着大模型应用落地，指令微调的重要性日益凸显，未来可能更多出现在涉及模型训练流程、数据准备、微调技术对比等综合题中。暂无足够依据预测具体题型变化，但可预期指令微调相关概念将成为AI基础题的常客。

综上，正确答案为B：由（指令/问题，期望输出）配对组成的监督数据集。