少样本与零样本:示例到底有多大用

给模型一个任务,你可以什么都不举例,只写清楚指令(零样本);也可以先摆几个输入输出的例子,再让它照着做(少样本)。这两种范式成本与效果差别很大,选错了要么多花钱,要么效果打折。

零样本:靠指令直接驱动

零样本(Zero-Shot)不提供任何示例,全凭模型在预训练里学到的知识与指令理解能力。它对常见、定义清晰的任务很有效,比如「把这段话翻译成英文」「判断这条评论是正面还是负面」。优点是省 token、速度快,缺点是遇到冷门格式或隐性规则时容易跑偏。

少样本:用例子锚定格式与风格

少样本(Few-Shot)在提示里塞几个示范,模型会隐式地模仿这些例子的结构、语气与边界。它对「格式奇怪」「规则隐含」的任务特别有用,比如特定字段的抽取、某种固定文风。示例越多越稳,但也要权衡 token 成本。

零样本:判断情感:这部电影太精彩了。
少样本:
例1 输入:服务很差。输出:负面
例2 输入:超出预期。输出:正面
输入:节奏拖沓。输出:?

示例该怎么挑

少样本的效果高度依赖示例质量。挑覆盖典型 case、包含边界与反例的样本,比随便凑几个更有用;保持示例格式一致,避免互相矛盾。若任务有多个子类,最好每类都给一个。当零样本已经达标时,就别硬上加示例——多花的 token 不划算。

小结

零样本靠指令直接驱动,省成本、适合常见任务;少样本靠示例锚定格式与隐性规则,适合冷门或格式敏感的场景。示例要挑得有代表性、覆盖边界,且只在零样本不够用时才上,才能把效果与开销平衡好。

参考与延伸阅读

  • Brown et al. Language Models are Few-Shot Learners(NeurIPS 2020,GPT-3 论文)。系统展示了少样本能力的规模规律。已核验。
  • 具体示例数量与挑选策略以任务实测为准,不同模型对示例敏感度不同。待核实。
本文累计阅读