上下文学习

上下文学习

上下文学习

上下文学习(In-context Learning)是大语言模型涌现出的核心能力之一。它指的是:只要在对话中给模型几个例子(Prompt),模型就能立刻学会一种从未见过的新任务,而无需修改任何参数。

革命性意义

上下文学习是一个革命性的变化。在传统的机器学习范式中,模型需要针对每个新任务进行微调或重新训练。而LLM的上下文学习能力使得零样本或少样本解决新问题成为可能,极大地降低了AI应用的门槛。

与[[涌现能力]]的关系

上下文学习是LLM规模扩大后涌现出的能力之一,与[[指令遵循]]和[[思维链]]共同构成了LLM的三大核心神技。

分享到