https://fixupx.com/laipz8200/status/1912717306507206705
几个月前我发这条的时候,背景其实是一个观点:对 LLM 应用来说,真正的变量只有两个:模型能力和上下文。
模型能力决定了模型有多少知识可以被检索,上下文决定了你能检索出什么内容。无论是 Prompt 工程还是 RAG,其实都是在处理上下文,所以你大可以用这两件事概括所有 LLM 应用。
当然,知道这些并不能帮你做好一个 LLM 应用,这只是看到最近很多人讨论提示工程要不要改名的一些感慨。
#碎碎念
几个月前我发这条的时候,背景其实是一个观点:对 LLM 应用来说,真正的变量只有两个:模型能力和上下文。
模型能力决定了模型有多少知识可以被检索,上下文决定了你能检索出什么内容。无论是 Prompt 工程还是 RAG,其实都是在处理上下文,所以你大可以用这两件事概括所有 LLM 应用。
当然,知道这些并不能帮你做好一个 LLM 应用,这只是看到最近很多人讨论提示工程要不要改名的一些感慨。
#碎碎念