快过年了,不要再讨论什么大语言模型之类的了。你带那堆checkpoint回到家并不能给你带来任何实质性作用,朋友们兜里掏出一大把钱吃喝玩乐,你默默的在家里摆弄你的推理框架。亲戚朋友吃饭问你收获了什么,你说我把huggingface上的大模型都跑了个遍,还自己做了几个dataset train了lora出来,亲戚们懵逼了,你还在心里默默嘲笑他们,笑他们不知道开源大模型在过去一年有多大的进展,也笑他们不懂4bit量化和low rank finetuning的巨大威力。你父母的同事都在说自己的子女一年的收获,儿子买了个房,女儿买了个车,姑娘升职加薪了,你的父母默默无言,说我的儿子买了显卡也不打游戏,就天天在那对着AI聊天,倒是家里电表走得越来越快了。