所有大模型, 都是「预制菜」!
预制菜,上热搜了!
作为食客,大家可能都不喜欢预制菜。
但是作为AI从业者,「大模型预制菜」更香,现炒的,反而不靠谱。
为什么大模型不适合现炒?
如果你要“现炒”大模型,可能要面临以下问题↓
1、灶要现搭:
小灶火力不够,大灶周期长,修建复杂,还不好伺候,调不好的大灶火力仍然不够。
而且,还抢不到优质的进口建灶原材料(GPU),国产灶火力可能会打折扣。
要知道,大模型现在动不动就是千亿、万亿参数,小灶(一体机)这样的火力,根本炒不动,只能热菜(推理)。
业界炒大菜的,都是几万个灶眼的集群,同时开动,炒上几个月才出锅。
2、料要现配:
要炒好一道大模型菜,除了灶要强,火要旺,还要有足够的食材原料,这就是高质量数据。
你懂得,摘菜、洗菜、备菜这个活,可太费事了,而且炒大模型,需要的可不是一点半点配料哦。
3、菜要现炒:
即便灶搭好了,原料配齐,新的困难来了——你可能根本不会炒菜……
无论是爆炒硬菜(训练),还是回锅乱炖菜(微调、后训练),哪怕只是凉拌菜(推理)。
油温不对、火大火小、酱料顺序,全是坑…,你想做满汉全席,结果却是黑暗料理。
4、菜不对口:
这恐怕是最要命的,很多食客其实不知道自己真正喜欢吃什么,脑子里也没有菜谱,点菜做饭都纠结。
此时,如果费劲巴拉从头折腾(修灶→配料→炒菜→上桌),最后入口才知道,这菜并不对自己口味,吃了还反胃。
这就好比很多企业客户,根本没想明白大模型怎么和自己业务结合,却要斥巨资搞大模型,费钱费时尝了才知道失败。
看懂大模型,就看懂预制菜
如果大模型用预制菜的思路,立马就不一样了。
首先,有一个大模型中央厨房,这就是MaaS平台。
这个中央厨房里,有各种各样的大模型预制菜,食客们可以根据自己的需求,来按需选择↓
1、即烹型服务:
食客选择一款标准预制模型(热门开源),加上自己佐料(私有数据),选择合适的灶,进行二次烹制(微调/后训练),最终得到自己专属菜。
2、即热型服务:
不需要加佐料二次烹饪(微调训练),直接把标准料理包或第三方料理包(平台预置模型或者自有模型)部署使用,即热即吃。
3、即食型服务:
直接调大模型API,既不需要烹饪(训练微调)、也不需要加热(部署),选择合适的大模型,开袋即食。
4、美食点评服务:
如果食客不知道那种模型菜更好吃,没关系,MaaS中央厨房一般还提供模型评测服务,好比大众点评,让食客快速找到自己喜欢的口味。
5、灶台租赁和搭建服务:
有的土豪食客就是喜欢自己攒食材、自己炒。
没问题,中央厨房的大佬云们通常还有配套的「灶眼、厨台」按需出租服务。
想要多大的灶、多少火力,按需瞬间给你搭好。炒完菜可以退,不会砸在手里,省时省钱。
如果有些土豪老爷喜欢私厨,也没问题。
人家也可以基于中央厨房的参考架构,提供各种优化好的一体化厨房(一体机)、超级私厨(超节点)。
所以,大模型要选预制的,又快又省,大厂厨房出品,色香味俱佳,那怕你不知道啥菜对口,也能快速开袋尝尝,不行再换一家。
那么问题来了,你正在吃哪家的大模型预制菜?