现在AI行业的应用算法创新是以周计的。我们在前不久的文章里提过，AI模型要达成相同能力所需的算力每年降低4-10倍；过去3年达成GPT3相似质量的AI模型推理成本下降了1200倍；当下2B参数量的模型就能达到当年170B参数GPT3的水平。想一想，这是最近5年的事情 ...

在模型参数量级不变的情况下，每8个月模型能力就提升1倍。面壁智能认为，当下2B参数量的模型就能达到当年170B参数GPT3的水平。要知道GPT3可是超算训练出来，推理也需多GPU协作。 若将达成相同能力的模型参数量下降曲线与摩尔定律所指单位面积内晶体管数量 ...