以llama.cpp工具为例，介绍模型量化并在本地CPU上部署的详细步骤。 Windows则可能需要cmake等编译工具的安装（Windows用户出现模型无法理解中文或生成速度特别慢时请参考FAQ#6）。 本地快速部署体验推荐使用经过指令精调的Alpaca模型，有条件的推荐使用8-bit模型，效果更佳。

因为PEFT库变动频繁，该代码仅适用于特定PEFT版本，请从源码安装commit id为13e53fc的Peft。 如果使用其他版本的PEFT，不能保证模型可以正常训练。 Pre-training Stage 1中模型收敛速度较慢，我们不再推荐使用，目录中也没有提供相应 ...

今天的路线计划：Moeraki Beach – Christchurch（基督城）- Akaroa（法国小镇）。宿阿卡罗阿乡村大车店Akaroa Village Inn，一套公寓4个床位（实际是连排别墅，三层楼五个床位）行车约需4小时，实际跑了九个小时，主要是沿途观赏风景，顺便在提马鲁吃了顿中餐。

“巨人之家” 是由Akaroa的第一位BNZ银行经理建于1880年，房子的主体是由罗汉松和贝壳杉搭建而成。 当时的巨人之家是没有花园的。 在22年前 艺术家Josie Martin 买下来了“巨人之家”，并用了18年的时间慢慢地把它打理成了现在的模样。