目前有什么可以本地部署的大模型推荐?_厦门市毅峰电子有限公司-KEL连接器-KEL接插件-KEL总代理商-COPAL科宝开关FUJISOKU开关-富士测开关-原装COPAL开关-FUJISOKU开关-fujisoku-COPAL代理商-fujicon端子台-富仕康端子台-fujicon接线端子-TMW圆形连接器-TMW多治见圆形接头连接器-DAIICHI传感器-DAIICHI电压表

这里推荐一个本地微调大模型的框架。

ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。

更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。

Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。