目前有什么可以本地部署的大模型推荐?
时间：2025-06-22 05:40:10 来源：网络 人气：
这里推荐一个本地微调大模型的框架。
ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。
更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。
Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。
发表评论
排行
- 如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
- 055驱逐舰 是个什么概念?
- 有个自闭症的孩子，该放弃吗？
- 鸿蒙PC操作系统是不是就是手机操作系统？
- 男子因眼睛小被小米汽车系统频繁误判疲劳驾驶，一路提醒20多次，这是智能汽车通病吗？怎么解决该 bug？
- 中办、国办发文，拟新建改扩建 1000 所以上优质普高，将带来哪些影响？可能面临哪些挑战？
- 刚入职一个专利代理所，老板让我***购一个管理系统，可以做xml转档的，有推荐的吗？
- 如何看待日本小学校园餐只有一小块鸡肉？
- 以色列是如何从三天前的不可一世要灭了伊朗到今天的哭哭啼啼要“为生存而战”的？
- 你见过最人性化的设计是什么？
{dede:myad name='right'/}
评论列表（条）