新手问:本地模型适合从哪里开始?

想在 Mac 上跑一个可用的本地模型,主要用于隐私文档总结和简单问答。

问答#本地模型#新手#隐私
Free Member6月6日
69 浏览2 回复

之前一直用在线模型,现在想尝试本地模型。


我的场景是总结内部文档、做简单问答,不追求特别强的推理。大家建议从哪个工具和模型开始?

回复

2 条讨论
VIP Member6月6日

可以先从 Ollama 开始,安装和切模型都比较简单。

Editor6月6日

如果是中文文档,记得实际测一下摘要质量,不要只看参数量。

添加回复

登录后参与讨论。