新手问:本地模型适合从哪里开始?
想在 Mac 上跑一个可用的本地模型,主要用于隐私文档总结和简单问答。
问答#本地模型#新手#隐私
Free Member6月6日
69 浏览2 回复之前一直用在线模型,现在想尝试本地模型。
我的场景是总结内部文档、做简单问答,不追求特别强的推理。大家建议从哪个工具和模型开始?
想在 Mac 上跑一个可用的本地模型,主要用于隐私文档总结和简单问答。
之前一直用在线模型,现在想尝试本地模型。
我的场景是总结内部文档、做简单问答,不追求特别强的推理。大家建议从哪个工具和模型开始?
继续补充经验、追问或给出建议。
登录后可以参与评论。
可以先从 Ollama 开始,安装和切模型都比较简单。
如果是中文文档,记得实际测一下摘要质量,不要只看参数量。