一、本篇背景
之前有同学遇到这个问题:本地部署ollama来跑deepseek,但是从后台看CPU利用率百分百而GPU(即显卡)利用率不足1%,且本地输出的deepseek输出较慢,一段对话一个字一个字蹦,没有完全利用好本地的显卡资源。本篇基于这个情况给出从CPU切换GPU的解决方案,同时对于需要本地使用Deepseek的同学给出Ollama的部署教程。(两篇教程合并到一篇写了)
本站资源仅供学习交流使用请勿商业运营,严禁从事违法,侵权等任何非法活动,否则后果自负!
© 版权声明
本站收集的资源仅供内部学习研究软件设计思想和原理使用,学习研究后请自觉删除,请勿传播,因未及时删除所造成的任何后果责任自负。
如果用于其他用途,请购买正版支持作者,谢谢!若您认为「YC396.COM」发布的内容若侵犯到您的权益,请联系站长邮箱:402999666@qq.com 进行删除处理。
本站资源大多存储在云盘,如发现链接失效,请联系我们,我们会第一时间更新。THE END
暂无评论内容