本文从DeepSeek简介、Ollama本地部署、CherryStudio+第三方API、提示词技巧等四个方面进行阐述,文本内容均为个人使用心得体会,如有不到之处,请指出。
一、DeepSeek简介
DeepSeek是深度求索公司开发展大语言模型,深度求索公司成立于2023年,总部位于中国杭州,在北京设有研发中心,聚焦通用人工智能(AGI)研发。核心成员来自清华大学、北京大学等顶尖高校及知名科技企业,具备深厚的技术积累。
DeepSeek-R1(目前大部分企业或个人使用的模型):业应用优化模型,支持复杂推理和长文本处理,适用于金融、法律等高专业度场景。
对话模型:类ChatGPT产品,强调逻辑性和多轮对话能力,适配客服、教育等领域。
(一)关键技术优势。
采用混合专家系统(MoE),提升模型训练和推理效率。支持最高1000万 tokens的上下文窗口,实现长期记忆与复杂任务处理。集成图像、视频、语音理解与生成技术,探索多场景交互应用。
(二)基础应用场景
企业服务:智能客服、合同解析、金融数据分析等。
教育:个性化学习助手、自动批改、知识点推理。
个人用户:高效内容生成、编程辅助、多模态交互工具。
科研:科学文献理解、实验数据建模、代码生成支持。
(三)核心优势
性能领先:在权威评测(如MMLU、GSM8K)中数学与代码能力表现突出。
行业适配:提供高度定制化模型训练,满足垂直领域需求。
成本效益:通过模型压缩和分布式计算,降低企业使用门槛。
提醒:截至目前,90%的大语言模型均系工具,其本身并无类似人类的主动思维能力,需要精准的提示词方可生成你想要的内容。
二、Ollama本地部署
Ollama是一个开源的轻量级框架,专为在本地运行大型语言模型(LLMs)而设计。它简化了模型的部署和交互流程,支持通过命令行或 API 快速调用预训练模型(如Llama3、Mistral-7B等),适用于开发者、研究人员及技术爱好者进行本地实验与应用开发。
1.登录Ollama官方网站:https://ollama.com/
2.点击Ollama官方网站的下载按键(Downoad),跳转至下载页面。(见下图红框)
3.根据操作系统版本,下载Ollama,(见下图红框)
4.下载完成后,闭眼安装即可
5.安装完成后,按下键盘的(Windows键+R),输入cmd(见下图)
6.输入命令并敲下回车键:ollama –v(见下图)
如显示 ollama version is *.*.*,即表示ollama 安装成功。
7.拉取DeepSeek镜像
按下键盘的(Windows键+R),输入cmd(见下图)
输入命令行并按回车:ollama deepseek-r1或者
ollama deepseek-r1:1.5b、ollama deepseek-r1:7b、ollama deepseek-r1:8b、ollama deepseek-r1:14b、ollama deepseek-r1:32b、ollama deepseek-r1:70b、ollama deepseek-r1:671b
根据网络状况,拉取完镜像后即可使用。
提醒:1.5b是指15亿数据,7b是指70亿数据,普通家用电脑使用7b即可,使用参数过高会导致系统崩溃、电脑死机。
8.安装Page Assist插件
(此步骤建议使用Microsoft Edge浏览器)
打开Page Assist插件安装地址,https://microsoftedge.microsoft.com/addons/detail/page-assist-a-web-ui-fo/ogkogooadflifpmmidmhjedogicnhooa
随后在点击右侧【获取】按钮
安装完成后,点击Microsoft Edge浏览器的下图位置
点击Page Assist插件后,界面如下:
到此,本地部署已完成。
建议:由于家用电脑性能限制,特别是GPU的算力不足,本地运行DeepSeek的速度很慢,容易造成电脑卡死、崩溃,非特殊需求,不建议本地部署。
三、CherryStudio+第三方API
CherryStudio是一款集多模型对话、知识库管理、AI绘画、翻译等功能于一体的全能AI助手平台。CherryStudio的高度自定义的设计、强大的扩展能力和友好的用户体验,使其成为专业用户和AI爱好者的理想选择。无论是零基础用户还是开发者,都能在CherryStudio中找到适合自己的AI功能,提升工作效率和创造力。
1.下载安装CherryStudio
打开CherryStudio官方网站:https://cherry-ai.com/ 下载客户端,闭眼安装即可。
2.申请第三方API
目前,提供第三方API的有:深度求索、硅基流动、火山引擎、阶跃星辰、阿里云百炼,结合使用体验,建议使用火山引擎。
2.1.注册火山引擎。登录火山引擎官方网站:
https://www.volcengine.com/experience/ark?utm_term=202502dsinvite&ac=DSASUQY5&rc=BPMSNV6I
输入手机号注册即可。
2.2.进入火山方舟控制台(见下图红框)
2.3.创建API-key
点击左侧菜单最下方的【API-Key管理】
点击创建API-key
2.4.使用API-key
创建API-key后,页面自动刷新,点击列表中的眼睛
随后点击上图中红框位置,复制API-key
打开CherryStudio软件,按照下图红框及序号进行操作
2.5.创建个人专属推理点
打开火山方舟页面,按照下图操作
点击左侧菜单栏的【在线推理】→【自定义推理接入点】→【创建推理接入点】
点击【创建推理接入点】后,点击添加模型,并选择DeepSeek-R1
最后点击【确认接入】,如提示实名制或者开通业务,按其提示进行实名认证并开通业务即可。
2.6.完成接入
返回在线推理页面,复制模型ID(见下图)
打开CherryStudio软件,操作见下图
到此,CherryStudio+第三方API部署DeepSeek已完成。
小结:为什么要通过第三方API部署?部署完后使用有哪些禁忌?
四、提示词技巧
提醒:截至目前,90%的大语言模型均系工具,其本身并无类似人类的主动思维能力,需要精准的提示词方可生成你想要的内容。
DeepSeek的使用需要给它精准的提示词,目前常用的模式是:
“我是XXX,现在需要XXX,请结合XXX,生成XXXX”
即给定DeepSeek一个明确的身份和目标。
例如:我是一名旅游博主,近期要去新疆旅游,计划时间是30天,请规划路线图和住宿、美食建议。
例如:我是一名企业党务工作者,要向上级汇报半年党建工作开展情况,从加强党的领导、推动党建业务融合、发挥党员先锋模范作用为大纲,写一篇2000字的工作情况汇报,文字要朴实符合落实,有事例和数据支撑。
例如:你是资深的数据分析师,对上传的文档内容进行全面分析。
例如:这是一家抓饭店上个月的销售数据,请分析周末和工作日的销量差异
例如:当前正在召开XXX会议,我作为一名新就业群体,需要在会上发言,围绕XXX、XXX、XXX等方面,生成500字的发言。
提醒:运用DeepSeek等人工智能生成内容,需要用户有一定的积累,否则如同小学生用核弹,纯属乱打,生成的内容一定是错误百出、毫无用处。