这两天deepseek-R1在春节刷屏了萝莉 后入，他用较低的本钱复现了Open Ai O1推理模子的后果，把底本OpenAi唔得死死的玄机给公开了。愈加利弊的是他还开源了，让每个东谈主齐有契机作念出O1这样的产物，的确太炸裂了。

肛交

当今DeepSeek推理模子这样火，何况最近由于黑客膺惩也平庸崩，那咱们就来建一个腹地的推理大模子吧，趁春节假期赶快学起来。

我先容的内容不需要有任何时间学问、也不需要有修复教养，全部通过软件操作和敕令行来完成（复制黏贴，搬砖大法）。

01 腹地装配环境准备1.1、电脑硬件环境

先说一下电脑硬件条款，如若要顺畅的运行提出是以下确实立。

图片

不外也无须记挂，咱们仅仅使用大模子而不是作念微并吞考试，是以硬件只消昂扬最低条款就行了。骨子使用下来我的Mac电脑，16G内存、集成显卡也能运行起来也挺顺畅的。

夙昔要微调、考试模子咱们再沟通是否要升级电脑偶然租用云环境。

1.2、系统装配环境

图片

  

此次装配要用到两个用具Docker和Ollama这两个容器，什么叫容器呢？便是你的利用才能和模子运行的环境。

1）Docker容器：是一个开源的容器引擎，你的利用只消装配一次就能在多样平台上运行。在这里咱们用它来运行WebUI这个大模子的前端操作界面。

2）Ollama：是一个开源的AI用具平台，他可以托管好多的大模子在腹地运行，复旧模子的自便切换。

容器的平允，便是你无须装配一堆pip、Conda这类python包措置用具，也无须把你腹地环境变量改的前俯后合，更无须把才能和模子装配的到处齐是占用资源。这些他齐帮你管了，你部署即用止境的便捷。

底下咱们就启动玩大模子吧，对了，有个蹙迫的事情提前说下

你需要提前准备梯子，装配经由中你的梯子必须保捏鸠合征战。

02 用Ollama装配模子

图片

2.1、装配Ollama

你需要去看望“https://ollama.com/”去下载Ollama的客户端，他当今复旧“Linux、MacOs、Windows”，证实你电脑的操作系统选拔下载即可。（我用的是Mac）

载到腹地后装配ollama利用（经由比拟通俗，一起默许就行了），装配完成后你可以在系统托盘中找到Ollama图标，证明他还是运行了（他莫得图形界面，用敕令走运行）

图片

  

2.2、赢得装配请示

Ollama运行后咱们就要去下载deepseek-R1模子了，咱们照旧官网选拔Modle这里有好多的大模子可供选拔，deepseek-R1排在了首位萝莉 后入，咱们平直点击参加主题。

图片

参加主题后咱们可以看到deepseek提供了好多的版块（数字越大，对显卡的显存条款越高），我的电脑是Mac用的集成显卡，是以咱们选一个小版块的7B下载，有4090显卡的土豪同学松弛。

图片

2.3、装配R1模子

模子装配后，咱们复制请示用来在腹地运行deepseek。

运行敕令

ollama run deepseek-r1:7b

底下咱们怒放终局运行上头的敕令，如若是第一次使用该模子，Ollama且归其网站下载后再运行。如若腹地还是下载了，大模子就平直运行起来了。

图片

  

输入几句话试了下，他确乎很快就回应我，看来装配的没问题。

03、装配Docker环境

敕令行交互太不友好了，咱们来装一个操作界面。这里我选拔的是WebUI，咱们把他放到Docker这个容器里来措置，无须装配python的包措置用具，也无须到处找你才能装配在那儿了，他齐帮你管了。

3.1、装配Docker

先从官网 https://www.docker.com 下载，选拔你适宜你操作系统的版块就行了，下载后平直装配就行了（按操作履行即可，这里不赘述了）

图片

  

3.2、运行Docker环境

装配后运行Docker环境就能启动Docker，他不仅是系统托盘有个“小鲸鱼”图标，同期他也有界面，你可以看到Docker中装配了哪些利用才能。

3.3、装配WebUI

Docker装好后咱们来运行WebUI界面，秩序也和装配模子一样，你可以看望WebUI在GitHub上的地址来赢得敕令。

看望这个地址：https://github.com/open-webui/open-webui

咱们平直让他在Docker上运行，选拔“If Ollama is on your computer， use this command”

图片

赢得后你平直在终局输入如下敕令把WebUI装配到Docker并运行。

图片

  

3.4、启动WebUI

启动WebUI你先要确保ollama中的deepseek处于运处事态，你如若不注重关闭了可以使用以下敕令重新启动，何况不要关闭这个窗口。

启动deepseek敕令

ollama run ;deepseek-r1:7b

图片

  

点击Docker中上图的征战就能怒放WebUI的界面也可以在浏览器输入“http://localhost:3000/”参加WebUI了。

04、使用DeepSeek4.1、WebUI主邀功能

图片

  

WebUI的功能还曲直常雄伟的，除了作念基本问答除外，他复旧模子切换，文献上传等功能，致使还复旧语音输入和东谈主机对话。

4.2、DeepSeek问答才能

图片

  

固然独一7B的小模子，通过推理给出的内容确乎比拟老成，不外生成速率较慢（应该是我电脑的原因），天然与官网的671B比老成进程要稍逊一筹，不外这也泛泛毕竟仅仅7B的小模子。

4.3、推理与传统问答比拟

咱们和相同大小的qwen7B来比拟下，领有推理才能和传统问答模子有什么辩别。DeepSeek经过推理无拘无束的回答了十几条，而千问回答的则止境通俗。尽然有莫得推理才能判袂确乎很大。

图片

  

4.4、文献和图片分析

底下来看下他的文献分析才能和图片识别才能。在文献分析和空洞方面挺可以的通读了全文，何况对内容进行古道的归颂扬回顾。

图片

  图片识别才能就不行了，DeepSeek7B这个模子不具备识别图片的才能。而官网的模子则可以准确的读出图片中的主要内容，何况给出了示例以及图片回顾。

图片

  

讲在临了

DeepSeek经过推理后给出的内容确乎比传统问答模子要老成和完满，即使是一个7B的小模子给出的截止也止境好，天然比官网略逊。

在文献分析方面DeepSeek分析截止也比拟完满和忠于原文萝莉 后入，不外腹地的7B版块不可识别图片是个缺憾。

本站仅提供存储处事，扫数内容均由用户发布，如发现存害或侵权内容，请点击举报。