这两天deepseek-R1在春节刷屏了成年笑话，他用较低的资本复现了Open Ai O1推理模子的成果，把蓝本OpenAi唔得死死的神秘给公开了。愈加历害的是他还开源了，让每个东谈主王人有契机作念出O1这样的家具，真的太炸裂了。

现时DeepSeek推理模子这样火，而且最近由于黑客袭击也往往崩，那咱们就来建一个土产货的推理大模子吧，趁春节假期迅速学起来。

我先容的内容不需要有任何技巧学问、也不需要有缔造熏陶，全部通过软件操作和敕令行来完成（复制黏贴，搬砖大法）。

01 土产货装配环境准备1.1、电脑硬件环境

先说一下电脑硬件条目，如若要顺畅的运行提议是以下确实立。

猫色成人网

图片

不外也无须记念，咱们仅仅使用大模子而不是作念微解除检会，是以硬件只须知足最低条目就行了。履行使用下来我的Mac电脑，16G内存、集成显卡也能运行起来也挺顺畅的。

翌日要微调、检会模子咱们再考虑是否要升级电脑约略租用云环境。

1.2、系统装配环境

图片

  

此次装配要用到两个用具Docker和Ollama这两个容器，什么叫容器呢？即是你的运用要领和模子运行的环境。

1）Docker容器：是一个开源的容器引擎，你的运用只须装配一次就能在各式平台上运行。在这里咱们用它来运行WebUI这个大模子的前端操作界面。

2）Ollama：是一个开源的AI用具平台，他可以托管许多的大模子在土产货运行，救济模子的恣意切换。

容器的克己，即是你无须装配一堆pip、Conda这类python包科罚用具，也无须把你土产货环境变量改的颠三倒四，更无须把要领和模子装配的到处王人是占用资源。这些他王人帮你管了，你部署即用卓绝的肤浅。

底下咱们就运行玩大模子吧，对了，有个要紧的事情提前说下

你需要提前准备梯子，装配经过中你的梯子必须保握蚁集通顺。

02 用Ollama装配模子

图片

2.1、装配Ollama

你需要去拜访“https://ollama.com/”去下载Ollama的客户端，他现时救济“Linux、MacOs、Windows”，凭证你电脑的操作系统选定下载即可。（我用的是Mac）

载到土产货后装配ollama运用（经过相比毛糙，通盘默许就行了），装配完成后你可以在系统托盘中找到Ollama图标，诠释他依然运行了（他莫得图形界面，用敕令走时行）

图片

  

2.2、取得装配请示

Ollama运行后咱们就要去下载deepseek-R1模子了，咱们如故官网选定Modle这里有许多的大模子可供选定，deepseek-R1排在了首位，咱们班师点击插足主题。

图片

插足主题后咱们可以看到deepseek提供了许多的版块（数字越大，对显卡的显存条目越高），我的电脑是Mac用的集成显卡，是以咱们选一个小版块的7B下载，有4090显卡的土豪同学应酬。

图片

2.3、装配R1模子

模子装配后，咱们复制请示用来在土产货运行deepseek。

运行敕令

ollama run deepseek-r1:7b

底下咱们绽放末端运行上头的敕令，如若是第一次使用该模子，Ollama且归其网站下载后再运行。如若土产货依然下载了，大模子就班师运行起来了。

图片

  

输入几句话试了下，他照实很快就复兴我，看来装配的没问题。

03、装配Docker环境

敕令行交互太不友好了，咱们来装一个操作界面。这里我选定的是WebUI，咱们把他放到Docker这个容器里来科罚，无须装配python的包科罚用具，也无须到处找你要领装配在那儿了，他王人帮你管了。

3.1、装配Docker

先从官网 https://www.docker.com 下载，选定你顺应你操作系统的版块就行了，下载后班师装配就行了（按操作履行即可，这里不赘述了）

图片

  

3.2、运行Docker环境

装配后运行Docker环境就能启动Docker，他不仅是系统托盘有个“小鲸鱼”图标，同期他也有界面，你可以看到Docker中装配了哪些运用要领。

3.3、装配WebUI

Docker装好后咱们来运行WebUI界面，要领也和装配模子一样，你可以拜访WebUI在GitHub上的地址来取得敕令。

拜访这个地址：https://github.com/open-webui/open-webui

咱们班师让他在Docker上运行，选定“If Ollama is on your computer， use this command”

图片

取得后你班师在末端输入如下敕令把WebUI装配到Docker并运行。

图片

  

3.4、启动WebUI

启动WebUI你先要确保ollama中的deepseek处于运事业态，你如若不戒备关闭了可以使用以下敕令再行启动，而且不要关闭这个窗口。

启动deepseek敕令

ollama run ;deepseek-r1:7b

图片

  

点击Docker中上图的集结就能绽放WebUI的界面也可以在浏览器输入“http://localhost:3000/”插足WebUI了。

04、使用DeepSeek4.1、WebUI主邀功能

图片

  

WebUI的功能还短长常雄伟的，除了作念基本问答之外，他救济模子切换，文献上传等功能，致使还救济语音输入和东谈主机对话。

4.2、DeepSeek问答智商

图片

  

固然唯有7B的小模子，通过推理给出的内容照实相比扎眼，不外生成速率较慢（应该是我电脑的原因），天然与官网的671B比扎眼进程要稍逊一筹，不外这也平方毕竟仅仅7B的小模子。

4.3、推理与传统问答相比

咱们和雷同大小的qwen7B来相比下，领有推聪敏商和传统问答模子有什么区别。DeepSeek经过推理登堂入室的回答了十几条，而千问回答的则卓绝毛糙。尽然有莫得推聪敏商诀别照实很大。

图片

  

4.4、文献和图片分析

底下来看下他的文献分析智商和图片识别智商。在文献分析和详细方面挺可以的通读了全文，而且对内容进行诚实的规复和回想。

图片

  图片识别智商就不行了，DeepSeek7B这个模子不具备识别图片的智商。而官网的模子则可以准确的读出图片中的主要内容，而且给出了示例以及图片回想。

图片

  

讲在临了

DeepSeek经过推理后给出的内容照实比传统问答模子要扎眼和好意思满，即使是一个7B的小模子给出的罢休也卓绝好，天然比官网略逊。

在文献分析方面DeepSeek分析罢休也相比好意思满和忠于原文成年笑话，不外土产货的7B版块不可识别图片是个缺憾。

本站仅提供存储管事，悉数内容均由用户发布，如发现存害或侵权内容，请点击举报。