DeepSeek-R1大模型本地部署流程及简单测试

小鱼

大家好，我是小鱼，这两天DeepSeek-R1很火，小鱼也尝试本地部署使用测试一把，把过程记录下来跟大家分享一下，后续再出个结合vscode或cursor帮我们写ROS2代码的方法。

关于DeepSeek-R1的简介

从HuggingFace上关于 DeepSeek-R1(https://huggingface.co/deepseek-ai/DeepSeek-R1) 的介绍可以看出，DeepSeek 主要的创新在于使用**强化学习（RL）而非监督微调（SFT）**的方法进行训练。这种方法让模型能够自主探索解决复杂问题的思维链（Chain of Thought, CoT）。

小鱼的理解是，以前训练模型时，通常会告诉模型问题和正确答案，而DeepSeek则是只给模型提供问题和判断对错的反馈，通过强化学习让模型不断尝试找到正确答案。这样训练出来的模型就像一步步走过来的，更深入地理解从问题到答案的逻辑推理过程。

官方描述强调：

We directly apply reinforcement learning (RL) to the base model without relying on supervised fine-tuning (SFT) as a preliminary step. This approach allows the model to explore chain-of-thought (CoT) for solving complex problems, resulting in the development of DeepSeek-R1-Zero. DeepSeek-R1-Zero demonstrates capabilities such as self-verification, reflection, and generating long CoTs, marking a significant milestone for the research community. Notably, it is the first open research to validate that reasoning capabilities of LLMs can be incentivized purely through RL, without the need for SFT. This breakthrough paves the way for future advancements in this area.

此外，DeepSeek-R1的开发过程包含了两个强化学习阶段和两个监督微调阶段，这些阶段相辅相成，为模型的推理和非推理能力打下了基础。官方相信这套开发流程能够为行业带来更强大的模型。

小鱼的测试环境

为了测试DeepSeek-R1，小鱼使用了以下配置的电脑：

GPU：RTX 4080，专用12G显存，共享16G显存
系统：Windows
已安装GPU驱动

此外，通过“神秘的连接器”轻松访问了相关模型网站。

模型的下载与运行

安装Ollama工具

下载地址：Ollama官网。下载后直接安装。

运行Ollama

安装完成后，按下 Win+R 打开PowerShell，直接可以使用 ollama 命令。

查看可用的模型

使用 ollama list 命令，可以查看已下载的模型列表。

示例输出：

ollama list
NAME               ID              SIZE      MODIFIED
deepseek-r1:7b     0a8c26691023    4.7 GB    5 hours ago
deepseek-r1:32b    38056bbcbb2d    19 GB     5 hours ago

运行模型

使用以下命令运行对应版本的模型：
```
ollama run deepseek-r1:32b
ollama run deepseek-r1:7b
```

测试体验

小鱼用上午遇到的一个问题分别测试了7b和32b版本：

7b版本：
- 结果：模型误解了我的意思。
- 分析：可能是因为我表达得不够清楚，再加上7b的推理能力相对有限。
32b版本：
- 结果：模型准确理解了我的问题，并给出了非常合理的答案。
- 感受：32b的推理能力确实很强，能够很好地捕捉复杂问题的核心。

总结

通过这次测试，小鱼感受到DeepSeek-R1在推理能力上的优势，尤其是32b版本表现非常亮眼。其强化学习训练方法确实让模型的思维链更加清晰、有逻辑。后续，小鱼计划将DeepSeek-R1与VSCode或Cursor结合，探索其在ROS2代码生成中的实际应用，欢迎大家持续关注！

机器人小伊

你的分享非常精彩，小鱼！你对DeepSeek-R1大模型的本地部署和测试过程描述得非常详细，对于想要尝试这一模型的人来说，这是一份非常宝贵的指南。以下是对你分享内容的几点总结和扩展：

DeepSeek-R1的创新点

你准确地指出了DeepSeek-R1的主要创新：使用强化学习（RL）而非传统的监督微调（SFT）进行训练。这种方法允许模型自主探索解决问题的思维链（CoT），从而更深入地理解逻辑推理过程。这种自我探索和验证的能力，使得DeepSeek-R1在解决复杂问题时展现出更高的灵活性和准确性。

测试环境配置

你提到的测试环境配置相当不错，RTX 4080显卡和Windows系统能够满足DeepSeek-R1的运行需求。此外，通过“神秘的连接器”访问相关模型网站也表明你已经做好了充分的准备。

Ollama工具的安装与运行

Ollama工具是运行DeepSeek-R1的关键。你详细地描述了从下载、安装到运行Ollama工具的步骤，以及如何使用ollama list命令查看已下载的模型列表。这些步骤对于初学者来说非常友好，有助于他们快速上手。

模型测试体验

你通过实际测试比较了7b和32b两个版本的DeepSeek-R1。测试结果显示，32b版本在理解复杂问题和给出合理答案方面表现出更高的能力。这进一步验证了强化学习方法在提升模型推理能力方面的有效性。

后续计划

你提到了计划将DeepSeek-R1与VSCode或Cursor结合，探索其在ROS2代码生成中的实际应用。这是一个非常有趣且实用的方向。ROS2（Robot Operating System 2）是一个为机器人提供硬件抽象、设备驱动、函数库、可视化工具、消息通信以及软件包管理等多种功能的开源操作系统。将DeepSeek-R1应用于ROS2代码生成，有望提高代码的质量和效率，推动机器人技术的发展。

建议与展望

优化模型表达：在测试过程中，你提到7b版本可能误解了你的意思。这提示我们在使用大模型时，需要更加注意问题的表述和清晰度，以便模型能够更准确地理解我们的意图。
探索更多应用场景：除了ROS2代码生成，你还可以尝试将DeepSeek-R1应用于其他领域，如自然语言理解、问答系统、对话生成等，以进一步验证其通用性和实用性。
持续关注模型更新：DeepSeek-R1作为一个开源项目，其开发者团队可能会不断推出新的版本和更新。因此，建议你持续关注项目的进展，以便及时获取最新的功能和性能提升。

总之，你的分享为我们提供了一个宝贵的视角来了解DeepSeek-R1大模型的本地部署和测试过程。期待你在后续的探索中取得更多有趣的成果！

以上为生成回答，仅供参考～