DeepSeek是AI世界中的后起之秀,它通过其强大的语言模式与行业巨头相抗衡。虽然您可以通过其网站或移动应用程序访问DeepSeek,但在Windows PC上本地运行这些模型可提供明显的优势。本指南将带您完成安装和使用DeepSeek R1和V3在自己的机器上的过程,从而为您提供对AI交互的更多控制权和隐私。
DeepSeek R1是一种以推理为中心的模型,可在复杂的解决问题的任务中出色。这是使其在Windows系统上运行的方法:
安装Ollama
步骤1:访问Ollama网站(https://ollama.com/)并下载Windows安装程序。运行文件并按照屏幕提示完成安装。
步骤2:安装Ollama后,返回Ollama网站,然后导航到“模型”选项卡。
选择并安装您的DeepSeek R1型号
步骤1:在“模型”部分中,找到DeepSeek-R1选项。您会看到各种尺寸(1.5b,7b,8b,14b等)。选择最适合计算机功能的型号。对于大多数用户,建议使用1.5B或7B版本开始。
步骤2:复制您选择的型号的安装命令。例如,要安装1.5B版本,命令将是:
ollama run deepseek-r1:1.5b
步骤3:Windows PC上的打开命令提示符。粘贴复制命令,然后按Enter。安装过程将开始,这可能需要一些时间,具体取决于您的互联网速度和型号大小。
运行DeepSeek R1
步骤1:安装完成后,您可以在命令提示符中直接开始使用DeepSeek R1。只需运行与安装相同的命令:
ollama run deepseek-r1:1.5b
步骤2:现在,您可以通过将查询或提示在命令提示符中键入或提示来与DeepSeek R1模型进行交互。
当通过命令提示符使用DeepSeek R1时,它并不能保存您的聊天历史记录。要获得持续性对话的用户友好体验,您可能需要设置图形界面。
设置DeepSeek R1的用户界面
有两种主要方法可以添加DeepSeek R1的图形接口:
方法1:使用chatbox AI
步骤1:从其官方网站下载并安装chatbox AI(https://chatboxai.app/en)。
步骤2:启动Chatbox AI并导航到其设置。
步骤3:在“模型”选项卡下,选择“ DeepSeek API”。
步骤4:您需要输入DeepSeek API密钥。访问DeepSeek API文档页面(https://api-docs.deepseek.com/)获取您的钥匙。
步骤5:在Chatbox AI中输入您的API键并保存更改。现在,您可以通过此接口使用DeepSeek R1。
方法2:使用Docker
步骤1:从官方Docker网站下载并安装Windows的Docker桌面。
步骤2:如果您还没有一个Docker帐户,请创建一个。
步骤3:启动Docker桌面并登录。
步骤4:打开命令提示符并运行以下命令以设置DeepSeek Web UI:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
步骤5:命令完成后,打开Docker桌面并转到“容器”部分。您应该看到一个带有端口号3000:8080的新容器。
步骤6:单击Docker桌面中的端口号3000:8080。这将在您的默认Web浏览器中打开一个新的选项卡,其中使用地址Localhost:3000。
步骤7:通过输入您的姓名,电子邮件和密码在此本地Web界面上设置帐户。请记住这些细节,因为每次在本地使用DeepSeek R1时都需要它们。
要通过此Web界面使用DeepSeek R1,请确保Ollama和Docker都在后台运行。首先启动Ollama,然后启动Docker,并在访问Web浏览器中的LocalHost之前确保相关容器在Docker中运行:3000。
本地安装和运行DeepSeek V3
DeepSeek V3是一种高级专家(MOE)语言模型,可提供多功能AI功能。这是在Windows PC上进行设置的方法:
步骤1:从官方Python网站安装Python 3.9。在安装过程中,请确保检查该选项,将Python添加到您的系统路径中。
步骤2:从中安装gitgit-scm.com。安装后,通过打开命令提示和键入验证它正在工作:
git --version
步骤3:如果您有NVIDIA GPU,请从developer.nvidia.com。
步骤4:打开命令提示符并运行以下命令来设置DeepSeek V3环境:
另请阅读:初学者指南:Windows 11中本地安装DeepSeek
git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venvScriptsactivate
步骤5:安装Pytorch和其他必需的软件包:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt
步骤6:下载DeepSeek V3模型权重:
python download_model.py
步骤7:启动DeepSeek V3服务器:
python windows_server.py --model model_weights_bf16 --trust-remote-code
步骤8:在新的命令提示符窗口中,测试模型:
python test_client.py
您现在可以访问DeepSeek V3服务器https://127.0.0.1:30000。
在本地运行DeepSeek型号可在Windows PC上为您提供功能强大的AI功能。尽管它需要一些设置,但隐私和离线访问的好处使许多用户值得。请记住选择最适合计算机功能的型号大小,并在不依赖云服务的情况下探索AI世界。