DeepSeek概述

DeepSeek,全称杭州深度求索人工智能基础技术研究有限公司 。DeepSeek 是一家创新型科技公司,成立于2023年7月17日,使用数据蒸馏技术 ,得到更为精炼、有用的数据。由知名私募巨头幻方量化孕育而生 ,专注于开发先进的大语言模型(LLM)和相关技术。
2024年1月5日,发布DeepSeek LLM(深度求索的第一个大模型)。1月25日,发布DeepSeek-Coder。2月5日,发布DeepSeekMath。3月11日,发布DeepSeek-VL。5月7日,发布DeepSeek-V2。6月17日,发布DeepSeek-Coder-V2。9月5日,更新 API 支持文档,宣布合并 DeepSeek Coder V2 和 DeepSeek V2 Chat ,推出 DeepSeek V2.5。12月13日,发布DeepSeek-VL2 。12月26日晚,正式上线DeepSeek-V3首个版本并同步开源。2025年1月31日,英伟达宣布DeepSeek-R1模型登陆NVIDIANIM。同一时段内,亚马逊和微软也接入DeepSeek-R1模型。英伟达称,DeepSeek-R1是最先进的大语言模型。 2月5日消息,DeepSeek-R1、V3、Coder 等系列模型,已陆续上线国家超算互联网平台。

DeepSeek-R1 本地部署

DeepSeek-R1 不仅仅是另一个 AI 模型,它是推理 AI 模型的一场革命,它提供的性能可与 OpenAI 每月 200 美元的 o1 模型相媲美,同时它还是免费、开源、本地部署时私有的,并且针对数学、编码和逻辑问题解决等任务进行了优化。

使用 Ollama 作为本地运行 DeepSeek-R1 的主干。以下是如何设置 Ollama、DeepSeek-R1(在不同的提炼模型中)和 Open Web UI 进行可视化。

首先使用终端(macOS/Linux)安装 Ollama:

ollama官网
ollam

1
2
curl -fsSL https://ollama.com/install.sh | sh
ollama -v #check Ollama version

然后通过 Ollama 下载 DeepSeek-R1。选择适合你机器的提炼模型。

1
2
3
4
5
6
7
8
9
# Default 7B model (4.7GB - ideal for consumer GPUs)
ollama run deepseek-r1

# Larger 70B model (requires 24GB+ VRAM)
ollama run deepseek-r1:70b

# Actual DeepSeek-R1 (requires 336GB+ VRAM for 4-bit quantization)
ollama run deepseek-r1:671b

设置 Open Web UI(私有接口)。确保你的机器上安装了 docker,然后通过在终端上运行来安装 Open Web UI:

1
2
3
4
5
6
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main

访问 http://localhost:3000 并选择 deepseek-r1:latest。所有数据都保留在你的机器上 - 没有云跟踪或数据泄露。

将 DeepSeek-R1 集成到你的项目中

有两种集成方法。第一种是使用 DeepSeek-R1 本地部署(如上一节所示),第二种是使用 DeepSeek 服务器的云 API(可用于生产)

本地部署(隐私优先)

使用你的 Ollama 实例作为 OpenAI 兼容端点:

1
2
3
4
5
6
7
8
9
10
11
12
13
import openai

# Connect to your local Ollama instance
client = openai.Client(
base_url="http://localhost:11434/v1",
api_key="ollama" # Authentication-free private access
)

response = client.chat.completions.create(
model="deepseek-r1:XXb", # change the "XX" by the distilled model you choose
messages=[{"role": "user", "content": "Explain blockchain security"}],
temperature=0.7 # Controls creativity vs precision
)

使用官方 DeepSeek-R1 云 API

对于可扩展的应用程序,请使用 DeepSeek 的官方 API,你可以在此处通过创建帐户并生成一个密钥来获取 DeepSeek API 密钥:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
import openai
from dotenv import load_dotenv
import os

load_dotenv()
client = openai.OpenAI(
base_url="https://api.deepseek.com/v1",
api_key=os.getenv("DEEPSEEK_API_KEY")
)

response = client.chat.completions.create(
model="deepseek-reasoner",
messages=[{"role": "user", "content": "Write web scraping code with error handling"}],
max_tokens=1000 # Limit costs for long responses
)