lakebbs
返回

用DeepSeek代替了ChatGPT Plus

Yukin2025-01-28 02:10 EST

经过一天的测试,已经取消了ChatGPT Plus续费。目前DeepSeek有IOS端和Web端,暂不支持Win和MacOS(Mac的App Store里也下载不到DeepSeek)

需要本地部署的小伙伴可以找到DeepSeek的源代码仓库:https://github.com/deepseek-ai/DeepSeek-V3
目前仅支持Linux with Python 3.10(Mac and Windows are not supported)

以下是部署步骤:
# 下载代码
git clone https://github.com/deepseek-ai/DeepSeek-V3.git
cd DeepSeek-V3/inference

# 安装依赖
pip install -r requirements.txt

# 下载模型文件
从Hugging Face下载预训练模型,放到模型目录下 /path/to/DeepSeek-V3

#模型格式转换(我理解这一步应该是设置模型参数和模型精度???)
python convert.py --hf-ckpt-path /path/to/DeepSeek-V3 --save-path /path/to/DeepSeek-V3-Demo --n-experts 256 --model-parallel 16

#模型推理
torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200

#然后就可以开始愉快的和DeepSeek模型对话问答了 :)

0
登录后参与讨论登录
还没有评论 · 来做第一个评论的人

猜你也想看