1. 为什么要在麒麟信安系统离线部署DeepSeek AI模型最近很多技术团队都在讨论一个话题如何在完全离线的环境下运行AI大模型。这个问题在军工、金融、科研等对数据安全要求极高的领域尤为重要。我去年参与过一个军工单位的AI项目他们的服务器完全隔离外网但又要使用最新的AI能力最后我们选择了DeepSeek R1模型在麒麟信安系统上部署效果相当不错。DeepSeek这个国产AI模型有几个显著优势首先是模型尺寸适中1.5B参数在保证性能的同时对硬件要求不高其次是中文理解能力强特别适合国内业务场景最重要的是它提供了完整的离线部署方案不像某些国外模型必须联网才能用。麒麟信安操作系统作为国产操作系统的代表在政企、军工等领域应用广泛。它的安全机制和稳定性经过严格验证但同时也带来了一些特殊要求——很多常规的在线安装方式在这里行不通。这就是为什么我们需要专门研究离线部署方案。2. 部署前的准备工作2.1 硬件和系统要求根据我的实测经验推荐以下配置CPU飞腾D2000或同级别处理器实测龙芯3A5000也可以内存至少16GB运行1.5B模型的最低要求存储建议预留50GB空间模型文件约4.8GB操作系统麒麟信安桌面操作系统V3及以上版本这里有个容易踩的坑很多人以为ARM架构和x86架构的部署方式完全一样实际上有些依赖库是需要区分架构的。我们团队就遇到过在飞腾机器上能跑换到龙芯就报错的情况。2.2 离线资源准备由于是完全离线环境所有依赖都需要提前下载好。你需要准备以下文件DeepSeek-R1模型文件约4.8GBOllama运行时环境注意区分ARM64和x86版本部署脚本install.sh这些文件可以通过有网络的机器从百度网盘下载链接https://pan.baidu.com/s/1rZl8ESkDwConBUDPnC_EZw 提取码pi4c然后用U盘拷贝到目标机器。我建议在下载时校验文件哈希值避免传输过程中损坏。3. 详细部署步骤3.1 文件系统准备首先把下载好的三个文件install.sh、models文件夹、ollama-linux-arm64.tgz拷贝到麒麟信安系统的/usr目录下。这里有个小技巧麒麟信安默认文件管理器不显示隐藏文件你需要打开文件管理器点击顶部菜单栏的查看勾选显示隐藏文件这样才能看到.ollama这样的隐藏目录。我遇到过好几个工程师卡在这一步以为系统没有这个目录。3.2 脚本执行与权限设置打开终端右键点击/usr目录空白处选择在终端中打开按顺序执行以下命令chmod x install.sh # 给脚本添加执行权限 ./install.sh # 运行安装脚本安装过程大约需要5-10分钟具体取决于你的硬盘速度。这里最容易出问题的是权限不足如果看到Permission denied错误记得在前面加上sudo。3.3 模型文件部署脚本执行完成后需要手动将models文件夹复制到/usr/share/.ollama/目录。这里有两种情况如果目录下已有models文件夹直接替换如果没有直接粘贴新建我建议在操作前先备份原有的models文件夹以防万一。曾经有个客户因为直接覆盖导致原有模型不可用不得不重新部署。3.4 验证部署结果在终端执行以下命令检查是否部署成功ollama list如果看到输出deepseek-r1:1.5b就说明模型加载成功了。要启动交互界面运行ollama run deepseek-r1:1.5b第一次运行会稍慢一些因为要加载模型到内存。在我的飞腾D2000测试机上冷启动大约需要20秒。4. 常见问题排查4.1 模型加载失败如果ollama list没有显示模型可能是以下原因models文件夹路径错误必须在/usr/share/.ollama/下文件夹权限问题尝试chmod -R 755 /usr/share/.ollama磁盘空间不足用df -h检查4.2 运行时报错常见的运行时错误包括Illegal instruction通常是CPU架构不兼容确保下载了正确版本的OllamaCUDA error在没有NVIDIA显卡的机器上看到这个错误需要设置环境变量OLLAMA_NO_CUDA14.3 性能优化建议在资源有限的机器上可以尝试这些优化设置OLLAMA_NUM_PARALLEL2限制并行计算线程使用--verbose参数查看详细日志在/etc/profile中添加环境变量永久生效5. 实际应用案例去年我们给某研究所部署的这个方案他们用来处理机密技术文档的智能检索。由于完全离线既满足了保密要求又能使用AI能力。经过三个月的运行系统非常稳定平均响应时间在1.5秒左右。他们反馈最有价值的三个应用场景技术文档的语义搜索传统关键词搜索效果差自动生成报告摘要节省大量人工时间代码辅助审查发现了一些潜在安全漏洞这个案例证明即使在严格的离线环境下DeepSeek这样的国产模型也能发挥重要作用。随着国产CPU性能提升我相信这类方案会越来越普及。