7月26日-28日，由国防科技大学与哈尔滨工业大学共同主办的第七届“纵横”网络空间安全创新论坛在哈尔滨召开。安天科技集团董事长、首席技术架构师肖新光在“网络空间安全战略博弈”专题论坛作了题为《运行耦合——基于全域视角的网络空间对抗范式思考》的报告。安天科技集团高工李柏松在“大语言模型网络安全应用”专题论坛作了题为《政企机构大语言模型平台部署中的典型安全问题》的报告。

以下为《政企机构大语言模型平台部署中的典型安全问题》报告摘要。

李柏松专题报告：《政企机构大语言模型平台部署中的典型安全问题》

报告认为，所有新技术的发展都是一个风险伴生与加速的过程，新技术发展必然伴生着对旧风险的加速运动，导致新的风险，同时新技术也会成为威胁侵害对象。当前网安和人工智能领域在人工智能安全方面，更多将关注度和资源投入到人工智能的算法、数据安全等方面，也高度关注Deepfake等风险，但对人工智能平台本身的传统安全风险，关注不够，应对不足。

DeepSeek火爆，带动了全国政企机构的大模型私域部署，包括带动了一体机等新的建设投入热点，迅速带动了人工智能的政企应用。在欣喜的同时，需要关注这种突击部署也导致其形成了对原有信息数据管理流程的OTT，形成了一个内部信息非受控聚集。而显然在政企侧内部的数据共享和有效治理，包括集成大模型私域部署对应的运行安全和业务安全准备度是不够成熟的。

我国不少政企机构的防御现状，都是假想依托防火墙等安全网关设备“御敌于城门之外”，在机构内部基本上无法有效构成防御纵深。在安全基石重回云端系统侧的趋势下，国内系统侧安全能力上长期被忽视。主机系统侧反病毒、主动防御、主机防火墙、介质管控等关键系统侧安全能力，都不被多数用户重视，大量计算中心和服务器系统本身处于裸奔状态。蠕虫、病毒在内部的扩散感染，网络攻击的横向移动，都比较容易。而在业务层API安全等深度能力，多数也未建设。在这个基础上，叠加大模型部署，又导致了离散的数据聚合到一起，使大模型平台部署成为获取内部海量甚至全量数据的突破口。这会产生叠加的安全灾难。

李柏松认为，大模型安全一定要关注私域部署的安全，围绕企业侧的纵深防御（特别是高质量端侧防御能力），导入模型的数据合规治理流程，以及大模型部署平台本身的运行安全、业务安全问题层层设防。

基于我们自身能力所长（威胁检测识别、云端系统安全、威胁对抗运营闭环等），安天推出《私域化部署大模型的运行侧安全解决方案》。本方案覆盖私域大模型的运行环境安全防护、大模型业务应用与API服务安全防护与大模型用户的终端安全防护等安全层次，覆盖大模型部署上线、持续运营与安全访问使用等关键环节。

与此同时，由于通用和垂域大模型在发布前，模型发布方在预处理、训练、对齐等阶段提供原生化防护能力。因此政企机构在大模型平台部署实施侧需要强化安全防护，在以大模型推进特色业务场景模式建设过程中，能够主动塑造防御阵地且更能有所作为的事情，同时这套解决方案主要应对云数中心和服务器系统处于裸奔或不具备深度防护能力，蠕虫、病毒内部扩散感染，业务应用API防护缺失等安全问题风险，涉及大模型数据合规、内容安全等方面仍需要政企机构与自身数据治理、内容管控等流程机制对接。

方案获取方式

安天微信公众号后台回复【方案】获取《私域化部署大模型的运行侧安全解决方案（简版）》PDF版本。