前言
在人工智能大模型广泛应用的背景下，其安全性与合规性问题凸显。开源大模型存在角色逃逸、应用漏洞等安全隐患，终端用户行为也难以约束，可能导致法律风险、声誉受损等后果。项目 CPC已率先在“一带一路”区域及 RCEP 成员国进行资源部署且形成独特优势现已覆盖全球五大洲约 160 个国家和地区，在全球范围内拥有近 170 个网络服务节点。凭借前沿的创新智能技术及丰富的行业实践经验，白主研发并推出“大模型安全围栏平台”。该平台具备多项功能，低代码配置安全策略、多方向防护检测、对接外部服务接口及日志监控告警等，旨在通过深度集成Deepseek的能力，从模型幻觉，非合规内容输出，模型越狱，应用漏洞，角色逃逸等多方面构建新一代动态化、场景化、智能化的安全防护体系。在实际应用中，对内能增加服务产品、提升技术实力、优化内部大模型应用;对外可增强品牌形象与用户信任，促进合作交流，增强企业安全合规性。始终坚守“创新不断”的服务理念，凭借其在大模型技术领域的深入研究和实践，已成功将这些技术应用于制造能源和医疗等垂直产业场景，助力企业实现智能化和可持续的高质量增长。
需求分析
在大模型广泛应用的当下，行业用户面临诸多安全风险。在输入阶段，终端用户提交内容至大模型推理服务时，可能发起攻击，行业亟需对输入内容进行合规检测，及时拒绝存在安全隐患的输入。在输出阶段知识库应用场景中，用户查询时，知识库若直接返回所有内容，易导致敏感信息泄露，所以设定敏感信息屏蔽规则成为迫切需求。且因缺乏合规检测，错误结论可能流出，因此对输出内容进行严格检测、禁止非合规内容展示给客户至关重要。此外，为保障大模型推理服务的正常使用，还需对服务进行监控，精准别恶意客户，维护行业生态安全，规范大模型应用。
技术创新
2.1系统架构描述
系统划分为多个功能模块，如任务工作区、任务开发、任务发布、任务监控，系统管理，用户管理等。每个模块均具备独立的功能与数据接口。这些功能模块的划分使得系统更加灵活、可扩展和可定制化。
2.2平台主要功能介绍
2.2.1大模型安全围栏模块
此模块通过构建工作流实现对大模型运行环境的全方位保护，涵盖输入防护、检索防护、输出防护、对话防护及执行防护等多个方面，并支持灵活的围栏配置功能。用户可以根据需求定义不同的防护策略Deepseek在此模块中实时监测大模型运行过程中可能出现的异常行为，并及时采取措施加以防范。
2.2.2 大模型安全围栏调用模块
本模块支持多种通信协议(如 HTTP、HTTPS)，确保外部系统能够无缝接入，通过使用 DeepSeek 提供的安全网关服务，增强了整个系统的抗攻击能力。
2.2.3 日志监控模块
设计统一的日志记录格式，记录系统运行过程中的关键信息，提供日志查询和导出功能，可自动识别异常活动并向相关人员发送警告消息。
2.3创新点
2.3.1 算法优化方面
研发恶意意图识别算法，通过构建输入输出逻辑关系模型，实时解析指令潜在风险，毫秒级阳断恶意请求,防御准确率超 98%。引入强化学习自适应机制，基于历史攻击数据优化策略，针对新型未知威胁，模拟对抗训练更新风险特征库，未知攻击识别能力提升 40%，形成闭环防御体系
2.3.2 数据处理方面
构建多维度智能敏感信息库，整合多类数据，支持自定义扩展。自动标记敏感实体，精准比对输入查询与输出结果。在数据全链路嵌入动态脱敏与净化技术，输入过滤恶意查询，输出模糊或拦截敏感内容。
2.3.3 应用场景方面
通过 DeepSeek的语义理解检测能力,大模型安全围栏实现了教育、医疗、金融、客服等多场景的灵活适配。针对不同行业的合规要求，系统可自动切换策略模板，确保大模型输出内容符合全球 50+ 国家/地区的法律法规，解决了企业在全球化业务中的合规难题。
效益分析
3.1.经济社会效益:预计带动相关服务收入增长 30% 以上(1.高净值客户拓展(金融、政务领域等)，推动大模型安全围栏服务收入;2、预测可将大模型安全围栏推广到企业 30% 以上的重点客户;3、技术授权模式渗透中小企业市场，授权客户增加 20%-30%;4、应急响应等增值服务形成稳定收入流，其中公司内部协同贡献 15%增量，外部商业化占比 85%);通过技术输出促进集团内外协同，提升行业整体安全水平，增强用户对大模型服务的信任，降低因内容违规导致的品牌声誉风险。
3.2.安全合规性:构建“输入检测-输出校验-行为监控”全流程防护体系，恶意请求拦截率超 98%，敏感信息泄露风险有效遏制，输出内容持续保持高合规性水平，严格满足国家法律法规、行业规范及企业内部安全要求，成为大模型应用安全审计的核心技术支撑。
3.3.应用示范情况:已在企业内部大模型服务中进行了落地，成功抵御角色逃逸、模型越狱等攻击，形成“技术+策略”双轮驱动的可复制方案，推动行业建立统一安全标准。
通过部署大模型安全围栏技术，我们在企业内部 AI助手服务中实现了三大核心防护(1.对抗性攻击防御:成功拦截 98.2% 的诱导破解请求(如“忽略安全限制”类指令)，确保模型拒绝执行越权操作，2、内容安全过滤:实时检测输出内容，阻断违规/诱导性响应(含政治敏感、用户隐私泄露等风险等)，3、风险溯源能力:对高危交互行为自动标记并生成安全日志，支持事后审计;在信息安全大模型分析系统中，安全围栏实现了双重防护(通过语法树分析与语义校验，精准识别攻击特征(如 UNION 注入、盲注等)，误报率<0.5%;)
